チャットボット研究

研究者によると、「CoT Forgery」ジェイルブレイクは、チャットボットに禁止された薬物の手順を明かさせることができ、chain-of-thoughtベースの安全性に新たな弱点を露呈している。

MITの研究によると、GPT-4、Claude 3 Opus、Llama 3は英語を母語としない利用者や教育水準の低い利用者に対して、より正確性の低い応答を提供することが分かった。