聊天機器人研究

研究人員表示，「CoT Forgery」越獄可讓聊天機器人吐出被禁止的藥物製作指令，揭示了 chain-of-thought 基礎安全機制的一項新弱點。

MIT 的研究發現，GPT-4、Claude 3 Opus 與 Llama 3 對非英語母語使用者與教育程度較低的使用者提供較不準確的回應。