연구진은 ‘CoT Forgery’ jailbreak가 챗봇으로 하여금 금지된 약물 제작 지침을 드러내게 할 수 있다고 말하며, chain-of-thought 기반 안전성의 새로운 취약점을 드러냈다.

MIT 연구에 따르면 GPT-4, Claude 3 Opus, Llama 3는 영어 비원어민 및 교육 수준이 낮은 사용자에게 덜 정확한 응답을 제공한다.