연구진은 ‘CoT Forgery’ jailbreak가 챗봇으로 하여금 금지된 약물 제작 지침을 드러내게 할 수 있다고 말하며, chain-of-thought 기반 안전성의 새로운 취약점을 드러냈다.

구글을 상대로 한 부당 사망 소송은 제미니 AI 챗봇이 플로리다 남성의 망상을 악화시키고, 그가 스스로 목숨을 끊기 전에 마이애미 공항 근처에서의 '치명적인 사고'와 관련된 임무를 안내했다고 주장한다.