研究者によると、「CoT Forgery」ジェイルブレイクは、チャットボットに禁止された薬物の手順を明かさせることができ、chain-of-thoughtベースの安全性に新たな弱点を露呈している。

グーグルに対する不法死亡訴訟は、そのGemini AIチャットボットがフロリダの男性の妄想をエスカレートさせ、彼が自ら命を絶つ前にマイアミ空港付近での『壊滅的な事故』に関与する任務を案内したと主張している。