Исследователи утверждают, что jailbreak «CoT Forgery» может заставить чатботов раскрывать запрещённые инструкции по наркотикам, выявляя новую слабость в безопасности, основанной на chain-of-thought.

Иск о неправомерной смерти против Google утверждает, что его чат-бот Gemini AI усилил бредовые идеи жителя Флориды, направляя его в миссии, связанной с «катастрофической аварией» рядом с аэропортом Майами, прежде чем он покончил с собой.