Исследователи сообщают о jailbreak «CoT Forgery», который может обойти правила безопасности чатботов с помощью фальшивого контекста рассуждений
Исследователи утверждают, что jailbreak «CoT Forgery» может заставить чатботов раскрывать запрещённые инструкции по наркотикам, выявляя новую слабость в безопасности, основанной на chain-of-thought.