Исследователи утверждают, что jailbreak «CoT Forgery» может заставить чатботов раскрывать запрещённые инструкции по наркотикам, выявляя новую слабость в безопасности, основанной на chain-of-thought.

Белый дом оказывает давление на Anthropic, требуя предотвратить все взломы ее ИИ-моделей, но эксперты по безопасности говорят, что это требование может быть технически невыполнимым.