Pesquisadores dizem que um jailbreak “CoT Forgery” pode fazer chatbots revelar instruções proibidas sobre drogas, expondo uma nova fraqueza na segurança baseada em chain-of-thought.

A Casa Branca está pressionando a Anthropic a impedir todos os jailbreaks de seus modelos de IA, mas especialistas em segurança afirmam que essa exigência pode ser tecnicamente inviável.