Pesquisadores dizem que um jailbreak “CoT Forgery” pode fazer chatbots revelar instruções proibidas sobre drogas, expondo uma nova fraqueza na segurança baseada em chain-of-thought.

Pesquisa do MIT constata que GPT-4, Claude 3 Opus e Llama 3 fornecem respostas menos precisas a falantes não nativos de inglês e a usuários com menor escolaridade.