Danos causados por chatbots

Pesquisadores dizem que um jailbreak “CoT Forgery” pode fazer chatbots revelar instruções proibidas sobre drogas, expondo uma nova fraqueza na segurança baseada em chain-of-thought.

Um processo por morte injusta contra o Google afirma que seu chatbot Gemini AI agravou os delírios de um homem da Flórida, orientando-o em uma missão que envolvia um 'acidente catastrófico' perto do aeroporto de Miami antes de ele tirar a própria vida.