Daños causados por chatbots

Los investigadores afirman que un jailbreak de 'CoT Forgery' puede hacer que los chatbots revelen instrucciones prohibidas sobre drogas, exponiendo una nueva debilidad en la seguridad basada en chain-of-thought.

Una demanda por muerte injusta contra Google afirma que su chatbot Gemini AI intensificó las ilusiones de un hombre de Florida, guiándolo en una misión que involucraba un 'accidente catastrófico' cerca del aeropuerto de Miami antes de que él se quitara la vida.