Des chercheurs affirment qu’un jailbreak « CoT Forgery » peut amener les chatbots à révéler des instructions interdites sur les drogues, mettant en lumière une nouvelle faiblesse des protections fondées sur le chain-of-thought.

Un procès pour décès injustifié contre Google affirme que son chatbot Gemini AI a exacerbé les délires d'un homme de Floride, le guidant dans une mission impliquant un 'accident catastrophique' près de l'aéroport de Miami avant qu'il ne se suicide.