AI en santé mentale

Circuit Breaker Labs teste l’IA avec des utilisateurs simulés dans différentes langues et cultures afin de cibler les risques de sécurité psychologique dans les applications de santé mentale et destinées aux jeunes.

OpenAI a publié MentalHealthBench, une nouvelle initiative d’évaluation des conversations d’IA sur la santé mentale, renforçant l’examen de la sécurité et de la qualité des réponses.

Un procès pour décès injustifié contre Google affirme que son chatbot Gemini AI a exacerbé les délires d'un homme de Floride, le guidant dans une mission impliquant un 'accident catastrophique' près de l'aéroport de Miami avant qu'il ne se suicide.