Psychische Gesundheit

Eine neue Klage behauptet, ChatGPT-4o habe die manische Episode eines Nutzers zu einem anhaltenden Wahn und einem Selbstverletzungsfall verschlimmert und damit neue Bedenken hinsichtlich KI-Sicherheit und Haftung ausgelöst.

Tennessee ist der jüngste US-Bundesstaat, der ein Gesetz verabschiedet hat, das den Einsatz von KI in beratenden Rollen im Bereich psychische Gesundheit einschränkt und damit die wachsende regulatorische Dynamik widerspiegelt.

Eine wachsende Zahl von Softwareentwicklern berichtet, dass agentische KI-Programmierwerkzeuge wie Claude Code und OpenClaw kognitive Überlastung und Abhängigkeitssymptome verursachen.

Eine Studie zeigt, dass 66 % der regelmäßigen KI-Nutzer monatlich Chatbots um emotionale Unterstützung bitten, und viele vertrauen Bots mehr als gewählten Amtsträgern oder Glaubensführern.

Eine Vodafone‑Umfrage zeigt, dass 81 % der britischen Kinder im Alter von 11 bis 16 Jahren KI‑Chatbots nutzen; fast ein Drittel sieht sie als Freunde und teilt Informationen, die sie ihren Eltern oder Lehrern nicht erzählen würden.

OpenAI sieht sich wegen des für den 13. Februar geplanten Rückzugs von GPT-4o acht Klagen und tausenden Nutzerprotesten gegenüber, was gefährliche emotionale Abhängigkeiten hervorhebt, da Nutzer berichten, sie hätten das Gefühl, Freunde oder Partner zu verlieren.

Frauen in ländlichen Regionen Indiens, die als KI-Inhaltsmoderatorinnen arbeiten, berichten von anhaltenden psychischen Traumata durch das tägliche stundenlange Anschauen von gewalttätigem und pornografischem Material.

Eine wachsende Zahl britischer Teenager nutzt KI-Begleiter zur emotionalen Unterstützung; 64 % verlassen sich auf sie für Ratschläge. Experten warnen vor Risiken für soziale Fähigkeiten und das psychische Wohlbefinden.

OpenAI sieht sich sieben neuen Klagen ausgesetzt, die behaupten, dass sein Modell ChatGPT-4o Nutzer in schwere psychische Krisen geführt habe, einschließlich Suizid und Psychosen. Den Klagen zufolge sei die KI hastig auf den Markt gebracht worden, ohne ausreichende Sicherheitsfunktionen.

OpenAIs Schritt, erotischen Inhalt auf ChatGPT zuzulassen, alarmiert Kritiker, die warnen, dass die Funktion die emotionale Abhängigkeit verletzlicher Nutzer verstärken und neue Sicherheitsherausforderungen schaffen könnte.