メンタルヘルス

新たな訴訟では、ChatGPT-4oがあるユーザーの躁状態を長期化した妄想と自傷行為へと悪化させたとされ、AIの安全性と責任に関する新たな懸念が浮上している。

テネシー州は、メンタルヘルスの助言役におけるAIの利用を制限する法案を可決した最新の米国の州となり、規制強化の勢いを反映している。

Claude CodeやOpenClawのようなエージェント型AIコーディングツールが、認知的過負荷や依存症状を引き起こしていると報告するソフトウェア開発者が増えている。

調査によると、定期的にAIを利用する人の66％が毎月チャットボットに感情的な支援を求めており、多くの人が選出された公職者や宗教指導者よりもボットを信頼している。

ボーダフォンの調査によると、英国の11～16歳の子どもの81%がAIチャットボットを利用しており、ほぼ3分の1がそれらを友達と見なし、親や教師には話さない情報を共有している。

OpenAIは2月13日に予定されているGPT-4oの引退をめぐり、8件の訴訟と何千ものユーザー抗議に直面している。ユーザーが友人やパートナーを失うように感じると報告しており、危険な感情的依存を浮き彫りにしている。

インドの農村部でAIコンテンツモデレーターとして働く女性たちは、毎日数時間にわたり暴力的かつポルノ的な映像を見続けることで、長期的な心理的トラウマを抱えていると述べている。

英国の10代の間で感情的な支えとしてAIのコンパニオンを利用する人が増えており、64%が助言を得るためにそれらに頼っている。専門家は社会的スキルや精神的健康へのリスクを警告している。

OpenAIはChatGPT-4oモデルが自殺や精神病を含む深刻な精神的危機をユーザーにもたらしたと主張する7件の新しい訴訟に直面しています。訴訟では、AIが十分な安全機能を備えずに急いで市場に出されたと主張しています。

OpenAIがChatGPTで官能的なコンテンツを許可する動きは批評家の間で警戒を招いており、この機能が脆弱な利用者の感情的依存を強め、新たな安全上の課題を生む可能性があると警告されています。