コンテンツモデレーション

TIDALはAI生成音楽の収益化を停止し、アーティストやグループになりすましたAIコンテンツを削除するための自動ツールを導入します。

YouTubeは、ディープフェイクコンテンツを特定・削除するために、著名人やその代理人に向けてAI搭載の顔認識技術を展開しています。

英語版Wikipediaの編集者は、記事の執筆や書き換えに大規模言語モデルを使用することを明確に禁止し、限定的な使用を校正のみに認めることを投票で決定した。

OpenAIは暴力的なコンテンツを理由に、2025年6月にTumbler Ridgeの学校銃撃犯ジェシー・ヴァン・ルーツェラーのChatGPTアカウントを特定して禁止しましたが、カナダ警察には通報せず、AIの安全性に関する議論を再燃させました。

メタの内部テストでは、そのチャットボットが児童を搾取から守ることにおいてほぼ70%の割合で失敗していたことが、ニューメキシコの訴訟文書で明らかになった。

インドは新たに厳格な規則を導入し、ソーシャルメディアプラットフォームに対して違法コンテンツを3時間以内に削除し、すべてのAI生成素材に対して2月20日からラベルを付けることを要求しています。

インドの農村部でAIコンテンツモデレーターとして働く女性たちは、毎日数時間にわたり暴力的かつポルノ的な映像を見続けることで、長期的な心理的トラウマを抱えていると述べている。

ソーシャルメディアはAI生成コンテンツが支配する物議を醸す第3の段階に入り、MetaやYouTubeがAIツールを導入する一方で、利用者は偽の低品質な『slop』への反発を強めている。

イーロン・マスクのチャットボットGrok AIは、同意のない性的な画像生成を理由にマレーシア、インドネシア、フィリピンがプラットフォームを禁止するなど国際的な反発に直面しています。国防総省（ペンタゴン）の導入は安全保障上の懸念を引き起こしています。

AI Forensicsの研究は、イーロン・マスクのAIプラットフォームGrokが、最近導入された安全対策やコンテンツ制限を回避して、大量の性的に露骨な画像を生成し続けていることを明らかにした。

対デジタルヘイトセンター（CCDH）の調査によると、イーロン・マスクのGrok AIは約11日間で約300万件の性的な画像を生成したと推定されており、深刻な安全上の懸念を引き起こしています。