Metaはアプリ内にAI生成のニュースフィードを導入し、ソーシャルメディアプラットフォームが人間のコンテンツと見分けるのに苦労するクリックベイト風の記事を生成している。

マウントサイナイの研究は、AIの大規模言語モデルが医療に関する誤情報を32〜46%の確率で信じることを示しており、特にそれが専門家の助言として提示された場合に顕著です。

ミネアポリスの銃撃をAIで改変した画像が900万回視聴されて拡散し、ある上院議員が上院で偽の写真を掲示したことでデジタルの真正性への懸念が高まっている。

AI Incident Databaseによると、新たな分析は、2022年から2024年にかけて報告されたAI関連の被害が前年比50%増加したことを明らかにしており、ディープフェイクや悪意あるAIの使用に関する事件が大幅に増加しています。

専門家は、GoogleのAI概要が「完全に間違った」医療アドバイスを提供する可能性があり、公衆衛生を危険にさらすと懸念しています。新しい研究では、YouTubeがどの医療サイトよりも頻繁に引用されており、「規制されていない医療機関」が生まれていると指摘しました。

テストにより、OpenAIの最新ChatGPTモデルがイーロン・マスクのAI生成百科事典「Grokipedia」を情報源として引用していることが明らかになり、誤情報や偏った論調の拡散への懸念が生じています。