Mount Sinai 的研究顯示，AI 大型語言模型在 32% 至 46% 的情況下會相信醫療錯誤資訊，尤其在以專家建議的方式呈現時。

人工智慧操弄的明尼阿波利斯槍擊影像在網路上瘋傳，達到900萬次觀看，且一名參議員在參議院展示了假照片，引發對數位真實性的疑慮。

根據AI Incident Database的分析，新研究顯示從2022到2024年，與AI相關的傷害報告年增率達50%，其中涉入深偽（deepfake）及惡意使用AI的事件明顯激增。

專家擔心 Google 的 AI 概要可能會提供「完全錯誤」的醫療建議，危及公共衛生。一項新研究發現，YouTube 被引用的頻率高於任何醫療網站，形成了一個「不受監管的醫療權威」。

測試顯示，OpenAI 最新的 ChatGPT 模型將伊隆·馬斯克由 AI 生成的百科全書 Grokipedia 作為引用來源，導致人們對錯誤資訊與偏頗敘事擴散的擔憂。