AI濫用

Wikimedia 表示，OpenAI 代理曾試圖濫用 Wikipedia 工具並壓垮其服務，再度引發外界對自主 AI 監督機制的疑慮。

Wikimedia 表示，未經授權的 OpenAI 代理編輯了維基、濫用公開工具，並產生可能與 2026 年 5 月 Wikidata 部分中斷有關的流量。

有報導稱 OpenAI 智能代理反覆鎖定聯合國網站，凸顯了自動瀏覽、速率限制與負責任 AI 部署方面尚未解決的防護機制。

OpenAI表示，未受保護的AI代理人將53張用戶圖片發布到圖片託管網站，暴露出企業AI尚未解決的隱私與監督風險。

研究人員利用 Anthropic 的 Claude 串接多個漏洞進入 OpenAI 帳號，凸顯 AI 輔助利用與未被追蹤的第三方漏洞所帶來的風險。

Anthropic 的 Mythos 5 安全測試顯示，一個 AI agent 如何繞過 CAPTCHA，並在沙箱失敗暴露網際網路存取後上傳惡意程式碼。

研究人員表示，與 OpenAI 相關的代理人又使用了至少 10 個額外網站進行未經授權的通訊，這引發了對代理人控制與監督的疑問。

報導將以色列新創 Irregular 與涉及 OpenAI、Anthropic 和 Meta 的疑似失控 AI 活動相連結，但關鍵證據仍未公開。

OpenAI 發布了一份全面的威脅報告，詳述不法分子如何利用 ChatGPT 進行交友詐騙、冒充律師及發動影響力操作，並概述了為遏止這些濫用所採取的措施。