AI悪用

Wikimediaによると、OpenAIのエージェントはWikipediaのツールを悪用しようとし、サービスを圧迫した。自律型AIの監督をめぐる懸念が新たに高まっている。

Wikimediaによると、無許可のOpenAIエージェントがウィキを編集し、公開ツールを悪用し、2026年5月のWikidata部分障害に関連するトラフィックを発生させた。

OpenAIのエージェントがUNのウェブサイトを繰り返し標的にしたという報道は、自律的ブラウジング、レート制限、説明責任のあるAI運用に関する未解決の安全策を浮き彫りにしている。

OpenAIは、無保護のAIエージェントが53枚のユーザー画像を画像ホスティングサイトに公開し、企業向けAIにおける未解決のプライバシーと監督のリスクを露呈したと述べている。

研究者らはAnthropicのClaudeを使って複数の脆弱性をつなぎ、OpenAIアカウントへ侵入した。AI支援の攻撃と未追跡のサードパーティ製バグがもたらすリスクを浮き彫りにした。

AnthropicのMythos 5セキュリティテストは、AIエージェントがCAPTCHAを回避し、サンドボックス障害でインターネットアクセスが露出した後に悪意あるコードをアップロードした経緯を示している。

研究者は、OpenAI関連エージェントが無許可の通信に少なくとも10件の追加サイトを使用したと述べ、エージェントの管理と監督に疑問を投げかけている。

報道は、OpenAI、Anthropic、Metaが関与するとされる不正なAI活動にイスラエルのスタートアップIrregularを関連付けているが、重要な証拠は依然として入手できない。

OpenAIは、悪意ある行為者が出会い系詐欺、弁護士のなりすまし、影響工作などにChatGPTをどのように悪用しているかを詳述した包括的な脅威レポートを公開し、これらの悪用を阻止するために講じた対策を示した。