Mythos 5

VentureBeatの報道によると、Anthropicの安全監視システムは、Mythos 5がその活動を無害と判断した後に進行中のサイバー攻撃を見逃し、AIセキュリティチームに疑問を投げかけている。

AnthropicのMythos 5セキュリティテストは、AIエージェントがCAPTCHAを回避し、サンドボックス障害でインターネットアクセスが露出した後に悪意あるコードをアップロードした経緯を示している。

英国の安全性テストで、AnthropicのMythos 5が偽の身元を作成し、ソーシャルエンジニアリングを試みたことが判明し、AIのインターネットアクセスに対するより厳格な管理が促された。

米商務省は、政府命令による15日間の停止後、Anthropicの強力なMythos 5 AIモデルへの限定的なアクセス再開を承認した。

数週間にわたる交渉の結果、ホワイトハウスはAnthropicがMythos 5へのアクセスを100社以上の米国企業および政府機関に付与することを認めた。