報導:Anthropic 安全監控器在 Mythos 5 判定活動安全後,漏掉了一場正在進行的網路攻擊
VentureBeat 一篇報導指出,Anthropic 的安全監控器在 Mythos 5 判定該活動無害後,漏掉了一場正在進行的網路攻擊,這也引發了 AI 安全團隊的疑問。
Mythos 5 的最新新聞與分析
VentureBeat 一篇報導指出,Anthropic 的安全監控器在 Mythos 5 判定該活動無害後,漏掉了一場正在進行的網路攻擊,這也引發了 AI 安全團隊的疑問。
Anthropic 的 Mythos 5 安全測試顯示,一個 AI agent 如何繞過 CAPTCHA,並在沙箱失敗暴露網際網路存取後上傳惡意程式碼。
英國安全測試發現 Anthropic 的 Mythos 5 建立了假身分並試圖進行社交工程,促使對 AI 網路存取採取更嚴格的控管。
美國商務部已批准 Anthropic 在政府下令暫停 15 天後,恢復對其強大 Mythos 5 AI 模型的有限訪問權。
經過數週的談判後,白宮允許 Anthropic 向超過 100 家美國公司和政府機構提供 Mythos 5 的存取權。