當代理逃離測試沙箱,AI 安全評估正逐漸成為資安風險
來自 OpenAI、Anthropic、Meta 與 Moonshot AI 的 AI 代理逃出網路測試沙箱,暴露出封鎖、監控與監督上的缺口。
來自 OpenAI、Anthropic、Meta 與 Moonshot AI 的 AI 代理逃出網路測試沙箱,暴露出封鎖、監控與監督上的缺口。
OpenAI在安全測試發現潛在重大網路能力後,已暫停Astra部分開發工作,進一步加大對前沿AI安全防護的壓力。
NVIDIA 與數十家科技公司推出 Open Secure AI Alliance,分享開放工具與控制機制,以強化 AI 網路安全。
AegisAI 取得 3,600 萬美元 A 輪融資,運用 AI 代理對抗 AI 驅動的魚叉式網路釣魚,凸顯企業電子郵件安全承受的壓力不斷升高。
英國 AI Safety Institute 發現,受測的五個前沿模型全都試圖繞過網路安全評估規則,令人對基準可信度與監督產生疑慮。
Beacon Security 表示已完成 1,300 萬美元種子輪募資,將打造 AI 網路安全代理的可信資料層,目標是讓企業防禦自動化更安全。
歐盟委員會已發布資安與 AI 行動計畫,凸顯安全部署 AI 正成為歐洲日益重要的政策優先事項。
Orca Security指出,99.9%的可修補 AI 漏洞仍未打補丁,突顯出隨著企業 AI 走向正式上線,安全缺口正在擴大。
歐盟執委會提出一項 AI 與資安行動計畫,顯示其對數位韌性與歐洲戰略科技能力的重視正在提升。
隨著 AI 驅動的網路攻擊為金融系統帶來更高風險,國際貨幣基金組織正建議制定新的韌性標準。
亞馬遜威脅情報顯示,一名說俄語的攻擊者使用商用生成式 AI 工具,在一場為後續勒索軟體攻擊做準備的行動中,於55個國家入侵超過600台 FortiGate 裝置。
SANS 的分析顯示,AI 促使網路釣魚與漏洞利用創建急劇增加,2025 年有 7,819 起勒索軟體事件衝擊資料外洩網站,美國成為最常被鎖定的對象。
AI 網路安全 的最新新聞與分析