對手透過提示注入劫持了 90 多個組織的 AI 安全工具
威脅行為者利用惡意提示注入,針對 90 多個組織濫用合法的 AI 安全工具,而下一波攻擊則取得了對防火牆的寫入權限。
威脅行為者利用惡意提示注入,針對 90 多個組織濫用合法的 AI 安全工具,而下一波攻擊則取得了對防火牆的寫入權限。
Oasis Security 的研究人員發現 Anthropic 的 Claude 中有三個串聯漏洞 — 包括提示注入(prompt injection)、Files API 的外洩路徑及開放重導向 — 可透過 Google 搜尋廣告進行無聲資料竊取。
資安研究人員示範了一個自主AI代理如何利用提示注入——一種廣為人知但仍未被充分緩解的攻擊向量——在不到兩小時內成功入侵麥肯錫的內部AI系統,對企業AI安全提出緊迫的擔憂。
資安專家警告,作為 AI 代理人的社群網路 Moltbook 存在提示注入風險,可能同時危及數千名代理人。
新的企業安全功能透過針對高風險使用者的確定性控制,防止 AI 提示注入與資料外洩。