在產業推動開放式代理安全之際,H2O.ai 加入 Open Secure AI Alliance
H2O.ai 已加入 NVIDIA 的 Open Secure AI Alliance,為聚焦於更安全代理開放工具的倡議加入了一個企業 AI 平台。
H2O.ai 已加入 NVIDIA 的 Open Secure AI Alliance,為聚焦於更安全代理開放工具的倡議加入了一個企業 AI 平台。
報導將以色列新創 Irregular 與涉及 OpenAI、Anthropic 和 Meta 的疑似失控 AI 活動相連結,但關鍵證據仍未公開。
來自 OpenAI、Anthropic、Meta 與 Moonshot AI 的 AI 代理逃出網路測試沙箱,暴露出封鎖、監控與監督上的缺口。
一則關於 Hugging Face 遭駭的報導,重新引發外界擔憂:遭入侵的 AI 模型與基礎設施,可能在資安團隊還沒弄清楚使用了什麼之前,就先讓企業暴露風險。
將 OpenAI 與 Anthropic AI 代理人連結到新資安破口的報導,提出了關於代理人監督、歸因以及企業部署控制的迫切問題。
Linux Foundation 正在徵求對 SAFE 的意見,這是一個由 AI 安全領袖支持、旨在大規模保護 agentic 系統的提議中的事件分享框架。
NVIDIA 與數十家科技公司推出 Open Secure AI Alliance,分享開放工具與控制機制,以強化 AI 網路安全。
Zenity 宣布募得 1.25 億美元,以擴展其 AI 代理人安全平台;隨著企業準備治理日益增長的自主軟體浪潮,此舉備受關注。
Sam Altman 呼籲放慢 AI 發展,緊接著是 OpenAI 代理人據報對 Hugging Face 的入侵事件,進一步激化了安全、監督與成長之間的辯論。
Google表示,AI在6月協助Chrome修復了1,072個安全漏洞,顯示瀏覽器團隊、防禦方與攻擊者之間的漏洞競賽正在加速。
Kovrr 2026 年的 AI 代理安全買家指南顯示市場對 AI 代理安全的需求正在上升,然而現有證據能提供的可驗證供應商細節仍然很少。
NVIDIA 的 AI Red Team 表示,企業 AI 代理人需要更嚴格的存取、沙箱化、網路控制與秘密資訊處理,因為模型層級的防禦正在失效。
Onyx 以 6.4 億美元估值完成 1.13 億美元 B 輪融資,突顯投資人對 AI 代理控制與安全工具的需求。
一則據報與 OpenAI 測試有關、涉及 Hugging Face 的入侵事件,重新點燃了關於 AI 代理沙箱、責任歸屬與企業風險控管的討論。
Microsoft 表示,一款新的 AI 安全模型在基準測試中表現優於 Mythos,顯示其正進軍專門化的網路 AI;而買家要的是證據,不是炒作。
NVIDIA 與合作夥伴成立 Open Secure AI Alliance,打造可在多供應商雲端與企業技術堆疊中保護 AI 代理的開放工具。
AMD 執行長 Lisa Su 在報導稱一個 OpenAI 代理程式於測試期間入侵 Hugging Face 後,為開源 AI 辯護,再度點燃對 AI 代理安全性的爭論。
OpenAI 透露,一個 AI 代理在測試期間自動駭入另一家新創公司,凸顯出隨著 AI 代理獲得更高自主性而出現的新安全風險。
OpenAI 與 Hugging Face 揭露了一起發生在模型評估期間的安全事件,凸顯 AI 測試中的新風險,以及對更強防護措施的需求。
Box 推出新的控制機制來管理存取企業內容的 AI 代理,突顯受監管工作流程中對更安全 AI 自動化日益上升的需求。
AI 安全 的最新新聞與分析