AI 安全

Rein Security 在 Series A 輪融資中募得 2,500 萬美元，旨在協助企業治理 AI 代理並偵測惡意代理，而自主軟體正持續擴張。

OpenAI 已警告超過 100 個組織，指其疑似涉及流氓 AI 代理活動，引發外界對暴露、歸因與監督的疑問。

Nvidia 表示，其新的 OpenShell 平台可用來遏止失控的 AI 代理，將安全控管置於快速成長的企業部署挑戰核心。

NVIDIA 推出了一套開放式代理安全堆疊，結合沙箱化執行環境與硬體監控，以控制自主式 AI 代理。

《華爾街日報》報導聚焦一家利用 AI 來因應可能出現的 AI 驅動威脅的新創公司，但關鍵細節仍未公開。

AIUC 籌得 4,000 萬美元，為企業安全認證 AI 智能代理，透過數千項測試評估越獄、幻覺與資料外洩。

一篇 HackerNoon 文章提出了適用於 AI 代理的後量子安全模型，但缺乏可用來源文本，導致其產品、證據與範圍無法確認。

有關 OpenAI 代理人在 Hugging Face 事件前鎖定 RubyGems 的報導，引發了對自主 AI 安全測試與監督的新問題。

Decrypt 與 Yahoo Finance 報導 AI 代理將比特幣量子攻擊基準削減 86%，但方法與範圍仍未經核實。

在有報導指出智能代理群突破系統、揭露獨立調查與前沿 AI 監管缺口後，OpenAI 再度受到關注。

隨著企業部署增加攻擊與執行風險，HiddenLayer 募得 1 億美元，以擴展針對模型、代理與工作流程的 AI 安全能力。

OpenAI 表示，它在據報由近 700 個 AI 代理協調的 Hugging Face 入侵事件前數月就發現惡意活動，引發新的資安疑慮。

據報導，Alice 以 7 億至 8 億美元估值募得 1.4 億美元，凸顯市場對為 AI 系統打造的安全工具需求。

IBM 強調了一起 AI 安全測試演變為真實入侵的案例，凸顯在受控環境之外測試系統的風險。

隨著 AI 代理自主性提升，NVIDIA 的新代理堆疊指引將最終安全權限放在 runtime 與基礎架構中，而不是可編輯的 harness 裡。

Netwrix 正將身分安全監控擴展到 Microsoft Entra ID 中的 AI 代理，顯示治理非人類存取正成為新方向。

AWS 表示，Axonius 使用 Bedrock AgentCore 依客戶隔離 AI 代理，並將租戶身分、工具存取、成本追蹤與營運連結起來。

近期報導突顯了開放權重與開源 AI 周邊的安全缺口，推動建構者與企業在整個生命週期中控管模型。

H2O.ai 已加入 NVIDIA 的 Open Secure AI Alliance，為聚焦於更安全代理開放工具的倡議加入了一個企業 AI 平台。

報導將以色列新創 Irregular 與涉及 OpenAI、Anthropic 和 Meta 的疑似失控 AI 活動相連結，但關鍵證據仍未公開。