AI News

NVIDIA 與一大批科技公司及開源組織共同啟動了 Open Secure AI Alliance,這是一項聚焦於代理式系統之 AI 安全與防護的新產業倡議。根據 NVIDIA 的說法,該聯盟旨在開發並分享開放工具、技術與基礎架構,讓企業與政府能在混合環境中保護 AI 代理,而不是依賴單一供應商的封閉技術堆疊。

這項宣布之所以重要,是因為 AI 的採用正從聊天介面走向自動化或半自動化的軟體代理,這些代理可以呼叫工具、存取資料,並在雲端服務之間採取行動。這個轉變改變了安全問題。正如 NVIDIA 在其發布文章中所主張的,如今保護 AI 系統不再只取決於模型本身;它需要跨越身分、權限、執行框架、日誌、評估與軟體供應鏈的控制。對開發者與企業買家而言,這意味著代理安全正成為一個橫跨多家供應商的系統性問題。

聯盟表示將做些什麼

NVIDIA 將 Open Secure AI Alliance 描述為建立在 Linux Foundation 的 Akrites 計畫與 OpenSSF 社群工作之上。其宣示的使命是使用開放技術修補並揭露漏洞,並協助建立一套供 AI 代理共用的防禦技術堆疊。

NVIDIA 列出了一長串創始合作夥伴,涵蓋基礎架構、軟體、安全與 AI 研究。啟動時點名的公司與團體包括 Adobe、Cisco、Cloudflare、CrowdStrike、Databricks、Dell Technologies、HPE、Hugging Face、IBM、LangChain、Linux Foundation、Microsoft、Palantir、Palo Alto Networks、Red Hat、Salesforce、SAP、ServiceNow、Siemens、Snowflake 等等。

這份陣容顯示,聯盟瞄準的是一個異常廣泛的攻擊面。與其只聚焦於模型評估,這項工作似乎更著眼於當 AI 代理在企業雲端、開發者工具與商業應用之間進入生產環境時,所需的實際控制措施。Virtualization Review 與 SiliconANGLE 的外部報導標題也指向這個「多供應商雲端」的焦點,對那些已經在多家供應商基礎架構之間周旋的買家來說,這是很有用的框架。

NVIDIA 的論點是,開放模型、開放執行框架與開放安全工具應被視為防禦資產。該公司表示,組織需要能夠在自己的基礎架構上檢視、調整並執行先進 AI,特別是在事件應變期間,或當主權與資料控制很重要時。

NVIDIA 為何將開放性與代理安全綁在一起

NVIDIA 貼文中的一個核心主題,是防禦者的開放存取與少數模型供應商所掌握的封閉、集中式控制之間的區別。NVIDIA 並沒有主張完全取代封閉系統。相反地,它表示防禦者需要同時擁有開放與封閉模型,而開放系統能提供透明度、可稽核性與本地控制;當工具只能透過第三方服務使用時,這些特性就很難被保證。

為支持這個論點,NVIDIA 指向 Hugging Face 最近的一起資安事件。根據 NVIDIA 的說法,封閉式 AI 工具無法區分攻擊者與防禦者,並阻擋了關鍵的鑑識工作;而 Hugging Face 則使用其自有基礎架構上的開放權重 GLM 4.5 模型,分析超過 17,000 個動作並協助遏止入侵。NVIDIA 將這起事件呈現為證據:防禦者需要能自行執行與修改、且具前沿能力的開放系統。

這個例子很重要,但讀者也應注意其限制。細節來自 NVIDIA 的部落格文章,而非此處來源中的獨立事件報告;而且資料中也沒有另外的技術驗證,說明分析是如何進行,或模型在多大程度上改變了應對結果。即便如此,這個案例仍捕捉到一個真實的買家顧慮:如果客戶無法檢視、無法在本地執行、也無法針對特定環境調整,基於 AI 的安全工具在危機時就不那麼有用。

該公司也主張,安全辯論應該超越模型權重是開放還是封閉的問題。在 NVIDIA 的框架中,真正的風險單位是整個代理堆疊,包括執行框架、權限模型、工具存取、日誌與治理層。這是一個值得注意的語言轉變,從較熟悉的開放權重模型政策辯論,轉向更偏向企業部署運作的討論。

來自成員的早期技術積木

聯盟啟動時包含了幾個成員貢獻的例子,不過這次宣布仍然更偏重方向性,而非已出貨產品。

NVIDIA 表示它將貢獻開放模型、模型權重、資料,以及圍繞代理執行框架的研究。它也在 GitHub 上介紹了 NVIDIA Labs Object-Oriented Agent 專案,簡稱 NOOA。根據該公司,NOOA 是一個研究框架,旨在讓進階 AI 安全能力更容易用於代理執行框架,並讓代理行為更容易被測試、追蹤、稽核與治理。

其他成員的貢獻也凸顯了安全範圍有多廣。HPE 與 SPIFFE/SPIRE 有關,這是一種零信任身分框架,能以密碼學方式驗證 AI 代理與服務,讓只有已授權的工作負載能與企業資源通訊。Hugging Face 已將 Safetensors 提供給 PyTorch Foundation;這是一種旨在儲存模型權重且避免遠端程式碼執行風險的格式。IBM 與 Red Hat 正在貢獻 Lightwell,NVIDIA 將其描述為透過數位簽章修補程式,把安全性延伸到開源供應鏈。Microsoft 正在貢獻 MDASH,這是一個多模型掃描框架,使用專門的代理來識別並驗證可被利用的漏洞。

NVIDIA 的文章也提到 SpaceXAI 的 Grok Build,將其描述為一個開源、以終端機為基礎的 AI 程式設計代理,並計畫將 Grok 模型系列的權重開源。這一點與聯盟其餘的企業安全定位有些不同,但它強化了發起訊息:開放工具與模型存取能支持信任與檢視。

在目前提供的啟動材料中,並沒有附上詳細的公開治理文件、路線圖或發佈時程。這也留下了一些未解問題:該組織將如何排定工作優先順序、如何處理揭露、如何定義互通性,以及如何衡量進展。

證據、主張,以及仍未驗證的部分

這組資訊中最有力的事實來源是 NVIDIA 自己的公告。Virtualization Review、SiliconANGLE 與 Briefs Finance 的報導確認了這次啟動,並大致將其框定為一個重大的產業聯盟;但較細的技術與政策主張,大多來自 NVIDIA 本身。

這很重要,因為其中一些最具影響力的說法仍然是供應商自述。這包括從 Hugging Face 事件中得出的實務教訓、開放系統對網路防禦至關重要的主張,以及像 NOOA 與 MDASH 這類特定聯盟貢獻所暗示的好處。這些說法都不應被視為獨立基準測試。

聯盟的成員清單本身就很有份量也很具體,但加入並不自動代表深度技術整合或長期資源投入。大型產業聯盟往往先以廣泛支持起步,之後才看得出是否能真正推出有用的標準、程式碼、測試或參考部署。

也值得注意的是,這次啟動並沒有宣稱什麼。NVIDIA 沒有表示聯盟已經解決了代理安全問題,也沒有提出企業可以立刻採用的新標準。這份公告最適合被視為一項聯盟建構行動,以及一份支持開放防禦基礎架構的政策聲明,並由一系列早期技術產物所支撐。

對 AI 開發者與企業買家的意義

對開發者而言,這次啟動顯示代理安全正逐漸成為一個獨立的產品與基礎架構類別,而不只是藏在模型 API 裡的功能。使用 LangChain、自訂編排層,或內部工具使用代理進行建置的團隊,未來可能會面臨越來越大的壓力,需要證明身分驗證、政策執行、可稽核性與模型掃描如何在整個執行過程中運作。

對企業 AI 團隊來說,多供應商面向或許是最相關的一部分。許多組織已經同時混用 Microsoft 服務、NVIDIA 基礎架構、Hugging Face 的開源元件、Salesforce 與 ServiceNow 這類商業平台,以及 Palo Alto Networks 或 CrowdStrike 這類公司的安全層。在這種環境下,如果封閉式、垂直整合的安全控制無法看見整個堆疊,就可能不夠用。

若能在身分驗證、安全模型封裝、漏洞掃描與安全程式編寫工作流程上形成通用工具,聯盟的開放路線可望改善可攜性與事件應變。它也可能在故障、政策爭議或緊急調查時,降低對單一 AI 供應商的依賴。

但這也有取捨。開放性可以提升彈性與可稽核性,卻也把更多整合與治理負擔轉嫁給客戶。企業買家應預期,採用開放防禦工具仍然需要內部安全專業知識、清楚的權限設定、測試,以及營運層面的責任。開放堆疊並不會自動變成更安全的堆疊。

從市場角度看,這個聯盟也是一種競爭性動作。它讓 NVIDIA 與其夥伴能夠主張:AI 安全應該建立在可互通的基礎架構與開放元件之上,而不只是建立在專有模型閘道之上。這個立場可能吸引受監管產業與主權型買家,因為他們希望對模型如何部署與檢視擁有更多控制權。

接下來應該觀察什麼

第一個要觀察的訊號,是 Open Secure AI Alliance 是否會透過 Linux Foundation 或相關管道發布具體的治理細節、工作小組與技術路線圖。若沒有這些內容,它可能看起來像是一個範圍很大但鬆散的承諾。

第二,要關注真正的程式碼與整合。NOOA、MDASH、Safetensors、SPIFFE/SPIRE 與 Lightwell 的實際價值,取決於企業團隊能否把它們接到跨雲端與開發環境的即時代理流程中。

第三,應尋找圍繞聯盟核心論點的獨立證據。案例研究、第三方稽核或公開紅隊測試結果,會比供應商在啟動階段對開放模型與執行框架防禦效益的說法更有份量。

最後,政策反應也很重要。NVIDIA 明確把開放模型與安全工具定位為監管者不應過度限制的資產。如果政府開始把用於網路防禦的 open-weight AI 與一般用途模型分發區別對待,那將可能影響企業 AI 的採購與部署規則。

Creati.ai 觀點

這次啟動最重要的部分不是合作夥伴數量,而是嘗試把 AI 安全重新定義為代理運作的討論,而不是模型本身的討論。這個方向是正確的。企業部署的不是孤立模型,而是在混亂的真實環境中進行驗證、擷取、執行與軟體更新的系統。安全失敗通常會發生在這些連結處,而不只是基礎模型本身。

更難的是執行。產業聯盟通常在標準化狹窄且痛苦的問題時最容易成功,當它們試圖一次解決所有問題時則往往失敗。如果 Open Secure AI Alliance 能為企業 AI 部署提供可用的積木,例如身分驗證、可稽核性、安全模型封裝與多模型掃描,它就可能成為重要基礎設施。如果它主要仍只是推廣開放模型的政策工具,其影響就會有限。就目前而言,這次啟動在戰略上具有意義,但在把它當成成熟的安全層之前,買家應該先等到可運作的程式碼、參考架構與獨立驗證。

精選

Open Secure AI Alliance 啟動,推動跨雲端供應商的 AI 代理共享防禦

NVIDIA 與合作夥伴成立 Open Secure AI Alliance,打造可在多供應商雲端與企業技術堆疊中保護 AI 代理的開放工具。