Nvidia 的 Jensen Huang 表示，AI 安全應交給企業，而不是新法律

Nvidia 執行長 Jensen Huang 拒絕了對人工智慧制定新法規的呼籲，主張 AI 安全應透過工程、現有法律與市場壓力來處理，而不是再增加政府規則。

Huang 於 9 月 15 日在 Salesforce Dreamforce 表示，AI 不是「外星心智」，而是由人類打造的運算系統。由於它是軟體與硬體的組合，他主張企業應能透過產品開發與測試來控制其風險。

這項立場使 AI 基礎設施市場中最具影響力的人物之一，明確站在反對新 AI 監管的一邊。它也凸顯了 AI 開發者與企業買家所面臨的一項核心政策爭議：潛在有害的系統是否應主要作為產品來治理，還是需要專為日益強大的模型與代理設計的規則。

Huang 主張以工程取代監管

根據 TechCrunch AI 對該討論的報導，Huang 表示：「安全是一個工程問題，不是法律問題。」他將 AI 開發與其他軟體和運算系統的創作相比，表示當企業對功能、能力或安全性沒有把握時，應該延後發布。

Huang 也主張，自由市場本身就給企業避免推出危險產品的誘因。在他看來，客戶會拒絕無法可靠或安全運作的系統，而當產品看起來失控時，企業可以調整開發速度。

Nvidia 這位負責人將安全與快速創新視為可以並行的目標。他說，企業可以持續快速前進，同時在必要時暫停，以確保產品準備就緒。他的論點反映了 Nvidia 更廣泛的商業利益，即擴大 AI 在各產業與各國的採用；不過 TechCrunch 提供的證據並未證明，單靠市場誘因就足以防止嚴重傷害。

Huang 的言論是高層立場，而不是來自 Nvidia 新的安全研究或經獨立驗證的政策分析。TechCrunch 報導了 Salesforce 活動中的這些發言，但沒有引用任何數據顯示企業的自願決定能持續防止 AI 產品的故障或濫用。

軟體部署的紀錄提供了謹慎的理由。TechCrunch 提到 2024 年的 CrowdStrike 當機事件，當時一個有缺陷的軟體更新擾亂了航空公司及其他企業，作為意外產品失敗可能造成遠超過發布公司的後果之例。

文章也引用了 Meta 據報以 180 億美元達成和解，涉及其社群平台上關於兒童受害的指控。這並不是 AI 專屬先例，但它說明了假設企業總會把產品決策的全部社會成本內部化的侷限。

AI 系統也已產生自己的憂慮，包括與聊天機器人互動有關的指控、資安事件，以及針對 OpenAI 的訴訟。這些例子並不能證明若有監管就能避免底層傷害，但它們確實顯示，為何批評者會質疑：當系統影響到既不是買家也不是操作者的人時，內部測試與客戶選擇是否已足夠提供保護。

如 TechCrunch 所述，現行產品責任法可能適用於 AI 產品，但這仍是需要法院在不同系統、用途與責任鏈中檢驗的法律問題。來源也指出，Huang 並未聚焦於產業自律；這是在無限制部署與正式政府規則之間的另一條可能路徑。

對模型開發者與產品團隊而言，Huang 的立場強化了將 AI 安全視為發布與工程紀律的重要性。這包括測試模型行為、監控部署、設定存取控制，以及在系統出現非預期行為時建立明確的回滾程序。

這些做法對 AI 代理尤其重要，因為它們可以在商業系統中採取行動，而不只是生成文字。代理的失敗可能影響客戶紀錄、付款、程式碼儲存庫或內部決策。市場壓力可能會在事故後懲罰公司，但不一定能在失敗發生前保護受影響的使用者。

商業脈絡也很重要。Nvidia 提供了訓練與部署 AI 所需的大部分基礎設施，並正擴展至軟體、代理、開放權重模型與開發環境。其成長仰賴客戶持續大規模建構與營運 AI 系統。這並不會否定 Huang 的安全論點，但意味著讀者應區分技術意見與對公共利益取捨的獨立評估。

對企業而言，這場辯論提出了一個實務上的盡職調查問題。買家不能假設供應商的內部安全流程會涵蓋在自身環境中部署所產生的每一項風險。當模型或代理造成損害時，他們需要合約保護、稽核權、事件通報、人工監督，以及明確的責任歸屬。

Huang 的談話正值 AI 產業思考，是否能在不拖慢發展的前提下，透過自願標準提供防護。TechCrunch 報導，Microsoft 執行長 Satya Nadella 主張，企業與各國（包括中國）應共同關注駭客入侵與公民安全等風險。

這項論點指向協調式的產業自律，但參與與執行仍未解決。自願框架的強度，取決於其涵蓋範圍、測試標準、通報要求，以及對忽視規範的企業會有什麼後果。對專有系統、開放權重模型，以及透過第三方散布的產品，要一致適用也可能很困難。

Huang 一直推動開放權重模型，作為對專有 AI 實驗室的競爭性平衡力量。這種做法可以擴大模型與工具的可及性，但也讓監督更加複雜，因為下游使用者可能以原始開發者未預見的方式修改、微調或部署系統。

因此，核心政策問題不只是 AI 是否是軟體。更重要的是，具有高度自主性、行為不確定且具大規模社會影響的軟體，是否能以一般商業產品所使用的相同機制得到充分治理。

下一個訊號將來自企業如何落實 Huang 所描述的安全立場。買家與開發者應關注是否有經獨立稽核的測試、具實質內容的事件揭露，以及在安全疑慮出現時供應商是否暫停或撤回系統的證據。

法律案件也將釐清，現行產品責任規則是否能在模型製造者、應用開發者、部署者與使用者之間分配責任。政策制定者可利用這些案件來判斷是否需要新規則，或現行法律是否能加以調整。

產業主導的標準也將是一項考驗。其可信度將取決於主要 AI 實驗室與基礎設施提供者是否採用共同定義、分享失敗資訊，並接受不遵守的後果，而不是把安全承諾當成行銷話術。

Huang 說得對，AI 安全有很大一部分涉及工程決策：評估、存取控制、監控與有紀律的發布流程。但技術性控制與公共問責並不能互相替代。企業即使真誠努力，仍可能漏掉某種失敗模式；而受影響的人，可能根本沒有實質途徑避開由此產生的傷害。

更持久的方法，可能是把技術安全工作與可執行的責任結合起來。對 AI 開發者而言，這意味著要以失敗為前提進行設計，並記錄控制措施。對企業而言，這意味著要要求證據，而不是只聽保證。對政策制定者而言，這意味著在決定何處需要有針對性的新規則之前，先檢驗現行法律是否奏效。