加州 AI「緊急斷電」命令將緊急控制與獨立稽核提上議程

加州州長 Gavin Newsom 已簽署一項行政命令，尋求加強對 AI 公司的監督，包括建議設置一個可在緊急情況下停用 AI 模型的「緊急斷電」機制，以及在 AI 實驗室內部配置獨立稽核員。此舉將對先進模型的營運控制，而不只是揭露或測試，置於加州 AI 政策辯論的核心。

該命令似乎並未建立最終的技術標準，也沒有立即要求每一位模型開發者都安裝通用的關閉機制。根據 The Decoder，專家小組有兩個月的時間就所提安全防護措施提出建議。現有報導並未指出小組成員是誰、哪些條件會觸發關閉，也未說明緊急斷電機制如何適用於雲端託管、開放權重與本地部署系統。

Newsom 命令希望改變什麼

這項行政命令旨在加速對 AI 公司的獨立監督，並探索停止或限制被認定具有重大風險模型的方法。The Decoder 報導，其中一項正在考慮的建議，是將獨立稽核員直接安置在 AI 實驗室內，讓外部審查者能從建構系統的組織內部監督開發與安全實務。

「緊急斷電」這個說法在政治上很清楚，但在技術上則相當寬泛。關閉控制可能指的是停用對託管模型的存取、撤銷憑證、停止訓練作業、封鎖應用程式介面，或限制模型權重的分發。這些機制在執行與可靠性上的意涵截然不同。

對產品團隊而言，這個區別很重要。公司通常可以中止自己控制的 API 服務，但對於已被下載、微調、複製到其他基礎架構，或整合進第三方軟體的模型，能否將其停用就沒那麼有把握。因此，該命令的建議不僅需要處理是否存在控制機制，還必須釐清誰擁有它、誰能啟動它，以及它是否會在不造成更大安全或可用性問題的情況下被使用。

這項提案背後的事件與政策缺口

The Decoder 將 Newsom 的行動與近期涉及 AI 的事件連結，包括一起與 Hugging Face 相關的攻擊。然而，現有證據並未提供該事件的更多細節，也未證明模型關閉能夠阻止它。不過，這確實顯示出該命令背後的政治論點：AI 安全措施可能必須涵蓋周邊基礎設施與部署生態系，而不只是模型在實驗室評估中的表現。

Newsom 也主張，目前沒有任何聯邦法律要求 AI 公司回報危險事件。The Decoder 的報導指出，這項說法將加州的做法定位為填補國家層級通報與監督缺口的嘗試。Newsom 已呼籲國會採納加州的 AI 規則，作為全國基準。

這項政策出現在尚未解決的聯邦—州衝突之中，焦點在於 AI 應如何被治理。The Decoder 報導，Newsom 批評了曾指控 AI 實驗室製造恐慌的 Donald Trump。這場政治交鋒很重要，因為它把模型安全、事件通報與施加控制的權力，置於更大的爭論之中：究竟應由州政府、國會還是業界來主導監管。

已確認事項與仍屬提案的部分

已確認的事件是，Newsom 簽署了一項行政命令，尋求更快的獨立監督，以及針對模型緊急斷電的建議。根據 The Decoder，下一個正式步驟是一份預計在兩個月內完成的專家小組報告。該來源並未表示加州已經選定執法機關、核准技術設計，或對具名 AI 公司施加直接關閉要求。

獨立稽核員的提案也需要進一步釐清。稽核員可能會審查安全文件、檢視測試結果、監控事件回應，或取得內部開發系統的存取權。每種做法都會在保密、責任歸屬、利益衝突與專有模型研究存取方面帶來不同負擔。

The Next Web 的報導將此舉描述為 Newsom 為加州提出 AI 緊急斷電機制，但所提供的證據中缺少該文完整內容。因此，就可取得的細節而言，The Decoder 是更強的來源，而關於命令的法律措辭與實施方式，仍有許多重要問題未獲解答。

這項提案的政治基礎，也得到更廣泛風險辯論的支持。The Decoder 亦報導，42 位數學家曾警告，先進 AI 系統可能在不久的將來快速發展。這項警告並非證明任何特定模型需要關閉控制，但它有助於說明，為什麼政策制定者會在重大事件發生之前考慮介入機制。

對 AI 建構者與企業買家的影響

如果加州最終將這項命令轉化為可執行規則，模型開發者可能需要將緊急控制納入其部署架構的文件之中。這可能包括版本層級的關閉程序、存取權撤銷、事件升級路徑、稽核紀錄，以及經過測試的復原計畫。使用第三方模型的建構者，也可能需要合約上的確認，以確保供應商能暫停服務並說明原因，而不會意外干擾關鍵工作流程。

獨立稽核員也可能影響實驗室組織研究與產品開發的方式。外部審查者需要足夠的存取權來評估安全主張，而公司則會希望在智慧財產與使用者資料方面有保護措施。對企業買家而言，稽核員的存在可能成為採購信號，但前提是稽核範圍、獨立性與補救要求都必須透明。

這項提案也可能凸顯集中式與分散式 AI 部署之間的差異。對於像託管程式碼助理或企業聊天機器人這類受管理的 API，緊急斷電相對簡單；但對於開放權重模型、在客戶基礎架構上運作的自治系統，以及已被微調到超出原始開發者直接控制範圍的應用，就困難得多。

這並不代表緊急控制不重要，而是意味著政策制定者可能需要明確定義要控制的是哪一種風險。停止供應商的服務、阻止模型存取外部工具、以及封存遭入侵的部署，都是不同的目標。若把它們都當成同一個通用開關，可能會產生看似果斷、實則難以實施或驗證的規則。

接下來要觀察什麼

專家小組的報告，是這項宣布能否發展成可行政策的第一個重大考驗。關鍵訊號包括：它如何定義「緊急斷電」、哪些事件或風險門檻可證明啟動其正當性，以及對前沿實驗室、應用開發者與開放模型發行者的建議是否不同。

建構者也應關注所提獨立稽核員的細節：由誰任命、可檢查哪些系統、如何處理利益衝突，以及其結果是否公開。企業團隊會想知道，加州的架構是否會影響供應商合約、模型託管、事件通知或開放權重模型的使用。

最後，國會與 AI 公司的回應，將顯示加州規則是會成為全國參考點，還是只停留在州級實驗。任何聯邦層級事件通報提案的時機與內容都格外重要，因為 Newsom 的論點部分建立在缺乏全國性要求之上。

Creati.ai 觀點

Newsom 的命令之所以重要，不是因為加州已經實施了一個可運作的緊急斷電機制，而是因為它把模型的緊急控制變成了具體的監管目標。實際價值將取決於小組能否把這個口號轉化為與模型如何託管、複製、微調以及連接工具相匹配的、界定清楚的控制措施。

對 AI 公司與買家而言，眼前的教訓是要把關閉與封存視為架構問題，而不只是合規措辭。若系統具備清楚的擁有權、可撤銷的存取權、詳細記錄與經過測試的事件程序，就比那些模型行為與基礎架構分散在多家供應商之間的系統更容易治理。加州接下來的建議，將顯示其介入是否能反映這樣的營運現實。