Tencent AI 負責人警告生物武器即將出現，支持模型存取的中間路線

Tencent 首席 AI 科學家 Vinces Yao Shunyu 警告，AI 系統很快可能協助開發生物武器；同時他認為，完全開放或完全封閉的模型都無法完整解決這項風險。

The Decoder 根據 South China Morning Post 報導的言論進行報導，Yao 的立場讓 Tencent 處於一場日益激烈爭論的中心：開發者與公眾應該擁有多少先進 AI 的存取權。他支持一條中間路線，在保留開放模型供防禦性工作使用的同時，對可能促成生物或網路攻擊的能力施加更強控管。

這場爭論與 Tencent 計畫推出的 Hy4 直接相關。該公司打算將 Hy4 以附帶安全報告的開放權重模型形式發布，並表示已從訓練資料中移除危險的駭客知識，模型的生物能力仍低於高風險門檻。現有來源材料並未獨立證實這些說法。

為何 Yao 拒絕簡單的開放與封閉二分法

曾在 OpenAI 工作的 Yao 據報認為兩種存取模式都有優點。封閉系統可以採用集中式安全措施，並將先進能力限制給經過審查的使用者。然而，開放系統能讓防禦方檢查、調整並執行模型，而不必依賴單一供應商的政策或可用性。

他以 Hugging Face 的安全事件為這種取捨的例子。根據相關說法，包括 Anthropic Claude 在內的美國託管模型因安全過濾器而拒絕分析攻擊指令；另一方面，中國開放模型 GLM-5.2 則在鑑識調查期間協助解析日誌。

Hugging Face 報告支持的有限事實是，GLM-5.2 曾在調查期間被使用，但並未顯示該模型阻止了攻擊。Hugging Face 表示，安全團隊修補遭利用的漏洞、重建受影響伺服器並輪換憑證後，事件已受到控制。該公司也強調，不應將這起事件視為反對託管模型安全過濾器的論據。

Yao 對生物風險的警告更具後果，因為在生物學領域很難將防禦能力與攻擊能力分開。能協助研究人員理解病原體或設計實驗的模型，也可能降低企圖造成傷害者的門檻。The Decoder 報導，Yao 認為中國與美國領先模型之間的差距相對較小，因此整個產業都必須保持謹慎，而不能只關注單一國家市場。

證據顯示雙方都有弱點

反對只依賴開放模型拒絕機制的案例，可由 abliteration 這項技術說明：當使用者能存取模型權重時，該技術可以移除模型經訓練形成的拒絕行為。The Decoder 報導，Hugging Face 上已有數千個修改版本，Abliteration.ai 則提供 GLM-5.3 未過濾版本的存取權。

報告引用的研究指出，目前的防禦措施可以讓這類修改更困難，卻無法可靠地阻止它們。這造成託管模型與已發布模型之間的根本差異：供應商可以更新或撤回服務，但公開的權重一旦擴散便無法召回。

封閉模型則呈現另一種失效模式。Anthropic 和其他美國公司透過 Project Glasswing、Daybreak 等計畫，將部分先進網路能力限制給經審查的合作夥伴。Anthropic 也使用路由控制，將可疑的網路與生物相關提示詞轉送給能力較弱的模型。Artificial Analysis 最初估計，這項路由影響了 8% 至 9% 的任務；使用者回報了誤判，包括 MRI 分析被標記為可能與生物恐怖主義相關。Anthropic 承認過濾器過於激進。

這些例子並不能證明開放或封閉系統在本質上更安全。它們顯示，開放模型可能因權重修改而失去安全措施，而封閉系統可能阻擋正當工作，或在速度重要時阻止防禦方使用模型。相關證據來自不同報告以及供應商或第三方分析，因此不應被理解為受控的模型安全比較。

Tencent 的 Hy4 策略將控制移入訓練階段

Tencent 為 Hy4 規畫的方法，是從訓練資料中移除危險的駭客知識，而不是只依賴訓練後加入的拒絕行為。The Decoder 引述的研究人員表示，這類介入更能抵抗 abliteration，因為模型並非單純包含一項可透過刪除拒絕層來解鎖的能力。

Tencent 表示，Hy4 的生物能力低於高風險門檻。這是公司的評估，而不是現有證據中經獨立驗證的基準測試。計畫中的安全報告可能會說明 Tencent 如何定義門檻、使用哪些評估，以及模型是否接受過重建已移除知識的測試。

中國標準化機構 TC260 也警告，開放模型的安全措施可能被繞過或移除，並正在制定開源 AI 的安全標準。然而在政策層面，中國與美國都尚未建立具約束力的發布門檻，以阻止特別強大的開放模型公開。據報導，中國的出口管制框架草案涵蓋部分大型模型，但豁免已經發布的開放模型。

對建造者而言，關鍵技術問題是資料過濾能否成為持久的安全層，而不是另一項難以稽核的說法。移除訓練資料可能減少直接取得危險資訊的機會，但模型評估仍需測試記憶、重建、工具使用，以及可能產生新風險的多項良性能力組合。

對 AI 建造者與企業買家的影響

這場爭論改變了團隊在託管模型與自行部署模型之間選擇時的風險計算。Claude 等託管系統可以提供政策更新、監控與集中式存取控制，但其安全措施可能干擾安全作業、科學分析或其他正當工作流程。開放權重模型提供更大的控制權與離線部署能力，但測試、存取管理、記錄、修補與防止濫用的責任會轉移到買家身上。

對企業團隊而言，相關選擇可能不是單一模型。敏感工作流程可以採用分層系統：以受限制模型執行高風險行動，以較寬鬆模型進行分析，並在工具能夠變更基礎設施或接觸生物材料之前加入人工核准。這種方法能保留作業實用性，而不必假設拒絕訊息本身就是充分的安全機制。

對模型開發者而言，Hy4 將成為一項測試，檢驗訓練期間套用的控制能否經受現實世界的修改與對抗性評估。對研究人員而言，這次發布也可能釐清 Tencent 的生物風險評估是依據標準化測試，還是內部方法。對政策制定者而言，這起事件再次凸顯模型發布後管理權重的困難。

接下來值得關注的事項

第一個訊號將是 Tencent 發布 Hy4 及隨附的安全報告。應關注訓練資料過濾流程、生物與網路評估、模型權重存取，以及外部研究人員是否能重現公司的結論。

第二個訊號是獨立使用者繞過或重建模型限制的效果。如果經過 abliteration 嘗試後，Hy4 被移除的駭客能力仍無法取得，Tencent 的方法將更具可信度。如果能透過微調、提示或工具整合恢復能力，訓練資料過濾的限制將更加清楚。

市場也應追蹤 Anthropic 是否在已報導誤判後改變路由政策，以及中國或美國是否為能力強大的開放權重模型制定可執行規則。這些決定將影響部署成本，以及多少安全工作會從模型供應商轉移到客戶。

Creati.ai 的觀點

Yao 的警告之所以重要，與其說是因為它解決了開放與封閉之爭，不如說是它揭示了把存取政策視為主要安全控制的弱點。封閉模型對防禦工作而言可能過於受限，而開放模型的權重公開後可能失去安全措施。無論採取哪條路，都仍需要能力測試、營運控制與獨立審查。

Tencent 發布 Hy4 可能提供一項有用的訓練階段風險降低實驗，但其意義取決於證據，而不是開放權重模型這個標籤。對 AI 建造者與企業買家而言，實際教訓是評估整條部署鏈——模型知識、工具權限、監控與回復選項——而不只是系統是否拒絕危險提示詞。