Tencent AI 首席科學家警告，生物學進展可能提高生物武器與大流行風險

Tencent 的 AI 首席科學家警告，人工智慧在生物學領域正接近一種可能造成新風險的能力水準，包括更容易開發生物武器以及提高大流行的危險。South China Morning Post 與 MLQ.ai 報導了這項警告，並將相關言論視為 AI 安全疑慮正從軟體與數位系統擴展出去的信號。

報導並未證明 AI 已經掌握生物學；現有來源資料也沒有提供支持該科學家評估的逐字稿、地點、日期或技術證據。因此，眼前的新聞是警告本身：中國最大科技公司之一的資深研究人員指出，生物學濫用可能是 AI 系統能力不斷提升的後果。

報導內容

兩篇報導都描述 Tencent 的 AI 首席科學家警告，AI 很快可能具備執行生物學任務的高度能力。核心疑慮在於，能夠根據生物學資訊進行推理、提出實驗或加速研究的系統，除了可用於正當發現，也可能被用於有害目的。

來源標題明確將這項進展與生物武器及大流行風險連結起來。報導沒有指出特定模型、產品、實驗室示範或事件，也沒有表示 Tencent 已發布能夠設計病原體的 AI 系統，或任何此類系統已在現實世界中被使用。

這項區別很重要。關於 AI 可能促成什麼的預測，與證明某個系統目前能可靠執行危險生物學工作的證據並不相同。報導將這項言論放在前沿 AI 的廣泛討論中，但現有資料過於有限，無法評估該科學家所提出的技術時間表或相關假設。

為什麼生物學帶來不同的安全問題

用於生物學研究的 AI 系統可能影響實體流程，而不只是生成文字、程式碼或影像。如果模型在解讀生物學資料、建議實驗室程序或協助研究人員查閱大量科學文獻方面變得實用，它可能降低某些工作的時間與專業知識要求。這些相同能力也可能被濫用。

風險不限於蓄意攻擊。能力更強的系統也可能產生錯誤或不安全的建議，而使用者因其看起來具備科學合理性，過於輕易地接受這些建議。在生物學環境中，可靠性、實驗驗證、存取控制與人類監督，與模型效能同樣重要。

報導提到大流行風險，也指出比蓄意生物武器更廣泛的疑慮類別。錯誤、治理不善、意外釋放或研究協助遭到濫用，都可能具有影響。然而，兩篇被引用的報導都沒有提供區分這些情境或估計其可能性的風險評估。

對 AI 系統建造者而言，這項警告提醒人們，生物學應用不能只透過傳統語言模型基準進行評估。模型即使在科學問題上表現良好，如果不檢查使用者意圖、不限制敏感輸出，或不要求合格人員審查，就可能仍然不安全。

警告的證據與限制

South China Morning Post 與 MLQ.ai 是這組報導中的兩個來源，兩者似乎都在報導相同的大致言論。所提供的證據包括它們的標題與簡短摘要；完整文章內容無法取得。來源資料中沒有 Tencent 的官方聲明、已發表的研究論文、基準測試結果或獨立評估。

因此，目前最能確認的事實是，這項警告已被報導，並歸因於 Tencent 的 AI 首席科學家。AI 已「接近」掌握生物學的說法，應被視為專家預測，而不是對目前能力的已驗證測量。報導也沒有說明該科學家是在描述 Tencent 自有系統、整個產業，還是 AI 發展中假設的下一階段。

這種不確定性並不代表相關疑慮無關緊要。資深研究人員的公開評估可能影響產品防護措施、研究優先事項與政策討論。但科技公司、監管機構與記者應避免把高層次警告轉化為危險生物學能力已廣泛可用的證據。

對 AI 建造者與企業的影響

這項警告為開發連接生物學或醫療工作流程之 AI 產品的公司提出了實際問題。團隊可能需要判斷哪些科學請求是無害的，哪些可能實質促成有害活動，以及模型何時應拒絕、升級處理或要求額外驗證。

對企業買家而言，治理範圍將超越資料隱私與模型準確性。評估用於生物學研究之 AI 的採購團隊，可能需要取得存取控制、稽核記錄、紅隊測試、人類審查，以及防止生成敏感程序或其他可直接採取行動之指引的安全措施文件。這些控制應在真實的使用情境下進行測試，而不能僅根據模型的一般安全聲明加以假定。

這個問題也為正當研究帶來矛盾。過度廣泛的限制可能拖慢藥物開發、診斷或基礎科學研究，而薄弱的控制則可能暴露敏感能力。可信的方法可能需要考慮情境的安全措施、專家審查，以及模型開發者、實驗室、安全團隊與公共機構之間的協調。

對更廣泛的 AI 市場而言，Tencent 科學家的警告將生物學研究加入能力提升可能產生不對稱風險的領域清單。這可能促使企業把生物安全視為前沿 AI 的產品要求，而不是只留給政府政策或專業實驗室處理的問題。

接下來值得關注的事

首先要觀察的是，Tencent 或該科學家是否會發布更完整的說明，包括支持這項警告的系統、生物學任務或研究趨勢。逐字稿或技術論文將有助於區分短期能力評估與對長期風險的一般性提醒。

更多證據可能來自對 AI 系統執行生物學任務的獨立評估，尤其是同時衡量有用效能與防止有害協助能力的測試。模型開發者是否為生物學研究引入新的控制措施，例如專門的存取政策、監控或專家批准，也將十分重要。

監管與科學界的回應是另一項指標。生物安全研究人員、實驗室與政策制定者的聲明，可能釐清這項疑慮反映的是正在形成的共識，還是較為推測性的立場。最後，任何涉及 AI 協助生物學濫用的公開事件，都會實質改變討論；但目前的報導沒有指出此類事件。

Creati.ai 的觀點

這則新聞的重要性不在於 AI 已經掌握生物學，而在於生物學能力正成為前沿 AI 安全討論中預期的一部分。現有證據支持一項嚴肅警告，但不支持一份關於當前生物武器設計能力的已驗證描述。

對建造者與買家而言，實際教訓是要求證據。在敏感科學工作流程中使用的系統，應一併評估可靠性、防濫用能力、存取控制與人類問責。在更多技術細節出現之前，謹慎準備是合理的；但關於即將掌握生物學的說法，仍應明確標示為預測，而非事實。