Google DeepMind 啟動研究機構，擴大 AGI 辯論

Google DeepMind 已啟動 DeepMind Institute，這是一個旨在將人工通用智慧（AGI）的討論帶出公司自身實驗室的新平台。該研究機構匯集來自 Google DeepMind、Google 以及更廣泛研究社群的研究人員，檢視應如何評估、治理並提升先進 AI 的安全性。

這項倡議出現在 AGI 爭論正從籠統警告轉向更具體的監督、透明度與前沿開發限制提案之際。其首波內容包含四篇文章，涵蓋經濟衝擊、模型推理、人類福祉與先進 AI 系統評估。

由 DeepMind 與 Google 人士領導的公開論壇

該研究機構列出 DeepMind 共同創辦人 Shane Legg、Google 高層 James Manyika，以及 Google DeepMind 主席 Demis Hassabis 為董事。根據 TechCrunch 對此次啟動的報導，Legg 擔任執行編輯。

研究機構所宣稱的目的並不是提出單一的 Google 立場。其公告表示，Google、Google DeepMind 以及其他地方的研究人員可能意見不同，並且會隨著證據變化而修正觀點。這種框架很重要，因為 AGI 仍然是一個具爭議的分類，而非業界普遍接受的技術標準。

The Decoder 報導，該平台被設計為一項跨領域努力，除技術工作外，也納入藝術、人文、政策與科學研究。該研究機構的職責範圍包括安全、治理、網路攻擊風險，以及未來系統可能變得難以控制的可能性。

DeepMind 將 AGI 描述為具有類似人類大腦認知能力的系統，但來源同時強調，今日的系統在一些簡單任務上仍會失敗，且缺乏創造力等特質。關於何者才算 AGI 的分歧，使該研究機構對衡量與評估的聚焦格外關鍵。

四篇文章將廣泛疑慮化為提案

首批材料為該研究機構提供了以政策為導向的起點。其中一篇討論管理 AGI 可能帶來的經濟衝擊之經濟政策；另一篇探討如何在能力日益提升的模型中維持人類可讀的推理；第三篇聚焦於人類福祉原則；第四篇則提出一套評估前沿 AI 模型的框架。

DeepMind 安全研究員 Rohin Shah 與 Anca Dragan 的文章聚焦於透明度。他們主張，模型逐步推理能力日益難以檢視，並非不可避免。隨著新架構在內部執行更多運算，開發者與監管者可能面臨能力與可監測性之間的取捨。

他們的提案包括處理「opaque serial depth」，也就是系統在不產生可讀推理軌跡的情況下所進行的連續運算量。作者建議，監管者可以限制這項屬性，或要求開發者證明較不透明的系統仍具有同等可監測性。來源材料並未顯示此類規則已被採納；這些只是研究機構首波辯論中的建議。

Hassabis 的文章提出，由美國主導一個標準制定機構，以評估最先進的 AI 模型。按照建議做法，開發者最初可在發布前最多 30 天自願提交系統接受審查。若評估流程證明有價值，通過測試最終可能成為在美國部署前沿系統的條件。

該提議中的機構將先在 AI 公司的參與下設計評估，之後再轉向獨立、未公開的測試。這些「held-out」測試旨在降低實驗室專門針對已知基準最佳化模型的風險。Hassabis 也主張，若風險變得更嚴重，監督機制可進一步強化，甚至可能包括前沿 AI 開發者之間的協調性放緩。

證據支持什麼，以及不支持什麼

TechCrunch 與 The Decoder 報導了該研究機構的啟動與領導層，但現有證據僅限於對公告的報導與首批文章的描述。所提供材料中沒有證據顯示該研究機構是獨立監管者，也沒有證據顯示其提案已被美國政府採納，或企業已同意提交模型接受審查。

因此，標準制定機構的提案最好被理解為 Hassabis 的政策立場，而不是一項正在運作的政府計畫。同樣地，關於透明度風險的說法來自安全文章作者，不應被解讀為獨立驗證的基準，證明現行系統已跨越某個特定危險門檻。

AGI 的時間表也仍然未定。The Decoder 報導稱，Hassabis 預期 AGI 會在未來幾年內出現，而 Legg 曾談到可能在 2028 年前出現前驅。這些都是個人預測，而非共識預估。文章也指出，其他公司使用不同的定義與時間表，包括 OpenAI 強調經濟價值，以及歸因於執行長 Sam Altman 的更激進預測。

為什麼這個研究機構對 AI 開發者與企業很重要

對模型開發者而言，最直接的問題是，評估可能愈來愈被視為發布要求，而非發布後的研究工作。held-out 測試會讓系統更難只針對公開基準進行調校，但也會帶來存取、保密、可重現性與責任上的需求。

透明度提案則提出另一個工程問題。如果更強大的架構產生較難檢視的推理，團隊可能必須在效能、可稽核性與部署範圍之間做出選擇。建立高風險工作流程的企業買家，可能不僅會問模型是否準確，也會問在發生錯誤或資安事件後，是否能調查其行為。

對監管者與政策團隊而言，該研究機構的提案提供了具體的討論題目：發布前自願審查、獨立測試、對不透明運算的限制，以及當防護措施跟不上時的升級機制。這些想法都無法解決如何定義風險或由誰控制評估者的實際問題。但它們確實將討論推向可測試的制度機制。

這項倡議也具有競爭意義。Google DeepMind 既是前沿模型的領先開發者，也是治理辯論的參與者。其研究機構可幫助形塑政策制定者與企業客戶使用的語彙，同時也讓公司自身假設暴露於外部研究者的批評之下。這種張力是否會帶來真正的檢視，取決於平台會變得多開放，以及異議是否會影響公開文章以外的決策。

接下來要關注什麼

第一個訊號會是 DeepMind Institute 是否會發布來自 Google 與 Google DeepMind 之外研究人員的更多作品，而不是主要成為董事與同僚觀點的管道。

第二個訊號是 Hassabis 提出的評估機構是否能獲得美國政策制定者或其他 AI 公司的支持。若出現試點、共享測試協議或自願發布前提交的證據，就代表這項提案正從概念走向可運作框架。

研究人員與買家也應留意關於如何衡量「opaque serial depth」，以及開發者如何證明同等可監測性的技術細節。最後，未來文章或可釐清研究機構如何區分 AGI 能力主張與真實世界任務上的可衡量表現。

Creati.ai 觀點

DeepMind Institute 的重要性，與其說在於它終結了 AGI 辯論，不如說在於它讓 Google DeepMind 擁有一個正式場域，使分歧與政策提案更具可見性。其首波議程把模型架構、安全研究、經濟衝擊與公共監督連結起來，而這些領域通常是分開討論的。

可信度的考驗將是實際的。如果該研究機構支持獨立評估、公開其建議背後的證據，並允許挑戰 Google DeepMind 商業與研究優先順序的觀點，它就可能成為對 AI 開發者與政策制定者有用的論壇。若它主要只是包裝內部立場，其影響力將比啟動時所暗示的更有限。