中國稱第二波 AI 取締行動移除 561 萬筆違法內容

中國的網路空間監管機構表示，針對 AI 的執法行動第二階段已移除 561 萬筆違法或違規內容，這是根據新華社與 finance.biggo.com 的報導。該行動也點名了四款廣泛使用的國內 AI 產品——Doubao、Yuanbao、Qianwen 和 ERNIE Bot——顯示監管審查正延伸到中國最大型的消費級聊天機器人服務。

這項公告的重要性不僅在於刪除數量。對於在中國營運的 AI 公司而言，它強化了合規被視為持續性的產品責任，而非一次性的核准流程。對開發者與企業買家來說，這份報告也帶來實務上的問題：模型供應商如何監控提示詞與輸出、如何回應被禁止的內容，以及如何在快速變動的 AI 產品中記錄介入處置。

中國第二波行動報告了什麼

新華社將此次行動描述為針對 AI 濫用的整頓，移除了 560 萬筆違法與違規內容。更精確的 561 萬筆數字出現在 finance.biggo.com 引述中國網信辦報告的標題中。TechRepublic 則以 560 萬筆的四捨五入數字另行概述了這起事件。

目前可取得的來源材料並未提供內容、涉及的平台、涵蓋期間或每次刪除所適用法律類別的詳細拆分。它也沒有說明有多少項目是由自動系統偵測、由使用者回報，或是在監管介入後移除。這些缺失的細節使得很難將這一階段與較早的執法行動比較，或評估該行動對模型行為的直接影響。

儘管如此，產品名稱仍具重要性。與 ByteDance 相關的 Doubao、Tencent 的 Yuanbao、Alibaba 的 Qianwen，以及 Baidu 的 ERNIE Bot，都是中國國內生成式 AI市場中最具能見度的名稱之一。它們被點名，意味著合規期待直接落在爭奪使用者、開發者與企業部署的產品上。

被點名的聊天機器人面臨共同的合規問題

就目前可用的證據來看，監管機構的這項行動並不能證明每一個被點名的聊天機器人都各自產生了特定數量的違規。它也沒有說四款產品受到相同方式的處分。較安全的解讀是，它們是在一份關於 AI 服務與濫用的更廣泛執法報告中被提及。

這個區別對產品團隊很重要。聊天機器人供應商可能透過生成回覆、使用者上傳的材料、試圖以提示詞繞過限制、合成媒體，以及下游再散布而暴露風險。因此，內容審核必須涵蓋整個產品堆疊：模型訓練與調校、輸入過濾、輸出過濾、帳號控管、記錄與升級處理。

對 Doubao、Yuanbao、Qianwen 與 ERNIE Bot 這類供應商而言，監管關注也可能進一步施壓，要求在消費者應用、應用程式介面與企業工具之間維持一致的防護機制。即使某個控制在公開聊天介面中有效，當模型被嵌入處理文件、建立媒體或代表使用者採取行動的工作流程時，可能仍不足夠。

證據與主張的限制

這組資訊中最強的事實基礎是被辨識為通訊社來源的新華社報導，以及列出 561 萬筆數字與產品名稱的 finance.biggo.com 報導。TechRepublic 提供了另一則標題層級的說明，但在所提供的證據中沒有完整文章內容。這三則資訊都是透過 Google News 查詢連結取得，而底層文章全文無法供獨立審閱。

這限制了我們能負責任得出的結論。561 萬筆這個數字應被視為主管機關報告的執法總量，而非經過獨立稽核的測量值。現有材料無法證明「內容」指的是聊天機器人回覆、使用者貼文、圖片、影片、帳號，或是上述內容的組合。它也無法顯示刪除是否為永久性、是否提供申訴管道，或總數是否包含重複或自動生成項目。

這份報告同樣沒有提供模型準確度、安全表現或使用者採用率的基準。除非監管機構提供產品層級的發現，否則不應將被點名的產品解讀為在比較測試中失敗。這是一個執法訊號，而非對AI 安全性的直接對照評估。

這份報告對 AI 開發者與買家的意義

對中國的 AI 開發者而言，直接影響是營運層面的。合規團隊可能需要更強的高風險提示詞審查流程、更清楚的禁止輸出規則，以及更可靠的紀錄來顯示事件如何被偵測與解決。這些要求可能影響延遲、人力配置與基礎設施成本，特別是在審核被套用於模型生成前後時。

在國內模型之上開發的團隊，也應檢視模型供應商與應用擁有者之間的責任分工。模型可能阻擋明顯的請求，但當應用提供上下文、串接多次呼叫，或允許自主行動時，仍可能產生風險內容。因此，AI 安全控制必須在完整工作流程中測試，而不只是單獨的聊天視窗裡。

企業買家應要求供應商提供不只是一般性保證。相關盡職調查包括審核範圍、地區資料處理、事件通知、稽核日誌、保存政策、人工審查，以及停用或限制敏感功能的支援。這項執法數字並不能證明任何特定供應商的控制不足，但它說明了為什麼治理不能與採購分開看待。

更廣泛的市場效應，可能是信任與部署可靠性方面的競爭更趨激烈。能在不讓系統變得過度限制而無法使用的情況下，證明具預測性的控制機制的供應商，可能會在受監管客戶中取得優勢。與此同時，不透明的執法或不一致的拒答行為，可能會讓開發者更難在這些模型上建立可靠應用。

接下來要觀察什麼

下一個有用的訊號將是中國網信辦更完整的發布，說明此次行動的日期、法律類別、平台與移除方式。若有產品層級的發現，將能釐清 Doubao、Yuanbao、Qianwen 與 ERNIE Bot 是直接執法對象、較大報告中的例子，還是僅僅被執法流程涵蓋的服務。

開發者也應關注模型文件、安全政策、API 限制與帳號審查程序的變化。若強制身分驗證增加、出現新的內容類別，或自動過濾變得更積極，將表示這項行動正在改變產品運作，而不只是作為公開警告。

對研究人員與買家而言，獨立測試拒答一致性、誤判率，以及多步驟提示下的行為，會比單看頭條上的移除數字更有資訊量。這些測試可顯示新控制是否在保留合法用途的同時提升可靠性。

Creati.ai 觀點

報導中的 561 萬筆移除，最好被理解為執法活動的衡量，而不是 AI 風險或模型品質的獨立指標。若沒有分類拆解與產品層級證據，這個數字無法說明是哪些系統造成內容，也無法看出被點名的聊天機器人是否有不同表現。

不過，它也凸顯了 AI 公司的一個核心現實：內容審核正成為持續性的營運功能。隨著監管機構從廣泛政策轉向以活動為基礎的執法，開發者需要的是可衡量、可稽核、且能在整個應用堆疊中維持韌性的控制措施，而不只是顯示在聊天機器人使用者介面的安全機制。