
根據 Nikkei Asia,中國頂尖的聊天機器人供應商據報正逐漸擺脫為其 AI 助理賦予鮮明人格特徵的做法,因為北京正在加強對生成式 AI 服務的監管。雖然目前可取得的來源材料相當有限,但這項據報的變化指向更廣泛的監管調整:中國的消費級 AI 產品可能不僅會因模型生成了什麼而受到更密切審查,也會因這些系統如何向使用者呈現自己而受到審視。
這不只是產品設計的問題。對 AI 開發者而言,「人格」功能往往與互動參與度、留存率、情感互動與品牌差異化有關。如果中國當局現在正向大型平台施壓,要求淡化或移除這些特質,那麼結果可能會重塑本地公司如何為消費者定位聊天機器人、企業產品如何包裝,以及全球供應商如何在高度監管的市場中思考合規。
Nikkei Asia 的標題指出,隨著規範收緊,中國領先的聊天機器人將「捨棄 AI 人格設定」。本文提供的來源文字並未包含完整文章,因此依據 Creati.ai 可取得的證據,仍有若干重要細節未獲確認:是哪些公司正在進行調整、這項轉變是強制性的還是預防性的,以及究竟是哪項具體監管指引引發了這個動作。
即使有這些限制,方向仍然很重要。AI 人格設定通常是指將聊天機器人包裝成一個有名稱的角色、夥伴、角色扮演人物,或帶有情感風格的助理,而不是中性的工具。在許多市場中,這類功能已成為讓聊天介面更具吸引力的標準做法。然而在中國,若監管更重視社會穩定、內容管制、青少年保護與平台責任,過度擬人化的助理就可能變得更難以辯護。
如果領先供應商確實正在改變產品設計,這意味著中國的 AI 治理正從輸出內容的審查,延伸到互動設計。這是一個值得注意的步驟,因為人格系統會影響使用者信任、擬社會依附,以及模型回應在使用者眼中的權威性。
中國在數位平台治理上,一直比許多西方市場採取更介入的方式,而生成式 AI 從一開始就被視為政治與社會上都高度敏感的類別。雖然 Nikkei Asia 報導摘錄在所提供的材料中沒有引用具體新規,但「收緊規則」這個說法顯示,最新壓力很可能與更嚴格的執法有關,而不只是單純的自願式產品更新。
從監管角度來看,AI 人格設定帶來了幾個明顯疑慮。若聊天機器人的行為像名人、治療師、適合兒童的角色,或親密夥伴,就可能模糊工具與社會行為者之間的界線。這會讓有害輸出更具說服力、讓揭露聲明更不有效,也會在使用者把生成建議當成人類指導時,讓責任歸屬變得更複雜。
對中國監管者而言,這也涉及國家治理層面。鮮明的個性會鼓勵更自由、開放式的對話,而這類對話比單純面向任務的助理更難以約束。中性的介面更容易監控、更容易向監管機構說明,也更容易與搜尋、生產力、客服與教育等核准用途對齊。
實務上,移除 AI 人格設定並不會像改變提示詞、安全層、產品文案、語音設計、註冊引導與功能邊界那樣大幅改變底層模型架構。這意味著,如果企業認為合規風險大於互動收益,據報的變化可能會相當快地發生。
如果這項報導屬實,最直接的影響很可能是產品趨同。中國的聊天機器人製造商不只在模型品質上競爭,也在風格、社交功能與消費者吸引力上競爭。一旦把人格設計排除在競爭之外,更多競爭就會轉向搜尋整合、企業部署、工作流程工具與模型效率。
這可能會讓已經擁有分發管道、雲端基礎設施與企業軟體渠道的大型平台受益。它也可能讓較小型的消費級 AI 新創更難突圍。當個性、角色扮演與情感陪伴受到限制時,差異化就更依賴模型表現、領域專精與生態系存取。
這項變化也可能讓市場更清楚地分成消費級聊天與企業 AI。企業通常偏好可預測、品牌安全、功能明確且控制力強的助理。因此,對高人格化產品的打擊可能會加速轉向工作場域自動化、內部知識助理與客服機器人,而不是以娛樂為主的聊天應用。
對中國以外的開發者來說,這也是另一個提醒:AI 產品策略越來越具有在地性。在一個市場中能提升互動的設計模式,在另一個市場可能引發監管疑慮。推出全球產品的團隊,可能需要針對名稱、語氣、記憶、情感框架與角色扮演功能設定地區專屬的預設值。
本則報導中目前最有力的事實,來自 Nikkei Asia 的報導:中國領先的聊天機器人將隨著北京收緊規則而捨棄 AI 人格設定。由於所提供的來源證據中沒有完整文章,Creati.ai 無法獨立核實背後的政策文件、公司名單、推行時程,或原始報導中可能出現的高層與監管機關直接評論。
這個證據缺口很重要。若沒有全文,僅憑這些材料無法判定此舉是否影響 ERNIE Bot、Doubao、Kimi 或 Tongyi Qianwen 等特定產品,儘管這些服務常常是中國 AI 市場討論的核心。也不清楚據報變化是適用於所有面向公眾的 AI 代理,還是僅限某些類別的聊天機器人,抑或只針對未成年人或大眾社交用途的產品。
同樣地,這裡提供的證據中沒有任何基準數據或採用數據。若主張移除人格設定會改善安全、減少濫用或損害留存,這都將是推論,而非來源材料中已確認的事實。因此,讀者應將此視為一則據報的監管與產品方向轉變,而不是量化的市場結果。
儘管如此,這份報導與企業 AI 與企業 AI 治理中已相當熟悉的模式一致:監管者往往先從內容標準著手,接著再轉向設計控制,在內容生成之前就塑造使用者行為。
對產品團隊來說,實務上的教訓是合規正越來越深入 UX 層。不再只是生成後再去審查輸出就夠了。公司可能需要說明,為何某個模型需要名稱、面孔、背景故事、特定語氣,或會鼓勵情感依賴的記憶系統。
在中國,這可能會把團隊推向「助理即工具」的設計。能通過審查的功能,更可能看起來像搜尋、起草、翻譯、程式碼助理工作流程,以及商業流程自動化,而不是開放式陪伴。這種轉變與企業 AI 預算很契合,因為買家比起人格,更重視控制、可稽核性與低變異性。
對企業軟體供應商而言,這可能是淨正面效益。如果消費級聊天體驗變得更標準化,供應商就能透過部署品質來差異化:私有資料存取、檢索準確度、管理控制、記錄與工作場域自動化堆疊的整合。這也可能讓採購更容易,因為買家面對擬人化代理與員工或客戶互動時,所承受的聲譽風險會降低。
對研究人員與安全團隊來說,中國據報的動作引出一個其他市場也開始面對的更廣泛問題:AI 代理是否應該被允許模擬社會身份,並以此提高信任與依附?隨著語音代理與持續性 AI 代理變得愈來愈普遍,這個辯論的影響遠超中國。
首先要觀察的訊號,是中國特定服務是否公開修改其介面、描述或註冊引導文案。若 ERNIE Bot、Doubao、Kimi 與 Tongyi Qianwen 等產品更新,將提供具體證據,顯示這項據報變化是廣泛而非個別的。
其次,應留意是否有正式通知或監管指引,定義何謂 AI 人格設定。禁止虛構角色包裝,與禁止所有風格化助理身份,對產品的影響會大不相同。
第三,觀察應用商店說明、青少年模式、語音功能與記憶功能的變化。這些正是人格設計最明顯、也最容易被限制的區域。
最後,競爭對手的反應很重要。如果大型供應商把投資從消費級聊天轉向企業 AI、用於商務工作流程的 AI 代理,以及程式設計助理產品,這將證明市場正在適應監管,而不是只是等待過去。
這場據報針對 AI 人格設定的整頓,並不是一則表面化的故事。它指向政府可能如何規管生成式 AI 的更深層轉變:不只是管制輸出,更是控制形塑使用者信任的行為框架。對創辦人與產品團隊而言,這意味著產品設計本身正成為合規的一部分。
短期內,這很可能強化中國大型既有業者的地位,因為他們能吸收政策變化,並轉向企業 AI 與工作場域自動化。長期來看,這也可能預示一場更廣泛的全球辯論:AI 代理應該被允許看起來多像人?能把核心模型能力與人格層功能分離的開發者,將更有能力在監管者認定助理的「性格」與其底層智慧同樣重要時做出調整。