AI 聊天機器人

歐盟擬議中的兒童安全框架可能把平台義務擴及社群媒體、遊戲與 AI 聊天機器人，提升開發者的合規門檻。

報導指出，歐盟正在準備一項 Kids Act，可能限制 15 歲以下使用社群媒體與 AI 聊天機器人，並引發新的合規問題。

Current AI 正在擴大一套公共利益 AI 技術堆疊，包含離線語言工具、補助金與開源聊天機器人，目標是服務資源不足的社群。

據報，中國聊天機器人供應商正隨著北京收緊規則而移除 AI 人格設定，顯示面向消費者的 AI 設計將面臨更嚴格限制。

BBC Future 探討研究，指出依賴人工智慧聊天機器人進行寫作、諮詢與學習，可能正在削弱使用者的批判性思維能力。

一項新研究發現，AI 驅動的聊天機器人約有一半的時間會提供有問題或具誤導性的醫療建議，引發對醫療安全的嚴重擔憂。

Similarweb 的最新數據顯示，AI 聊天機器人服務的成長速度比社群媒體平台快 7 倍，不過社群媒體的總流量仍然多出 4 倍。

Meta 宣布將允許第三方 AI 聊天機器人供應商透過其商業 API 在歐洲的 WhatsApp 上運作 12 個月，此舉旨在避免歐盟委員會展開重大反壟斷調查。

Vodafone 的調查顯示，81% 的英國 11 至 16 歲兒童使用 AI 聊天機器人，近三分之一視其為朋友，並分享不會告訴父母或老師的資訊。

越來越多英國青少年將 AI 伴侶用作情緒支持，64% 的人依賴它們提供建議。專家警告這可能對社交技能和心理健康造成風險。

在有關危險互動的報導後，Meta 正在努力建立更安全的體驗並賦予父母更多控制權，因此暫時在全球範圍內阻止青少年存取其 AI 角色聊天機器人。