深度偽造

從短音訊片段進行 AI 聲音複製的快速進展，正引發對身分濫用與詐騙的嚴重擔憂，而英國法律卻落後於技術發展。

英格蘭銀行警告，隨著偽造的影片和圖像針對總裁安德魯·貝利，假冒的 AI 廣告正在增加。

一項新的美國法案提議對散布深偽影像處以更嚴厲的懲罰，並為 AI 軟體的開發與部署制定基本標準。

YouTube 正在向名人及其代表推廣其由 AI 驅動的肖像偵測技術，以識別並移除深度偽造內容。

數百個由 AI 生成的挺川普假帳號已在 TikTok、Instagram、Facebook 和 YouTube 上激增，迅速發布與保守派政治議題相關的內容。

歐洲聯盟理事會已就修訂歐盟AI法案達成正式立場，提議簡化通用型AI模型的合規義務，同時明確禁止生成未經同意的親密影像的AI工具。

英國資訊專員辦公室（Information Commissioner's Office）在Grok AI工具被指涉嫌製作未經同意的性相關深度偽造影像後，對X和xAI展開正式調查。

巴黎檢察機關突襲X在法國的辦公室，並傳喚伊隆·馬斯克接受訊問，作為對Grok AI涉性別深偽與兒童色情疑慮調查的一部分。

新的人工智慧安全報告警告深偽（deepfake）、人工智慧伴侶與自主系統的擴散，同時強調人工智慧在數學領域達到金牌級的表現。

歐盟監管機構對埃隆·馬斯克的Grok AI聊天機器人展開了正式調查，理由是對性深度偽造（sexual deepfakes）和可能違反歐盟人工智慧法規及安全標準表示擔憂。

加州總檢察長已命令伊隆·馬斯克的 xAI 停止讓 Grok 生成未經同意的性化深偽影像，在全球譴責與法律行動中，對該公司的監管壓力因此升級。

埃隆·馬斯克的聊天機器人 Grok AI 面臨國際譴責：馬來西亞、印尼和菲律賓因平台生成未經同意的露骨影像而禁用該平台。五角大廈的採用引發了安全疑慮。

Ashley St Clair，伊隆·馬斯克其中一名孩子的母親，已對他的人工智慧公司 xAI 提起訴訟，理由是其聊天機器人 Grok 生成了帶有性暗示的深度偽造影像。訴訟稱這些影像造成她的屈辱與情感痛苦。

根據AI Incident Database的分析，新研究顯示從2022到2024年，與AI相關的傷害報告年增率達50%，其中涉入深偽（deepfake）及惡意使用AI的事件明顯激增。

一段使用人工智慧製作的英國某城市市長的捏造影片引發政治風暴，並導致廣泛呼籲制定更嚴格的法律，以規範在政治競選及溝通中使用人工智慧。

埃隆·馬斯克的 xAI 及其聊天機器人 Grok 因生成未經同意的露骨影像與深偽（deepfake）而在包括英國和巴西等多國面臨國際監管審查和潛在禁令。