合成欺詐的浪潮：英國央行針對 AI 生成的詐騙發出警告

在生成式 AI（Generative AI）使超逼真媒體創作平民化的時代，數位現實與精密詐騙之間的界線正變得日益模糊。繼一系列在網路上出現、專門針對總裁安德魯·貝利（Andrew Bailey）的偽造影音內容後，英國央行（Bank of England, BoE）近期針對 AI 生成的詐騙廣告發出嚴正警告。

由於數位識讀能力落後於人工智慧的飛速演變，各機構與個人正處於惡意行為者的威脅焦點之中；這些行為者利用深偽（deepfake）技術來建立虛假公信力或播種公眾不信任感。這一發展標誌著國家金融安全與現代 網路安全（cybersecurity）威脅交叉點上一個關鍵的轉折點。

攻擊解剖：當深偽技術瞄準經濟管理部門

中央銀行近期強調的事件涉及虛假影像，內容描繪了總裁 安德魯·貝利 與「改革英國黨」（Reform UK）領導人奈傑爾·法拉奇（Nigel Farage）等知名政界人士之間虛構的爭執。這些在社群媒體平台上流傳的影片，利用先進的深偽技術操縱音訊與視覺模式，營造出真實世界紛爭的虛假表象。

對於英國央行而言，此類虛假資訊的影響遠不止於聲譽受損。當 AI 被武器化以模仿央行官員時，將對市場穩定性構成系統性風險。若投資人與一般大眾被此類內容誤導，可能會做出引發不必要市場波動的反應，進而破壞正常經濟運作所需的公眾信任。

AI 驅動虛假資訊的主要風險

• 機構信任的侵蝕： 扭曲高層官員的形象，使公眾難以辨識官方通訊。
• 金融詐騙： 詐騙者常將 深偽 與虛假投資網站結合，誘騙受害者提供敏感的財務資訊。
• 市場操縱： 虛假公告可能引發局部的市場變動，讓惡意行為者得以利用人為製造的輿論週期進行先行交易或放空市場從中獲利。
• 病毒式加速傳播： 社群媒體演算法通常優先推播高互動性的聳動內容，使得 AI 生成的詐騙資訊在事實查核人員介入前便已加速擴散。

技術挑戰：從合成虛構中辨識真相

驅動這些事件的底層技術——生成對抗網路（GANs）與大型多模態模型——已使得惡意行為者能以極低的技術門檻製作「高保真」詐騙內容。與過去粗糙的修圖技術不同，當代深偽技術能捕捉人類語音與臉部表情的細微差別，使得人類辨識幾乎不可能。

下表總結了在 AI 時代身分詐騙的演變。

防禦姿態：利益相關者必須採取什麼行動

英國央行已表明採取多層次防禦策略的迫切需求。鑑於這些影片的傳播速度，僅依賴平台進行「自我監管」已被證實不足以應對。Creati.ai 強調，解決方案必須結合監管審查、技術驗證與大眾意識。

1. 強化歸屬標準

平台必須採用數位浮水印與來源證明標準。透過整合 C2PA (內容出處與真實性聯盟) 協議，內容創作者與通訊社可以提供一道「數位指紋」，允許使用者驗證媒體內容未曾被 AI 竄改。

2. 加強網路警戒

像英國央行這類機構目前正投入更多資金於即時「威脅狩獵」。這包括使用 AI 驅動的內部監控工具來掃描網路上未經授權的領導形象呈現，以便在影片接觸到大量觀眾前快速下架。

3. 公眾識讀與懷疑精神

最有效的防禦依然是具備懷疑精神的大眾。英國央行呼籲使用者嚴格監控所消費的任何影音內容來源，尤其是當議題涉及高風險金融主題時。

機構通訊的未來

展望未來，維持真實數位通訊的挑戰只會與日俱增。英國央行並非唯一的知名受害者；全球多個金融與政治實體皆已回報類似威脅。

AI 整合至消費型媒體為我們提供了巨大的創意能力，但同時也為那些靠混亂與詐騙生存的人提供了一件武器。身為 Creati.ai 的分析師，我們相信這場戰爭的下一階段將在基礎架構層展開——即利用 AI 來偵測 AI。在這些工具普及且免費使用之前，責任在於託管內容的平台與消費內容的公民，雙方應共同要求數位時代具備更高的透明度標準。

我們目前正觀察到數位權威代表方式的根本性轉變。「眼見為憑」的時代已實質終結，取而代之的是一個需要以更細緻的方式進行驗證、懷疑，並建立機構韌性的新時代。