Google 起訴使用 AI 的中國網路犯罪組織，詐騙了數十萬人

對抗生成式 AI（Generative AI）驅動的網路犯罪之直接打擊

為了保護用戶免受不斷演變的數位詐騙威脅，Google 已正式對一個源自中國、且利用人工智慧（AI）進行支援的複雜網路犯罪集團採取法律行動。這起訴訟標誌著科技平台與惡意行為者之間長期鬥爭的一個關鍵轉折點，後者正日益利用人工智慧來擴大規模的惡意基礎設施。根據法庭文件顯示，該組織負責策劃大規模的詐騙活動，透過欺騙性的通訊手段，在全球範圍內鎖定了數十萬名毫無戒心的受害者。

在 Creati.ai，我們密切關注生成式 AI 如何降低網路犯罪的門檻。透過自動化生成個性化、具說服力且語法完美的欺騙性內容，這些團體成功繞過了專為傳統網路釣魚嘗試設計的舊式安全檢測方法。Google 的這起訴訟不僅僅是一種法律手段；它更是一份關於科技巨頭有責任打擊 AI 武器化的防禦性聲明。

欺騙的運作機制

Google 鎖定的該犯罪集團採取了一種多層次的欺騙用戶手段。透過濫用生成式 AI 的能力，該集團製作了極具說服力的「簡訊詐騙」（Smishing，即 SMS 釣魚）活動。這些簡訊旨在冒充合法的品牌通訊（包括來自 Google 本身的通訊），以在接收者心中營造一種虛假的安全感。

這些活動的主要目標是竊取敏感憑證，包括密碼以及如信用卡資訊等複雜的財務數據。犯罪者利用 AI 動態調整其話術，確保當某種「類型」的詐騙被封鎖時，幾分鐘內就能由 AI 生成另一種稍微修改過的版本來繞過安全過濾器。

網路犯罪活動特徵總覽

特徵	戰術執行	風險等級
自動化釣魚	使用多種語言的 AI 生成腳本	高
品牌冒充	模仿 Google 及銀行平台	高
憑證竊取	重新導向至被盜資料庫的偽造登入頁面	關鍵
全球擴散	透過簡訊及通訊軟體大規模散佈	全球性

現代詐欺技術為何如此有效

從人工編寫的釣魚留言轉變為 AI 驅動的通訊，代表了威脅行為者方法論的典範轉移。正如 Google 的 訴訟 所強調的，這種作戰規模的實現，仰賴於能夠根據已竊取的元數據（Metadata）個性化文字的自動化腳本，這使得它們在統計學上更容易觸發目標對象的情緒反應——無論是緊迫感、恐懼還是精心設計的好奇心。

為了理解問題的廣度，請考慮 AI 如何加劇這些詐騙的以下關鍵層面：

• 語言能力： AI 模型現在能生成零錯誤且具備文化細微差別的文本，消除了傳統釣魚郵件中諸如語法錯誤或表達彆扭等「明顯特徵」。
• 快速迭代： 網路犯罪者使用 AI 管線同時測試數百種訊息變體，從而識別出哪些觸發點能帶來更高的點擊率。
• 規模與速度： 該行動一天內就能發送數以萬計的獨特訊息，這是在過去需要龐大人工團隊才能完成的壯舉。

加強 AI 安全生態系統

Google 的法律干預旨在瓦解支持這些犯罪集團的基礎設施，有效地切斷他們對雲端服務及域名註冊平台的存取。這種方法至關重要，因為技術供應商在現代網路安全中既是戰場，也是守門人。

隨著我們深入走進 AI 時代，安全責任已不僅僅是軟體更新的問題。AI 安全 現在必須被視為產品開發的基礎支柱。企業必須實施更穩健的身分驗證流程，並利用 AI 驅動的檢測系統，在潛在欺詐模式觸及終端用戶之前對其進行掃描。

建議用戶採取的最佳實踐

• 驗證來源： 即使簡訊看起來來自安全品牌，也請手動導航至官方網站，而非直接點擊連結。
• 啟用多因素驗證（MFA）： 如果憑證已因釣魚行動而遭到洩漏，多因素驗證可作為最後一道關鍵防線。
• 回報異常： 利用各大平台提供的官方舉報管道，立即標記可疑活動。

前瞻：主動式防禦

這起訴訟是一個明確的訊號，代表網路犯罪者「自動化逍遙法外」的時代即將結束。透過對負責的特定實體採取法律行動，Google 向數位世界傳遞出一個訊號：他們已準備好利用手中一切工具——從技術程式碼到法庭訴訟——來保護其用戶群。

在 Creati.ai，我們相信透明度是對抗 AI 驅動犯罪的最重要資產。我們對這些集團所使用的戰術記錄與討論得越多，用戶和組織就越有能力防禦它們。雖然 AI 對創作者和開發者來說是一種強大的工具，但它也是一把需要時刻保持警惕的雙面刃。透過執法部門與大型科技公司之間的積極合作，我們可以開始將權力平衡重新轉回用戶手中，確保未來的創新能成為造福社會的工具，而非剝削的手段。