Google 這次不是只把防詐按鈕調大，而是直接把 AI 釣魚詐騙送進法院。Reuters 報導，Google 週五在曼哈頓聯邦法院提告一個名為 Outsider Enterprise 的中國背景網路犯罪組織，指控它利用 AI 工具協助製作釣魚網站、散布假包裹通知與銀行警示，還把受害者一步步導到能偷走個資與金錢的假站。Google 自己的官方部落格更把話講明白：它要拆掉這套基礎設施，並且同時找 FBI 與 AT&T、T-Mobile、Verizon 一起擋訊息、切流量、斷鏈條。
這件事值得讀的地方，不只是「Google 又在打詐」，而是它把 AI 風險的定義往外推了一格。過去大家談生成式 AI，常盯著模型會不會亂答、會不會幻覺、會不會越權；現在這篇訴訟把焦點拉回最老派、也最有效的那一層：詐騙如何靠模板化、批量化、分工化變成工業流程。Google 在文中提到，這個網絡透過 Telegram 協調，散布 phishing kits，外加濫用品牌標識與雲端服務來包裝自己。換句話說，AI 在這裡不是主角的全部，而是讓犯罪流水線更便宜、更快、更難攔。
對平台公司來說，這是另一種現實測試。單靠產品內建的垃圾訊息過濾，已經不夠面對一個能跨站點、跨通訊平台、跨品牌仿冒的詐騙供應鏈。Google 在官方說法裡列出 9,000 個假網站、超過 1,000 萬個詐騙 URL 與兩週內 2,500 萬封相關訊息的量級，這種規模意味著反詐不可能只在 app 介面裡解決，還得進到電信閘口、執法協作與法律禁制令。這也是為什麼這篇新聞讀起來不像單一產品更新，比較像一場戰術升級：從偵測內容，變成打掉整條分發鏈。
更重要的是，這種戰術會反過來改變 AI 公司的責任敘事。當 Google 說這是它第一起針對 Gemini 濫用的訴訟時，意思並不是模型本身「做了壞事」，而是模型被放進了犯罪經濟學的管線裡。下一步，市場不只會看哪家模型比較強，還會看哪家平台能把自己的工具、合作夥伴與法律武器一起編成防線。AI 競爭終於開始有一部分從能力榜，移到可信度與控管能力的排行榜。
參考來源：
- How we're combatting AI scams with security, legislation and more – https://blog.google/innovation-and-ai/technology/safety-security/combatting-ai-scams/
- Google targets AI-powered phishing in New York lawsuit – https://www.reuters.com/legal/government/google-targets-ai-powered-phishing-new-york-lawsuit-2026-06-12/
- Google sues China-based scammers over Gemini AI abuse – https://www.helpnetsecurity.com/2026/06/12/google-china-based-cybercrime-network-lawsuit/