Google 起诉钓鱼即服务团伙：Gemini 被拿去把诈骗做成模板工厂

一条短信说你的账户异常，或者包裹配送出了问题。点进去，页面看起来像 Google、YouTube，甚至纽约 E-ZPass。你以为是在补资料，实际是在把个人信息和银行卡资料交给诈骗者。

Google 这次起诉的，就是这条链路。被告是一个名为 Outsider Enterprise 的网络犯罪团伙。按 Google 的说法，它通过 Telegram 运营“钓鱼即服务”，提供模板，还指导客户使用 Gemini 批量生成仿冒网站和短信诈骗页面。

这案子最该看的，不是 Gemini 这个名字有多吓人。材料没有显示 Gemini 主动参与诈骗，也没有证据说 Google 故意放任。更准确的说法是：通用 AI 能力被涉嫌犯罪者拿去降低作案门槛。

这已经够麻烦。

发生了什么：一个 Telegram 上的钓鱼模板工厂

按 Google 的诉状和公开披露，Outsider Enterprise 涉嫌把诈骗做成了服务包。

Google 没有给出总损失金额。它只说，已有数百人遭受不同程度的金钱损失。

Google 也在补防线：与 AT&T、Verizon、T-Mobile 合作拦截短信，并协助 FBI 的并行刑事调查。Google Messages 的设备端诈骗检测，也可能拦下一部分。

难点在跨境。攻击者身份仍不明，且可能在中国。民事诉讼能制造压力，能追域名、追渠道、追资金线索，但执法落地不会像发一封律师函那么简单。

为什么重要：诈骗门槛被 AI 往下压了一截

以前做钓鱼网站，至少要懂一点网页、域名、文案和伪装。现在流程被拆开了：模板有人给，页面可以生成，短信文案可以批量改写，话术还能按不同场景调整。

AI 在这里的作用，不是让顶尖黑客更强。它更像把一批普通坏人训练到“够用”。

这才是分水岭。

“钓鱼即服务”卖的不是单个假网站，而是一套低门槛作案流程。诈骗者不用自己摸索，也不必从零写页面。只要会复制、替换、投放，就能加入这条链。

技术史里，这种事不新鲜。印刷术让知识传播，也让谣言传播更快；互联网让商家触达用户，也让垃圾邮件成为产业。天下熙熙，皆为利来。到了 AI 时代，利来的人不只创业者，也包括灰黑产。

今天的情况当然不完全一样。大模型不是印刷机，也不是垃圾邮件服务器。它的问题在“通用”：越能听懂指令、模仿格式、补齐细节，就越难只服务好用途。

安全栏杆可以拦掉一部分明显恶意请求。但诈骗者会拆任务、换说法、借模板绕开。让模型写一个“诈骗页面”会被挡；让它写一个“账户验证页面的前端示例”，就进入灰区。

模型越像一个耐心的实习生，越可能被拿去干脏活。

这对两类人影响最直接。

关注 AI 安全和平台治理的人，不能只盯模型有没有拒答。更要看滥用链条：模板市场、短信投放、域名注册、支付通道、社群分发。安全团队也不能只做提示词过滤，应该把异常生成模式、批量化请求、相似页面指纹和外部威胁情报接起来。

普通用户要改一个习惯：短信里的链接，不管多像官方页面，都别急着点。涉及账户、包裹、扣费、通行费，自己打开官方 App 或官网核验。AI 让假页面更像真的，人的动作就要慢半拍。

接下来盯什么：诉讼有用，但追着打很被动

Google 起诉是必要动作。它能冻结或打掉一部分域名，压缩 Telegram 渠道的活动空间，也能把线索交给执法机构。

但别指望一招见效。

法律追人，运营商拦短信，模型做安全过滤，用户提高警惕。这些都重要，却大多在后手位。诈骗者换域名、换模板、换话术，成本很低。平台每多加一层防护，都要付出工程、审核、误杀和用户体验成本。

这里有一个很现实的约束：平台既卖能力，也要收拾能力外溢后的烂摊子。

过去平台常说自己只是工具。到了大模型时代，这句话越来越单薄。工具越强，越能被低成本复制到坏场景里；平台越大，治理账单越难往外推。

接下来真正该观察三件事。

• Google 能否通过诉讼和 FBI 调查追到核心运营者，而不是只清掉一批外围网站。
• 运营商拦截是否能压低短信投放量，尤其是类似“账户异常”“包裹配送”“通行费欠费”的高频诱饵。
• 模型安全是否从“拒绝明显恶意请求”走向“识别批量化、模板化、可疑用途”。

这三件事，任何一件都不轻松。

监管也会继续压上来。Google 已经表态支持多项美国联邦反诈骗和 AI 治理法案。问题是，法律能要求平台做更多防护，却很难让跨境灰黑产突然守规矩。

所以这案子不是 AI 犯罪的开端，也不是某个模型的单点事故。它更像一个路标：诈骗产业正在从“会技术的人作恶”，走向“不会技术的人也能批量作恶”。

开头那条短信，过去可能是粗糙骗局。以后，它会更像一封认真写过的通知。

麻烦就在这里。