Google DeepMind 与新加坡政府科技局（GovTech）于 10 月 14 日宣布推出一款模型，用于在手机消息对话中识别操纵手法。其设计先快速检查普通消息，再将可能可疑的消息交给微调后的 Gemma 模型进一步分析。合作方描述了一种在对话期间向用户发出警告、同时不把对话发送到服务器分析的方式。他们尚未宣布面向消费者发布该模型，也没有公布检测结果。
重大变化
- 变化之处： DeepMind 与 GovTech 描述了一种两阶段、在设备上运行的诈骗检测器：轻量级分类器先筛查收到的消息；若第一阶段发现疑点，微调后的 Gemma 模型会进一步查看更多对话内容。检测到威胁后，手机会显示警告。
- 重要性： 该设计旨在私密消息中识别对话操纵，同时让推理在设备上进行。第一阶段也减少了较耗资源的上下文模型需要运行的次数。这些是合作方描述的设计选择，并非独立测量的隐私、电池或防诈骗效果。
- 后续观察： 未来若公布发布途径、支持设备，以及漏检、误报、速度和耗电方面的测试，就能了解该模型在合作方所述开发工作之外的实际表现。公告未提供这些细节。
对话分析之前的快速筛查
在DeepMind 对该项目的介绍中，轻量级分类器以极低功耗筛查收到的消息。它认为无害的消息会在此结束；可能构成威胁的消息则进入微调后的 Gemma 模型，由其评估更大范围的对话快照，然后排除疑虑或发出诈骗警报。警告会建议用户在分享金钱或敏感信息前先停下来考虑。
第二阶段很重要，因为单条消息可能无法揭示在整段对话中逐渐形成的操纵手法。DeepMind 表示，该模型使用本地诈骗对话进行调优，这些对话涉及冒充公共机构、银行和当地人物，也包括地区性骗局。公告没有说明具体的 Gemma 版本或规模、第一阶段分类器的架构、多少条消息会进入第二阶段，或触发警告的阈值。缺少这些信息，就无法仅凭公告评估功耗与准确性之间的取舍。
DeepMind 将该系统定位于采用端到端加密的消息服务。在这种情况下，服务无法直接在服务器上检查加密消息内容。合作方称模型会在设备上处理对话。这是对拟议推理路径的具体说法；文章没有提供独立隐私审计，也没有说明未来应用可能通过其他功能收集哪些数据。
云端训练与本地推理是不同环节
该项目的训练确实使用了云基础设施。DeepMind 表示，微调是在由 GovTech 管理和维护的 Google Cloud 环境中进行，训练数据与其他数据隔离。它称已排除私人信息和个人身份信息，数据集则来自经过匿名化处理的诈骗报告和情报信息流。合作方还报告称，他们使用合成对话和本地语料进行测试。文章没有提供数据准备方法、测试规程或数值结果，因此这些仍只是合作方对其流程的描述。
不应把这个开发环境与拟议中的日常运行混为一谈。报道所述设计是在手机本地运行消息筛查和 Gemma 的上下文推理，然后在手机上显示警告。基于云端的微调本身并不意味着用户实时对话会被发送到 GovTech 的训练环境。同样，合作方关于设备端运行的说法，也不能证明尚未公布的消费者集成会采用何种数据实践。
DeepMind 表示，该项目曾在新加坡国际网络周上介绍，消息平台和操作系统厂商可以集成这些模型。它没有点名任何集成服务、应用或操作系统版本，没有列出支持的手机，也未提供调优后的权重、价格或推出日期。其所述压力测试不是独立的实地评估。这里有用的进展，是给出一套清晰的本地诈骗对话分析架构；人们在实际使用中能否收到可靠警告，仍是开放问题。
来源与延伸阅读
- Google DeepMind 的公告，2026 年 10 月 14 日：说明两阶段流程、Gemma 调优、拟议的设备端警告、由 GovTech 管理的云端训练，以及合作方关于治理和测试的说法。这是项目团队的介绍，没有公开准确率、延迟、电池耗电或推出数据。
- 新加坡 MDDI 的国家人工智能合作伙伴关系公告，2026 年 5 月 20 日：介绍 Google 与新加坡合作的背景；未说明诈骗模型的表现或可用情况。
