AI-translated from English; not yet reviewed by a fluent editor.

# DeepMind 与 GovTech 详解设备端诈骗检测器

> DeepMind 与新加坡 GovTech 描述了一种两阶段手机诈骗检测器：先快速筛查消息，再用 Gemma 分析对话。其推出情况和效果尚不清楚。

By BIG CHANGE Editorial

Published: 2026-10-14T23:06:16.961Z
Updated: 2026-10-14T23:06:16.961Z
Canonical: https://bigchange.ai/blog/deepmind-singapore-on-device-scam-detection

![Conceptual charcoal illustration of one person pausing over a blank-screen smartphone beside a window.](https://bigchange.ai/api/media/file/deepmind-scam-message-pause-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE. A person pauses over a phone; no released app, actual warning, detected scam or tested result is depicted.

Google DeepMind 与新加坡政府科技局（GovTech）于 10 月 14 日宣布推出一款模型，用于在手机消息对话中识别操纵手法。其设计先快速检查普通消息，再将可能可疑的消息交给微调后的 Gemma 模型进一步分析。合作方描述了一种在对话期间向用户发出警告、同时不把对话发送到服务器分析的方式。他们尚未宣布面向消费者发布该模型，也没有公布检测结果。

## 重大变化

- **变化之处：** DeepMind 与 GovTech 描述了一种两阶段、在设备上运行的诈骗检测器：轻量级分类器先筛查收到的消息；若第一阶段发现疑点，微调后的 Gemma 模型会进一步查看更多对话内容。检测到威胁后，手机会显示警告。
- **重要性：** 该设计旨在私密消息中识别对话操纵，同时让推理在设备上进行。第一阶段也减少了较耗资源的上下文模型需要运行的次数。这些是合作方描述的设计选择，并非独立测量的隐私、电池或防诈骗效果。
- **后续观察：** 未来若公布发布途径、支持设备，以及漏检、误报、速度和耗电方面的测试，就能了解该模型在合作方所述开发工作之外的实际表现。公告未提供这些细节。

## 对话分析之前的快速筛查

在[DeepMind 对该项目的介绍](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/)中，轻量级分类器以极低功耗筛查收到的消息。它认为无害的消息会在此结束；可能构成威胁的消息则进入微调后的 Gemma 模型，由其评估更大范围的对话快照，然后排除疑虑或发出诈骗警报。警告会建议用户在分享金钱或敏感信息前先停下来考虑。

第二阶段很重要，因为单条消息可能无法揭示在整段对话中逐渐形成的操纵手法。DeepMind 表示，该模型使用本地诈骗对话进行调优，这些对话涉及冒充公共机构、银行和当地人物，也包括地区性骗局。公告没有说明具体的 Gemma 版本或规模、第一阶段分类器的架构、多少条消息会进入第二阶段，或触发警告的阈值。缺少这些信息，就无法仅凭公告评估功耗与准确性之间的取舍。

DeepMind 将该系统定位于采用端到端加密的消息服务。在这种情况下，服务无法直接在服务器上检查加密消息内容。合作方称模型会在设备上处理对话。这是对拟议推理路径的具体说法；文章没有提供独立隐私审计，也没有说明未来应用可能通过其他功能收集哪些数据。

## 云端训练与本地推理是不同环节

该项目的训练确实使用了云基础设施。DeepMind 表示，微调是在由 GovTech 管理和维护的 Google Cloud 环境中进行，训练数据与其他数据隔离。它称已排除私人信息和个人身份信息，数据集则来自经过匿名化处理的诈骗报告和情报信息流。合作方还报告称，他们使用合成对话和本地语料进行测试。文章没有提供数据准备方法、测试规程或数值结果，因此这些仍只是合作方对其流程的描述。

不应把这个开发环境与拟议中的日常运行混为一谈。报道所述设计是在手机本地运行消息筛查和 Gemma 的上下文推理，然后在手机上显示警告。基于云端的微调本身并不意味着用户实时对话会被发送到 GovTech 的训练环境。同样，合作方关于设备端运行的说法，也不能证明尚未公布的消费者集成会采用何种数据实践。

DeepMind 表示，该项目曾在新加坡国际网络周上介绍，消息平台和操作系统厂商可以集成这些模型。它没有点名任何集成服务、应用或操作系统版本，没有列出支持的手机，也未提供调优后的权重、价格或推出日期。其所述压力测试不是独立的实地评估。这里有用的进展，是给出一套清晰的本地诈骗对话分析架构；人们在实际使用中能否收到可靠警告，仍是开放问题。

## 来源与延伸阅读

- [Google DeepMind 的公告](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/)，2026 年 10 月 14 日：说明两阶段流程、Gemma 调优、拟议的设备端警告、由 GovTech 管理的云端训练，以及合作方关于治理和测试的说法。这是项目团队的介绍，没有公开准确率、延迟、电池耗电或推出数据。
- [新加坡 MDDI 的国家人工智能合作伙伴关系公告](https://www.mddi.gov.sg/newsroom/google-and-singapore-expand-partnership-to-accelerate-ai-impact-for-the-public-good/)，2026 年 5 月 20 日：介绍 Google 与新加坡合作的背景；未说明诈骗模型的表现或可用情况。

## Sources

- [Google DeepMind 与新加坡政府宣布推出保护公众免受诈骗的新 AI 工具](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/) — 项目团队对两阶段本地推理流程、上下文 Gemma 模型、设备端警告、云端微调和匿名化训练数据的描述。隐私与测试相关说法均注明来自合作方；没有公开推出计划或实测性能。
- [Google 与新加坡扩大合作，推动人工智能造福公众](https://www.mddi.gov.sg/newsroom/google-and-singapore-expand-partnership-to-accelerate-ai-impact-for-the-public-good/) — MDDI 对更广泛国家人工智能合作伙伴关系的记录；仅作背景资料，不涉及诈骗检测器的性能或访问细节。