AI-translated from English; not yet reviewed by a fluent editor.

# DeepMind и GovTech описали работающий на устройстве детектор мошенничества

> DeepMind и сингапурская GovTech описали двухэтапный телефонный детектор мошенничества: быструю проверку сообщений, а затем анализ переписки моделью Gemma. Сроки запуска и результаты неизвестны.

By BIG CHANGE Editorial

Published: 2026-10-14T23:06:16.961Z
Updated: 2026-10-14T23:06:16.961Z
Canonical: https://bigchange.ai/blog/deepmind-singapore-on-device-scam-detection

![Conceptual charcoal illustration of one person pausing over a blank-screen smartphone beside a window.](https://bigchange.ai/api/media/file/deepmind-scam-message-pause-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE. A person pauses over a phone; no released app, actual warning, detected scam or tested result is depicted.

14 октября Google DeepMind и сингапурское Агентство правительственных технологий (GovTech) объявили модель, которая ищет манипуляции в переписке на телефоне. Сначала система быстро проверяет обычные сообщения, а потенциально подозрительные передаёт дообученной модели Gemma для более подробного анализа. Партнёры описывают способ предупредить человека во время разговора, не отправляя саму переписку на сервер для анализа. Они не объявляли о выпуске для потребителей и не публиковали результаты обнаружения.

## Главное изменение

- **Что изменилось:** DeepMind и GovTech описали двухэтапный детектор мошенничества, работающий на устройстве: лёгкий классификатор сначала проверяет входящие сообщения, а дообученная модель Gemma анализирует большую часть переписки, если первая стадия выявляет повод для беспокойства. Обнаруженная угроза вызывает предупреждение на телефоне.
- **Почему это важно:** Система призвана выявлять манипуляции в личной переписке, сохраняя обработку на устройстве. Первая стадия также ограничивает частоту запуска более требовательной контекстной модели. Это особенности дизайна, описанные партнёрами, а не независимо измеренные результаты в области конфиденциальности, расхода батареи или предотвращения мошенничества.
- **За чем следить:** Путь к выпуску, поддерживаемые устройства и опубликованные испытания на пропущенные случаи мошенничества, ложные тревоги, скорость и расход энергии показали бы работу модели за пределами описанной партнёрами разработки. В объявлении таких сведений нет.

## Быстрая проверка перед анализом переписки

В [описании проекта DeepMind](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/) лёгкий классификатор проверяет входящие сообщения с минимальным расходом энергии. Если сообщение признано безвредным, обработка на этом заканчивается. Возможная угроза передаётся дообученной модели Gemma, которая оценивает более широкий фрагмент переписки и либо снимает подозрение, либо выдаёт предупреждение о мошенничестве. Предупреждение советует человеку остановиться, прежде чем делиться деньгами или конфиденциальной информацией.

Вторая стадия важна, потому что отдельное сообщение может не раскрыть манипуляцию, развивающуюся в ходе разговора. DeepMind говорит, что модель дообучали на местных переписках о мошенничестве, включая выдачу себя за государственные учреждения, банки и местных деятелей, а также региональные схемы. Компания не называет точную версию или размер Gemma, архитектуру первого классификатора, число сообщений, попадающих на второй этап, и порог показа предупреждения. Без этих сведений по одному объявлению невозможно оценить компромисс между энергопотреблением и точностью.

DeepMind позиционирует систему для сервисов обмена сообщениями с сквозным шифрованием. В таких условиях сервис не может просто проверять на своих серверах содержимое зашифрованных сообщений. Партнёры утверждают, что модель обрабатывает переписку на устройстве. Это конкретное заявление о предполагаемом пути инференса; публикация не содержит независимого аудита конфиденциальности или спецификации того, какие данные будущая программа могла бы собирать с помощью других функций.

## Обучение в облаке и локальный инференс — разные этапы

Для обучения проекта действительно использовалась облачная инфраструктура. DeepMind сообщает, что дообучение проходило в среде Google Cloud, которой управляет и которую обслуживает GovTech, а обучающие данные были там изолированы. По словам компании, приватные сведения и персональные данные исключили, а наборы данных анонимизировали на основе сообщений о мошенничестве и разведывательных потоков. Партнёры также сообщают об испытаниях на синтетических диалогах и местных корпусах. В публикации нет метода подготовки данных, протокола тестирования или числовых результатов, поэтому это остаются описаниями процесса самими партнёрами.

Эту среду разработки не следует путать с предполагаемой повседневной работой системы. В описанной архитектуре проверка сообщений и контекстный инференс Gemma выполняются локально на телефоне, где и отображается предупреждение. Дообучение в облаке само по себе не означает, что текущая переписка пользователя отправляется в среду обучения GovTech. Равным образом утверждение партнёров о работе на устройстве не устанавливает практики обработки данных ещё не объявленной потребительской интеграции.

DeepMind сообщает, что работа была представлена на Singapore International Cyber Week и что платформы обмена сообщениями и поставщики операционных систем могут интегрировать модели. Компания не называет сервис, приложение или выпуск операционной системы, где появится интеграция, не перечисляет поддерживаемые телефоны, не предлагает настроенные веса, не указывает цену или дату запуска. Заявленные стресс-тесты не являются независимой полевой оценкой. Полезный результат здесь — чётко описанная архитектура локального анализа мошеннических переписок; вопрос о надёжных предупреждениях в реальном использовании остаётся открытым.

## Источники и дополнительные материалы

- [Объявление Google DeepMind](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/), 14 октября 2026 года: двухэтапный процесс, настройка Gemma, предполагаемое предупреждение на устройстве, облачное обучение под управлением GovTech и заявления партнёров о контроле и тестировании. Это описание проектной команды без открытых данных о точности, задержке, батарее или запуске.
- [Объявление Национального партнёрства по ИИ сингапурского MDDI](https://www.mddi.gov.sg/newsroom/google-and-singapore-expand-partnership-to-accelerate-ai-impact-for-the-public-good/), 20 мая 2026 года: контекст сотрудничества Google и Сингапура. Оно не описывает эффективность или доступность модели против мошенничества.

## Sources

- [Google DeepMind и правительство Сингапура объявили новый инструмент ИИ для защиты граждан от мошенничества](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/) — Описание команды проекта о двухэтапном локальном инференсе, контекстной модели Gemma, предупреждении на устройстве, дообучении в облаке и анонимизированных обучающих данных. Заявления о конфиденциальности и тестировании приписаны партнёрам; публичных данных о запуске и измеренной эффективности нет.
- [Google и Сингапур расширяют партнёрство для ускорения общественной пользы от ИИ](https://www.mddi.gov.sg/newsroom/google-and-singapore-expand-partnership-to-accelerate-ai-impact-for-the-public-good/) — Материал MDDI о более широком Национальном партнёрстве по ИИ; только контекст, без сведений об эффективности детектора или доступе к нему.