14 октября Google DeepMind и сингапурское Агентство правительственных технологий (GovTech) объявили модель, которая ищет манипуляции в переписке на телефоне. Сначала система быстро проверяет обычные сообщения, а потенциально подозрительные передаёт дообученной модели Gemma для более подробного анализа. Партнёры описывают способ предупредить человека во время разговора, не отправляя саму переписку на сервер для анализа. Они не объявляли о выпуске для потребителей и не публиковали результаты обнаружения.

Главное изменение

  • Что изменилось: DeepMind и GovTech описали двухэтапный детектор мошенничества, работающий на устройстве: лёгкий классификатор сначала проверяет входящие сообщения, а дообученная модель Gemma анализирует большую часть переписки, если первая стадия выявляет повод для беспокойства. Обнаруженная угроза вызывает предупреждение на телефоне.
  • Почему это важно: Система призвана выявлять манипуляции в личной переписке, сохраняя обработку на устройстве. Первая стадия также ограничивает частоту запуска более требовательной контекстной модели. Это особенности дизайна, описанные партнёрами, а не независимо измеренные результаты в области конфиденциальности, расхода батареи или предотвращения мошенничества.
  • За чем следить: Путь к выпуску, поддерживаемые устройства и опубликованные испытания на пропущенные случаи мошенничества, ложные тревоги, скорость и расход энергии показали бы работу модели за пределами описанной партнёрами разработки. В объявлении таких сведений нет.

Быстрая проверка перед анализом переписки

В описании проекта DeepMind лёгкий классификатор проверяет входящие сообщения с минимальным расходом энергии. Если сообщение признано безвредным, обработка на этом заканчивается. Возможная угроза передаётся дообученной модели Gemma, которая оценивает более широкий фрагмент переписки и либо снимает подозрение, либо выдаёт предупреждение о мошенничестве. Предупреждение советует человеку остановиться, прежде чем делиться деньгами или конфиденциальной информацией.

Вторая стадия важна, потому что отдельное сообщение может не раскрыть манипуляцию, развивающуюся в ходе разговора. DeepMind говорит, что модель дообучали на местных переписках о мошенничестве, включая выдачу себя за государственные учреждения, банки и местных деятелей, а также региональные схемы. Компания не называет точную версию или размер Gemma, архитектуру первого классификатора, число сообщений, попадающих на второй этап, и порог показа предупреждения. Без этих сведений по одному объявлению невозможно оценить компромисс между энергопотреблением и точностью.

DeepMind позиционирует систему для сервисов обмена сообщениями с сквозным шифрованием. В таких условиях сервис не может просто проверять на своих серверах содержимое зашифрованных сообщений. Партнёры утверждают, что модель обрабатывает переписку на устройстве. Это конкретное заявление о предполагаемом пути инференса; публикация не содержит независимого аудита конфиденциальности или спецификации того, какие данные будущая программа могла бы собирать с помощью других функций.

Обучение в облаке и локальный инференс — разные этапы

Для обучения проекта действительно использовалась облачная инфраструктура. DeepMind сообщает, что дообучение проходило в среде Google Cloud, которой управляет и которую обслуживает GovTech, а обучающие данные были там изолированы. По словам компании, приватные сведения и персональные данные исключили, а наборы данных анонимизировали на основе сообщений о мошенничестве и разведывательных потоков. Партнёры также сообщают об испытаниях на синтетических диалогах и местных корпусах. В публикации нет метода подготовки данных, протокола тестирования или числовых результатов, поэтому это остаются описаниями процесса самими партнёрами.

Эту среду разработки не следует путать с предполагаемой повседневной работой системы. В описанной архитектуре проверка сообщений и контекстный инференс Gemma выполняются локально на телефоне, где и отображается предупреждение. Дообучение в облаке само по себе не означает, что текущая переписка пользователя отправляется в среду обучения GovTech. Равным образом утверждение партнёров о работе на устройстве не устанавливает практики обработки данных ещё не объявленной потребительской интеграции.

DeepMind сообщает, что работа была представлена на Singapore International Cyber Week и что платформы обмена сообщениями и поставщики операционных систем могут интегрировать модели. Компания не называет сервис, приложение или выпуск операционной системы, где появится интеграция, не перечисляет поддерживаемые телефоны, не предлагает настроенные веса, не указывает цену или дату запуска. Заявленные стресс-тесты не являются независимой полевой оценкой. Полезный результат здесь — чётко описанная архитектура локального анализа мошеннических переписок; вопрос о надёжных предупреждениях в реальном использовании остаётся открытым.

Источники и дополнительные материалы

  • Объявление Google DeepMind, 14 октября 2026 года: двухэтапный процесс, настройка Gemma, предполагаемое предупреждение на устройстве, облачное обучение под управлением GovTech и заявления партнёров о контроле и тестировании. Это описание проектной команды без открытых данных о точности, задержке, батарее или запуске.
  • Объявление Национального партнёрства по ИИ сингапурского MDDI, 20 мая 2026 года: контекст сотрудничества Google и Сингапура. Оно не описывает эффективность или доступность модели против мошенничества.