세상은 멈춰 있지 않습니다.RSS
BIG CHANGE.

Markdown 버전

AI-translated from English; not yet reviewed by a fluent editor.

# DeepMind와 GovTech가 기기 내 사기 탐지기를 설명하다

> DeepMind와 싱가포르 GovTech는 휴대전화에서 작동하는 2단계 사기 탐지기를 설명한다. 먼저 메시지를 빠르게 살핀 뒤 Gemma로 대화를 분석하는 방식이다. 출시 시점과 결과는 알려지지 않았다.

By BIG CHANGE Editorial

Published: 2026-10-14T23:06:16.961Z
Updated: 2026-10-14T23:06:16.961Z
Canonical: https://bigchange.ai/blog/deepmind-singapore-on-device-scam-detection

![Conceptual charcoal illustration of one person pausing over a blank-screen smartphone beside a window.](https://bigchange.ai/api/media/file/deepmind-scam-message-pause-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE. A person pauses over a phone; no released app, actual warning, detected scam or tested result is depicted.

Google DeepMind와 싱가포르 정부기술청(GovTech)은 10월 14일 휴대전화의 메시지 대화에서 조종·기만을 찾는 모델을 발표했다. 설계상 일반 메시지는 빠르게 1차 확인하고, 의심스러운 메시지는 미세 조정된 Gemma 모델로 보내 더 자세히 살핀다. 협력사들은 대화를 분석용 서버로 보내지 않고 대화 중 사용자에게 경고하는 방법을 설명한다. 소비자용 출시를 발표하거나 탐지 결과를 공개하지는 않았다.

## 큰 변화

- **무엇이 달라졌나:** DeepMind와 GovTech는 기기에서 작동하는 2단계 사기 탐지기를 설명했다. 가벼운 분류기가 먼저 들어오는 메시지를 선별하고, 1단계에서 우려가 생기면 미세 조정된 Gemma 모델이 대화의 더 많은 부분을 살핀다. 위협이 감지되면 휴대전화에 경고가 표시된다.
- **왜 중요한가:** 이 설계는 비공개 메시지 안의 대화 조종을 살피면서 추론을 기기에서 수행하는 것을 목표로 한다. 1단계는 더 많은 연산이 필요한 문맥 모델의 실행 빈도도 제한한다. 이는 협력사들이 설명한 설계 선택이며, 개인정보 보호·배터리·사기 예방 효과를 독립적으로 측정한 결과는 아니다.
- **지켜볼 점:** 출시 경로, 지원 기기, 놓친 사기·오경보·속도·전력 사용에 대한 공개 시험이 있어야 협력사들이 보고한 개발 작업을 넘어 모델의 성능을 알 수 있다. 발표에는 이 세부사항이 없다.

## 대화 분석 전 빠른 선별

DeepMind의 [프로젝트 설명](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/)에 따르면 가벼운 분류기가 전력을 거의 쓰지 않고 들어오는 메시지를 선별한다. 무해하다고 판단한 메시지는 여기서 끝난다. 위협일 가능성이 있는 메시지는 미세 조정된 Gemma 모델로 넘어가고, 이 모델은 더 넓은 대화 내용을 평가해 우려를 해소하거나 사기 경고를 낸다. 경고는 돈이나 민감한 정보를 공유하기 전에 잠시 멈추라고 권한다.

단일 메시지만으로는 대화 중에 점차 형성되는 조종 수법을 알아채지 못할 수 있으므로 2단계가 중요하다. DeepMind는 공공기관·은행·지역 인물을 사칭하는 사례와 지역별 수법이 포함된 현지 사기 대화로 모델을 조정했다고 말한다. 정확한 Gemma 버전이나 크기, 첫 분류기의 구조, 2단계로 넘어가는 메시지 수, 경고 표시 임계값은 공개하지 않았다. 이런 정보가 없어 발표만으로는 전력 사용과 정확도 사이의 균형을 평가할 수 없다.

DeepMind는 종단간 암호화를 사용하는 메시징 서비스에 이 시스템을 제안한다. 이런 환경에서는 서비스가 서버에서 암호화된 메시지 내용을 간단히 들여다볼 수 없다. 협력사들은 모델이 기기에서 대화를 처리한다고 말한다. 이는 제안된 추론 경로에 대한 구체적인 주장이다. 게시물에는 독립적인 개인정보 보호 감사나 향후 앱이 다른 기능으로 무엇을 수집할 수 있는지에 관한 명세가 없다.

## 클라우드 학습과 로컬 추론은 서로 다른 단계다

프로젝트의 학습에는 클라우드 인프라가 실제로 사용됐다. DeepMind에 따르면 미세 조정은 GovTech가 관리·유지하는 Google Cloud 환경에서 진행됐으며, 그곳에 학습 데이터를 격리했다. 비공개 정보와 개인 식별 정보는 제외했고, 사기 신고와 정보 피드에서 얻은 데이터셋은 익명화했다고 한다. 협력사들은 합성 대화와 현지 말뭉치로 시험했다고도 보고한다. 게시물에는 데이터 준비 방법, 시험 절차, 수치 결과가 없으므로 이는 협력사들이 설명한 과정이다.

그 개발 환경을 제안된 일상 작동 방식과 혼동해서는 안 된다. 보고된 설계에서는 메시지 선별과 Gemma의 문맥 추론을 휴대전화에서 로컬로 실행한 뒤 그곳에 경고를 표시한다. 클라우드 기반 미세 조정만으로 사용자의 실시간 대화가 GovTech 학습 환경으로 전송된다고 볼 수는 없다. 마찬가지로 기기 내 처리라는 협력사의 주장이 아직 발표되지 않은 소비자용 연동의 데이터 관행까지 입증하지는 않는다.

DeepMind는 이 작업이 Singapore International Cyber Week에서 발표됐으며 메시징 플랫폼과 운영체제 업체가 모델을 통합할 수 있다고 말한다. 통합할 서비스·앱·운영체제 버전을 밝히지 않았고, 지원 휴대전화 목록, 조정된 가중치, 가격, 출시일도 제시하지 않았다. 보고된 스트레스 테스트는 독립적인 현장 평가가 아니다. 유의미한 진전은 사기 대화를 기기에서 분석하는 구조를 명확히 설명한 점이다. 실제로 사람들이 신뢰할 수 있는 경고를 받게 될지는 여전히 답이 없는 질문이다.

## 출처 및 추가 자료

- [Google DeepMind 발표](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/), 2026년 10월 14일: 2단계 흐름, Gemma 조정, 기기 내 경고 제안, GovTech 관리 클라우드 학습, 협력사의 거버넌스 및 시험 관련 주장을 설명한다. 프로젝트팀의 설명이며 정확도·지연 시간·배터리·출시 정보는 공개되지 않았다.
- [싱가포르 MDDI의 국가 AI 파트너십 발표](https://www.mddi.gov.sg/newsroom/google-and-singapore-expand-partnership-to-accelerate-ai-impact-for-the-public-good/), 2026년 5월 20일: Google과 싱가포르 협력의 배경을 다룬다. 사기 모델의 성능이나 이용 가능성을 문서화하지는 않는다.

## Sources

- [Google DeepMind와 싱가포르 정부, 시민을 사기로부터 보호할 새 AI 도구 발표](https://deepmind.google/blog/on-device-ai-scam-detection-mddi/) — 2단계 로컬 추론 흐름, 문맥 Gemma 모델, 기기 경고, 클라우드 미세 조정, 익명화된 학습 데이터에 관한 프로젝트팀의 설명이다. 개인정보 보호와 시험 주장은 협력사에 귀속되며, 공개 출시나 측정된 성능은 제시되지 않았다.
- [Google과 싱가포르, 공익을 위한 AI 영향 가속화 파트너십 확대](https://www.mddi.gov.sg/newsroom/google-and-singapore-expand-partnership-to-accelerate-ai-impact-for-the-public-good/) — 더 넓은 국가 AI 파트너십에 관한 MDDI 기록이다. 배경 정보만 제공하며 사기 탐지기의 성능이나 접근성 정보는 없다.