DeepMind dan GovTech menjelaskan pendeteksi penipuan di perangkat

Pada 14 Oktober, Google DeepMind dan Government Technology Agency (GovTech) Singapura mengumumkan model yang mencari manipulasi dalam percakapan pesan di ponsel. Rancangannya memeriksa pesan biasa dengan cepat terlebih dahulu, lalu mengirim pesan yang berpotensi mencurigakan ke model Gemma yang telah disetel khusus untuk ditinjau lebih lanjut. Para mitra menjelaskan cara memberi peringatan selama percakapan tanpa mengirim percakapan itu ke server untuk dianalisis. Mereka belum mengumumkan peluncuran untuk konsumen atau menerbitkan hasil deteksi.

Perubahan besar

• Apa yang berubah: DeepMind dan GovTech menjelaskan pendeteksi penipuan dua tahap yang berjalan di perangkat: pengklasifikasi ringan menyaring pesan masuk, lalu model Gemma yang disetel khusus memeriksa bagian percakapan yang lebih besar jika tahap pertama menemukan alasan untuk khawatir. Ancaman yang terdeteksi memicu peringatan di ponsel.
• Mengapa ini penting: Rancangan ini bertujuan memeriksa manipulasi dalam percakapan pesan pribadi sambil menjaga inferensi tetap di perangkat. Tahap pertama juga membatasi seberapa sering model kontekstual yang lebih berat perlu dijalankan. Itu adalah pilihan desain yang dijelaskan para mitra, bukan hasil pengukuran independen tentang privasi, baterai, atau pencegahan penipuan.
• Yang perlu dipantau: Jalur peluncuran, perangkat yang didukung, dan pengujian yang dipublikasikan tentang penipuan yang lolos, peringatan palsu, kecepatan, serta penggunaan daya akan menunjukkan kinerja model di luar pekerjaan pengembangan yang dilaporkan para mitra. Pengumuman tidak menyediakan rincian tersebut.

Penyaringan cepat sebelum analisis percakapan

Dalam uraian DeepMind tentang proyek ini, pengklasifikasi ringan menyaring pesan masuk dengan penggunaan daya minimal. Pesan yang dinilai aman berhenti diproses di tahap itu. Kemungkinan ancaman diteruskan ke model Gemma yang disetel khusus, yang mengevaluasi cuplikan percakapan yang lebih besar lalu menghapus kekhawatiran atau menghasilkan peringatan penipuan. Peringatan itu menyarankan orang untuk berhenti sejenak sebelum membagikan uang atau informasi sensitif.

Tahap kedua penting karena satu pesan saja mungkin tidak menunjukkan manipulasi yang berkembang sepanjang percakapan. DeepMind mengatakan model disetel dengan percakapan penipuan lokal yang melibatkan penyamaran sebagai lembaga publik, bank, dan tokoh setempat, serta skema regional. DeepMind tidak menyebutkan versi atau ukuran Gemma yang tepat, arsitektur pengklasifikasi pertama, jumlah pesan yang mencapai tahap kedua, atau ambang untuk menampilkan peringatan. Tanpa rincian tersebut, pertukaran antara penggunaan daya dan akurasi tidak dapat dinilai hanya dari pengumuman.

DeepMind memosisikan sistem ini untuk layanan pesan yang menggunakan enkripsi ujung ke ujung. Dalam konteks itu, layanan tidak dapat begitu saja memeriksa isi pesan terenkripsi di servernya. Para mitra mengatakan model memproses percakapan di perangkat. Itu adalah klaim spesifik tentang jalur inferensi yang diusulkan; unggahan tersebut tidak memberikan audit privasi independen atau spesifikasi tentang data yang mungkin dikumpulkan aplikasi kelak melalui fitur lain.

Pelatihan cloud dan inferensi lokal adalah tahap yang berbeda

Pelatihan proyek ini memang melibatkan infrastruktur cloud. DeepMind mengatakan penyetelan berlangsung di lingkungan Google Cloud yang dikelola dan dipelihara GovTech, dengan data pelatihan diisolasi di sana. DeepMind mengatakan informasi pribadi dan yang dapat mengidentifikasi seseorang dikecualikan, sementara set data dianonimkan dari laporan penipuan dan umpan intelijen. Para mitra juga melaporkan pengujian dengan dialog sintetis dan korpus lokal. Unggahan tidak memberikan metode persiapan data, protokol pengujian, atau hasil numerik, sehingga semua ini tetap menjadi uraian para mitra tentang proses mereka.

Lingkungan pengembangan itu tidak boleh disamakan dengan operasi sehari-hari yang diusulkan. Dalam rancangan yang dilaporkan, penyaringan pesan dan inferensi kontekstual Gemma berjalan secara lokal di ponsel, lalu peringatan ditampilkan di sana. Penyetelan berbasis cloud tidak dengan sendirinya berarti percakapan langsung pengguna dikirim ke lingkungan pelatihan GovTech. Sebaliknya, klaim para mitra bahwa sistem berjalan di perangkat juga tidak menetapkan praktik data dari integrasi konsumen yang belum diumumkan.

DeepMind mengatakan pekerjaan ini dipresentasikan di Singapore International Cyber Week dan platform pesan serta vendor sistem operasi dapat mengintegrasikan model tersebut. DeepMind tidak menyebut layanan, aplikasi, atau rilis sistem operasi yang akan mengintegrasikannya, tidak mencantumkan ponsel yang didukung, tidak menawarkan bobot hasil penyetelan, tidak memberi harga atau tanggal peluncuran. Uji stres yang dilaporkan bukan evaluasi lapangan independen. Kemajuan yang berguna di sini adalah arsitektur yang dijelaskan dengan jelas untuk memeriksa percakapan penipuan secara lokal; apakah orang akan menerima peringatan yang andal dalam praktik masih menjadi pertanyaan terbuka.

Sumber dan bacaan lanjutan

• Pengumuman Google DeepMind, 14 Oktober 2026: alur dua tahap, penyetelan Gemma, peringatan di perangkat yang diusulkan, pelatihan cloud yang dikelola GovTech, serta klaim para mitra tentang tata kelola dan pengujian. Ini adalah uraian tim proyek, tanpa data publik tentang akurasi, latensi, baterai, atau peluncuran.
• Pengumuman National AI Partnership dari MDDI Singapura, 20 Mei 2026: latar belakang kolaborasi Google–Singapura. Sumber ini tidak mendokumentasikan kinerja atau ketersediaan model penipuan.