১৪ অক্টোবর Google DeepMind ও সিঙ্গাপুরের Government Technology Agency (GovTech) ফোনে বার্তার কথোপকথনে প্রভাবিত করার চেষ্টা খোঁজে এমন একটি মডেলের ঘোষণা দেয়। নকশায় সাধারণ বার্তা দ্রুত প্রথমে পরীক্ষা করা হয়, আর সম্ভাব্য সন্দেহজনক বার্তা আরও খুঁটিয়ে দেখতে fine-tuned Gemma মডেলে পাঠানো হয়। অংশীদারদের বর্ণনায়, বিশ্লেষণের জন্য কথোপকথন সার্ভারে না পাঠিয়েও চলমান কথোপকথনে কাউকে সতর্ক করা যায়। তারা ভোক্তাদের জন্য প্রকাশের ঘোষণা দেয়নি বা শনাক্তকরণের ফল প্রকাশ করেনি।

বড় পরিবর্তন

  • কী বদলেছে: DeepMind ও GovTech ডিভাইসে চলা দুই ধাপের প্রতারণা শনাক্তকারী বর্ণনা করেছে: হালকা classifier প্রথমে আসা বার্তা筛筛 করে, আর প্রথম ধাপে উদ্বেগের কারণ দেখা গেলে fine-tuned Gemma মডেল কথোপকথনের আরও অংশ পরীক্ষা করে। হুমকি শনাক্ত হলে ফোনে সতর্কবার্তা আসে।
  • কেন গুরুত্বপূর্ণ: নকশাটির লক্ষ্য ব্যক্তিগত বার্তায় কথোপকথনের মধ্যে প্রভাবিত করার চেষ্টা পরীক্ষা করা, অথচ inference ডিভাইসেই রাখা। প্রথম ধাপটি বেশি সম্পদ লাগে এমন contextual মডেল কত ঘন ঘন চালাতে হবে তাও সীমিত করে। এগুলো অংশীদারদের বর্ণিত নকশাগত সিদ্ধান্ত, গোপনীয়তা, ব্যাটারি বা প্রতারণা প্রতিরোধের স্বাধীনভাবে মাপা ফল নয়।
  • কী দেখবেন: প্রকাশের পথ, সমর্থিত ডিভাইস এবং বাদ পড়া প্রতারণা, ভুল সতর্কতা, গতি ও বিদ্যুৎ ব্যবহারের প্রকাশিত পরীক্ষা থাকলে অংশীদারদের বর্ণিত উন্নয়ন কাজের বাইরে মডেলটি কেমন করে তা বোঝা যেত। ঘোষণায় এসবের কোনোটিই নেই।

কথোপকথন বিশ্লেষণের আগে দ্রুত পরীক্ষা

DeepMind-এর প্রকল্পের বিবরণে, হালকা classifier অল্প বিদ্যুৎ খরচে আসা বার্তা পরীক্ষা করে। যে বার্তাকে এটি নিরীহ মনে করে, সেটি সেখানেই শেষ। সম্ভাব্য হুমকি fine-tuned Gemma মডেলে যায়; সেটি কথোপকথনের বড় অংশ মূল্যায়ন করে সন্দেহ বাদ দেয় অথবা প্রতারণার সতর্কতা তৈরি করে। টাকা বা সংবেদনশীল তথ্য দেওয়ার আগে থামতে সতর্কবার্তাটি ব্যক্তিকে পরামর্শ দেয়।

দ্বিতীয় ধাপটি গুরুত্বপূর্ণ, কারণ একটি বার্তা থেকে কথোপকথনজুড়ে তৈরি হওয়া প্রভাবিত করার চেষ্টা ধরা নাও পড়তে পারে। DeepMind বলেছে, মডেলটি স্থানীয় প্রতারণামূলক কথোপকথনে fine-tune করা হয়েছে; সেগুলোর মধ্যে সরকারি প্রতিষ্ঠান, ব্যাংক ও স্থানীয় পরিচিত ব্যক্তির ছদ্মবেশ এবং আঞ্চলিক কৌশল ছিল। Gemma-র নির্দিষ্ট সংস্করণ বা আকার, প্রথম classifier-এর গঠন, কত বার্তা দ্বিতীয় ধাপে পৌঁছায়, বা সতর্কতা দেখানোর সীমা জানানো হয়নি। এসব তথ্য না থাকায় শুধু ঘোষণা থেকে বিদ্যুৎ ব্যবহার ও নির্ভুলতার ভারসাম্য মূল্যায়ন করা অসম্ভব।

DeepMind end-to-end encryption ব্যবহার করা মেসেজিং পরিষেবার জন্য ব্যবস্থাটি প্রস্তাব করছে। এমন ক্ষেত্রে পরিষেবা তার সার্ভারে এনক্রিপ্ট করা বার্তার বিষয়বস্তু সহজে পরীক্ষা করতে পারে না। অংশীদাররা বলেছে, তাদের মডেল ডিভাইসেই কথোপকথন প্রক্রিয়াকরণ করে। প্রস্তাবিত inference পথ সম্পর্কে এটি একটি নির্দিষ্ট দাবি; পোস্টে স্বাধীন গোপনীয়তা নিরীক্ষা নেই বা ভবিষ্যতের অ্যাপ অন্য বৈশিষ্ট্যের মাধ্যমে কী সংগ্রহ করতে পারে তার বিবরণও নেই।

ক্লাউড প্রশিক্ষণ ও স্থানীয় inference আলাদা ধাপ

প্রকল্পের প্রশিক্ষণে সত্যিই ক্লাউড অবকাঠামো ব্যবহৃত হয়েছে। DeepMind বলেছে, GovTech পরিচালিত ও রক্ষণাবেক্ষণ করা Google Cloud পরিবেশে fine-tuning হয়েছে এবং সেখানে প্রশিক্ষণ ডেটা আলাদা রাখা হয়েছিল। তাদের ভাষ্যে, ব্যক্তিগত ও শনাক্তযোগ্য তথ্য বাদ দেওয়া হয়েছে এবং প্রতারণার প্রতিবেদন ও গোয়েন্দা তথ্যপ্রবাহ থেকে নেওয়া ডেটাসেট বেনামী করা হয়েছে। অংশীদাররা কৃত্রিম সংলাপ ও স্থানীয় corpus-এ পরীক্ষার কথাও জানায়। পোস্টে ডেটা প্রস্তুতির পদ্ধতি, পরীক্ষার প্রোটোকল বা সংখ্যাগত ফল নেই; তাই এগুলো এখনও অংশীদারদের নিজস্ব প্রক্রিয়ার বর্ণনা।

এই উন্নয়ন পরিবেশকে প্রস্তাবিত দৈনন্দিন পরিচালনার সঙ্গে গুলিয়ে ফেলা উচিত নয়। বর্ণিত নকশায় বার্তা পরীক্ষা ও Gemma-র contextual inference ফোনে স্থানীয়ভাবে চলে, তারপর সতর্কবার্তাটি সেখানেই দেখা যায়। ক্লাউডে fine-tuning হওয়া মানেই ব্যবহারকারীর চলমান কথোপকথন GovTech-এর প্রশিক্ষণ পরিবেশে পাঠানো হয়—এমন নয়। একইভাবে, ডিভাইসে চালানোর অংশীদারদের দাবি এখনও ঘোষিত না হওয়া ভোক্তা-সংযোগে ডেটা ব্যবহারের নিয়ম প্রতিষ্ঠা করে না।

DeepMind বলেছে, কাজটি Singapore International Cyber Week-এ উপস্থাপিত হয় এবং মেসেজিং প্ল্যাটফর্ম ও অপারেটিং সিস্টেম বিক্রেতারা মডেলগুলো যুক্ত করতে পারে। কোন পরিষেবা, অ্যাপ বা অপারেটিং সিস্টেম সংস্করণ যুক্ত করবে তা তারা জানায়নি; সমর্থিত ফোনের তালিকা, fine-tuned weights, দাম বা চালুর তারিখও দেয়নি। তাদের জানানো stress test স্বাধীন মাঠপর্যায়ের মূল্যায়ন নয়। এখানে কার্যকর অগ্রগতি হলো স্থানীয়ভাবে প্রতারণামূলক কথোপকথন পরীক্ষা করার স্পষ্ট স্থাপত্য; বাস্তবে মানুষ নির্ভরযোগ্য সতর্কতা পাবে কি না, তা এখনও খোলা প্রশ্ন।

সূত্র ও আরও পড়ুন

  • Google DeepMind-এর ঘোষণা, ১৪ অক্টোবর ২০২৬: দুই ধাপের প্রবাহ, Gemma fine-tuning, প্রস্তাবিত ডিভাইস সতর্কতা, GovTech পরিচালিত ক্লাউড প্রশিক্ষণ এবং শাসন ও পরীক্ষার বিষয়ে অংশীদারদের দাবি। এটি প্রকল্প দলের বিবরণ; নির্ভুলতা, বিলম্ব, ব্যাটারি বা চালুর কোনো প্রকাশিত তথ্য নেই।
  • সিঙ্গাপুর MDDI-এর National AI Partnership ঘোষণা, ২০ মে ২০২৬: Google–Singapore সহযোগিতার পটভূমি। এটি প্রতারণা মডেলের কর্মক্ষমতা বা প্রাপ্যতা নথিভুক্ত করে না।