Youth AI Safety Institute জানিয়েছে, নতুন করে অভিভাবকের অ্যাকাউন্টের সঙ্গে যুক্ত কিশোরদের পরীক্ষামূলক অ্যাকাউন্টগুলো আত্মহত্যা, আত্মক্ষতি ও খাদ্যাভ্যাসজনিত ব্যাধি নিয়ে স্ক্রিপ্ট করা কথোপকথনের সময় অভিভাবকীয় সতর্কতা পায়নি। সতর্কতা সক্রিয় হওয়ার যথেষ্ট সময় পরীক্ষায় দেওয়া হয়েছিল কি না, তা নিয়ে আপত্তি জানিয়েছে OpenAI। মতপার্থক্যটি গুরুত্বপূর্ণ, কারণ প্রতিষ্ঠানটি নিজেই বলেছে, বিজ্ঞপ্তিগুলো সীমিত, অ্যাকাউন্ট যুক্ত করার পর সক্রিয় হতে দেরি হয় এবং উদ্বেগের সব পরিস্থিতি শনাক্ত করতে পারে না।

প্রতিষ্ঠানটির কিশোরদের ChatGPT ঝুঁকি মূল্যায়ন৭ অক্টোবর হালনাগাদ হয়ে ১৮ বছরের কম বয়সীদের জন্য পণ্যটিকে “অগ্রহণযোগ্য ঝুঁকি” হিসেবে রেট করেছে এবং কিশোরদের কাছে এর প্রচার বন্ধ করতে OpenAI-কে আহ্বান জানিয়েছে। এটি প্রতিষ্ঠানের নিজস্ব রেটিং কাঠামো অনুযায়ী করা সিদ্ধান্ত। এর প্রমাণ এসেছে নির্দিষ্ট অ্যাকাউন্ট সেটআপে স্ক্রিপ্ট করা পরীক্ষা থেকে; দৈনন্দিন জীবনে ChatGPT ব্যবহারকারী কিশোরদের মধ্যে ঘটনার সংখ্যা থেকে নয়।

বড় পরিবর্তন

  • কী বদলেছে:একটি স্বাধীন মূল্যায়নে এখন OpenAI-র কিশোরদের নিরাপত্তা সতর্কতা ও পড়াশোনার নিয়ন্ত্রণ নথিবদ্ধ স্ক্রিপ্ট করা পরীক্ষার মাধ্যমে যাচাই করা হয়েছে। নতুন করে যুক্ত পরীক্ষামূলক অ্যাকাউন্টগুলো স্পষ্ট সংকটের কথোপকথনে কোনো সতর্কতা পায়নি; OpenAI বলেছে, কিছু পরীক্ষা সতর্কতা পুরোপুরি সক্রিয় হওয়ার আগেই হয়ে থাকতে পারে।
  • কেন গুরুত্বপূর্ণ:সীমিত নিরাপত্তা বিজ্ঞপ্তি পেতে অভিভাবকেরা অ্যাকাউন্ট যুক্ত করতে পারেন। OpenAI বলেছে, এসব সতর্কতা তাৎক্ষণিক নজরদারি নয় এবং উদ্বেগের কিছু বিষয় বাদ পড়তে পারে। তাই পরিবারগুলোর এগুলোকে তাৎক্ষণিক সতর্কবার্তার ব্যবস্থা হিসেবে ধরা উচিত নয়। Study Hours যোগ্য নতুন কথোপকথন Study mode-এ শুরু করে, তবে প্রবেশাধিকার সীমিত করে না।
  • এরপর কী দেখবেন:সতর্কতা নিয়ে বিরোধের মূল বিষয় সক্রিয় হওয়ার সময়। কিছু পরীক্ষামূলক অ্যাকাউন্ট OpenAI-র বলা তিন ঘণ্টারও বেশি সময় ধরে যুক্ত ছিল, তবু এই নির্দিষ্ট পরীক্ষার কোনো অ্যাকাউন্ট সতর্কতা পায়নি। অর্থাৎ অন্তত কিছু অ্যাকাউন্ট ওই সময়সীমা পেরিয়েও সতর্কতা পায়নি। ওই উপদলে কতটি অ্যাকাউন্ট ছিল বা প্রতিটির সময়সূচি কী, প্রতিবেদনে তা নেই; ফলে সামগ্রিক ফলাফলে বিলম্বের সম্ভাব্য প্রভাব পরিমাপ করা যায় না।

পরীক্ষকেরা কী চালিয়েছিলেন

দুটি সময়পর্বে ৪,০০০-এর বেশি প্রম্পট ব্যবহার করা হয়েছিল বলে প্রতিষ্ঠানটি জানিয়েছে। ChatGPT for Teens ঘোষণার আগে ২০২৬ সালের ১৩ জুলাই থেকে ১৭ আগস্ট পর্যন্ত চালানো হয় প্রাক্‌-উন্মোচন পরীক্ষা। পরবর্তী পরীক্ষা চলে ২৫ আগস্ট থেকে ২৮ সেপ্টেম্বর; পরীক্ষকদের মতে, এতে কিশোরদের অভিজ্ঞতা পাওয়া অন্য বিনা মূল্যের ও অর্থের বিনিময়ের অ্যাকাউন্ট ব্যবহার করা হয়। সেটআপে অভিভাবকের সঙ্গে যুক্ত ও অনযুক্ত কিশোরদের অ্যাকাউন্ট ছিল, যাদের স্বঘোষিত বয়স ১৩ থেকে ১৭ বছর। বয়স অনুমান যাচাই করতে নিবন্ধনের সময় ১৯ বছর বয়স দেওয়া অ্যাকাউন্টও পরীক্ষা করা হয়।

সতর্কতা নিয়ে সবচেয়ে সরাসরি পরীক্ষায় বিনা মূল্যের প্ল্যানের এক ডজনেরও বেশি নতুন কিশোর অ্যাকাউন্ট ব্যবহার করা হয়; কথোপকথনের আগে প্রতিটি অভিভাবকের অ্যাকাউন্টের সঙ্গে যুক্ত ছিল। পরীক্ষকেরা সংকটের চারটি স্ক্রিপ্ট করা চরিত্র ব্যবহার করেন এবং পাঁচ মিনিটের কম থেকে এক ঘণ্টা পর্যন্ত কথোপকথন চালান। প্রতিবেদন অনুযায়ী সম্পূর্ণ মূল্যায়নের PDF, প্রতিটি কথোপকথনে আত্মহত্যা, আত্মক্ষতি বা খাদ্যাভ্যাসজনিত ব্যাধির কথা স্পষ্টভাবে বলা হয়েছিল। প্রতিষ্ঠানটি জানায়, এসব অ্যাকাউন্টের কোনোটিই অভিভাবকীয় বিজ্ঞপ্তি তৈরি করেনি।

দীর্ঘমেয়াদি আরেকটি মানসিক স্বাস্থ্য পরীক্ষায় ভিন্ন ফল পাওয়া যায়। কয়েক সপ্তাহ ধরে ব্যবহৃত অ্যাকাউন্টে উন্মোচনের আগে ও পরে সংকটের পরীক্ষা চালিয়ে প্রতিষ্ঠানটি মোট চারটি বিজ্ঞপ্তি পায়। এর দুটি আসে উন্মোচনের পরের একটি অ্যাকাউন্ট থেকে, যা অভিভাবকের সঙ্গে যুক্ত এবং বয়স ১৩ নির্ধারিত ছিল। বিভিন্ন পরিস্থিতিতে শত শত প্রম্পট দেওয়ার পর সংশ্লিষ্ট বিষয় পরীক্ষার এক ঘণ্টার মধ্যে দুটিই আসে। নতুন ও দীর্ঘদিন ব্যবহৃত অ্যাকাউন্টের পার্থক্য দেখে প্রতিষ্ঠানটি অনুমান করে, সতর্কতা হয়তো সংকটের বিষয় নিয়ে জমা হওয়া ইতিহাসের ওপর নির্ভর করে। এসব পরীক্ষা অভ্যন্তরীণ ট্রিগার নিয়ম প্রমাণ করে না।

সক্রিয় হওয়ার সময় নিয়ে বিরোধ

OpenAI প্রতিষ্ঠানটিকে জানায়, যুক্ত অ্যাকাউন্টে নিরাপত্তা বিজ্ঞপ্তি পেতে প্রায় তিন ঘণ্টা লাগতে পারে। Los Angeles Times-এর প্রতিবেদনে উদ্ধৃত এক বিবৃতিতে OpenAI বলেছে, অভিভাবকীয় নিয়ন্ত্রণ পুরোপুরি সক্রিয় হওয়ার আগেই অধিকাংশ সতর্কতা পরীক্ষা শুরু ও শেষ হয়ে থাকতে পারে। Axios-ও OpenAI-র আপত্তির কথা জানিয়েছে। এক ডজনেরও বেশি নতুন যুক্ত অ্যাকাউন্টের মধ্যে কিছু তিন ঘণ্টার কম এবং কিছু তার বেশি সময় ধরে যুক্ত ছিল বলে প্রতিষ্ঠানটি জানিয়েছে। এসব অ্যাকাউন্টের কোনোটিই সতর্কতা দেয়নি—এই ফলের সঙ্গে মিলিয়ে দেখলে বোঝা যায়, অন্তত কিছু পরীক্ষিত অ্যাকাউন্ট OpenAI-র বলা সক্রিয়তার সময় পেরিয়েও সতর্কতা পায়নি। ওই উপদলের সংখ্যা বা অ্যাকাউন্টভিত্তিক সময়সূচি প্রতিবেদনে নেই; তাই শূন্য সতর্কতার সামগ্রিক ফল কতটা বিলম্ব দিয়ে ব্যাখ্যা করা যায়, তা দেখানো হয়নি।

OpenAI-র অভিভাবকীয় নিয়ন্ত্রণ নির্দেশিকা বলছে, যুক্ত অ্যাকাউন্টে নিরাপত্তা বিজ্ঞপ্তি স্বয়ংক্রিয়ভাবে চালু থাকে, তবে ব্যবহারযোগ্য হতে কয়েক ঘণ্টা লাগতে পারে। আত্মক্ষতি ও খাদ্যাভ্যাসজনিত ব্যাধি নিয়ে গুরুতর উদ্বেগ বিজ্ঞপ্তি পাঠানোর আগে প্রশিক্ষিত পর্যালোচকেরা যাচাই করেন। অভিভাবকেরা চ্যাট পড়তে বা সরাসরি কার্যকলাপ দেখতে পারেন না; OpenAI বলেছে, সতর্কতা সব উদ্বেগ শনাক্ত নাও করতে পারে এবং পেশাদার সেবা বা জরুরি পরিষেবার বিকল্প নয়। অ্যাকাউন্ট যুক্ত না থাকলে অভিভাবকেরা এসব বিজ্ঞপ্তি পান না।

সংকটকালীন সহায়তা ও পড়াশোনার সেটিংস

পরীক্ষামূলক অ্যাকাউন্টগুলোকে ChatGPT কী বলেছে, তাও প্রতিষ্ঠানটি পরিমাপ করেছে। তিনজন শিশু ও কিশোর মনোরোগ বিশেষজ্ঞ ৩৯০টি স্বতন্ত্র মানসিক স্বাস্থ্য প্রম্পটের মধ্যে ২০১টিকে আগেই চিহ্নিত করেন, যেগুলোতে সংকটকালীন সহায়তার তথ্য দেওয়া উচিত। ১৩ বছর বয়স নির্ধারিত যুক্ত অ্যাকাউন্টে একই ২০১টি প্রম্পটের উন্মোচন-পরবর্তী উত্তরের ৭৪ শতাংশে হেল্পলাইন, নামসহ কোনো পেশাজীবী বা সাধারণ চিকিৎসা-সহায়তার তথ্য ছিল; উন্মোচনের আগে তা ছিল ৭৭ শতাংশ। পরবর্তী উত্তরের ২৩ শতাংশে হেল্পলাইনের উল্লেখ ছিল, আগের ৩৩ শতাংশের তুলনায় কম; বিশ্বস্ত প্রাপ্তবয়স্কের সঙ্গে কথা বলার উৎসাহ ৮৭ থেকে বেড়ে ৯৪ শতাংশ হয়। প্রতিষ্ঠানের ক্লিনিক্যাল পর্যালোচকেরা উন্মোচন-পরবর্তী অধিকাংশ সংকট-উত্তরকে যথাযথ বলে মনে করেন। এগুলো নির্দিষ্ট পরীক্ষার শর্তে প্রতি প্রম্পটের ফল; ক্ষতিগ্রস্ত বা সহায়তা না-পাওয়া কিশোর ব্যবহারকারীর হার নয়।

মূল্যায়নে অভিভাবকের নির্ধারিত Study Hours চলাকালীন Study mode থেকে বের হওয়ার উপায়ও পাওয়া যায়। OpenAI Axios-কে জানায়, এই নমনীয়তা ইচ্ছাকৃত। তাদের বর্তমান সহায়িকা Study Hours সম্পর্কে বলছে, এটি এমন একটি সময়সূচি যাতে যোগ্য নতুন কথোপকথন Study mode-এ শুরু হয়; এটি ChatGPT-তে প্রবেশ বন্ধ করে না। সময় বেঁধে প্রবেশ সীমিত করতে চান এমন অভিভাবকদের জন্য আলাদা Quiet Hours নিয়ন্ত্রণ আছে। OpenAI-র কিশোরদের ChatGPT নির্দেশিকা বলছে, যোগ্য এবং ১৮ বছরের কম বলে শনাক্ত অ্যাকাউন্ট স্বয়ংক্রিয়ভাবে কিশোরদের অভিজ্ঞতায় যায়, আর অভিভাবকীয় নিয়ন্ত্রণ ঐচ্ছিক।

যুক্তরাষ্ট্রের সান ফ্রান্সিসকো বে এলাকার অ্যাকাউন্টে প্রতিষ্ঠানটি পরীক্ষা চালায়। ছবি তৈরি, ভয়েস, গ্রুপ চ্যাট বা শৈলী ও স্বর ব্যক্তিগতকরণ পরীক্ষা করা হয়নি; পর্যালোচকদের মধ্যে মতের সামঞ্জস্যও মাপা হয়নি। উন্মোচনের আগের ও পরের পরীক্ষার সময়পর্ব পরপর হওয়ায় মূল মডেলের পরিবর্তন কিশোর মোডের নামে ধরা পার্থক্যে প্রভাব ফেলতে পারে। BIG CHANGE প্রকাশিত মূল্যায়ন, PDF, OpenAI-র নথি এবং স্বাধীন প্রতিবেদন পর্যালোচনা করেছে; আমরা প্রম্পটের সেট চালাইনি বা কিশোর কিংবা অভিভাবকের অ্যাকাউন্ট পরীক্ষা করিনি।

সূত্র ও আরও পড়ুন