OpenAI-র সাবেক তিন নিরাপত্তা গবেষক কোম্পানির তদারকি সংস্থাগুলোকে স্বাধীন নিরাপত্তা কাজ বজায় রাখতে এবং কর্মীরা বাইরের মূল্যায়নকারীদের সঙ্গে কীভাবে তথ্য ভাগ করতে পারেন তা স্পষ্ট করতে বলেছেন। ৮ অক্টোবর প্রকাশিত এক খোলা চিঠিতেTomek Korbak, Jasmine Wang এবং Mikita Balesni তাঁদের বরখাস্তের পর ওঠা অসদাচরণের বিবরণে আপত্তি জানান। OpenAI TechCrunch-কে বলেছে, তদন্তে গবেষণার তথ্য সামলানোর ক্ষেত্রে এমন একটি ধারাবাহিক সমস্যা পাওয়া গেছে যা বাইরের মূল্যায়ন গোষ্ঠীর সঙ্গে তথ্য ভাগ করার চেয়েও বিস্তৃত। চিঠি ও TechCrunch-এর প্রতিবেদনে তদন্তের মূল নথি বা সংশ্লিষ্ট নির্দিষ্ট নীতির কথা নেই।
চিঠিটি ক্ষতিগ্রস্ত তিন ব্যক্তির নিজস্ব বক্তব্য। তাঁদের মতে, বাইরের গোষ্ঠীগুলোর সঙ্গে কাজ তাঁদের দায়িত্ব ও OpenAI-র কাজের রীতির মধ্যেই পড়ত। অপেক্ষাকৃত কম পর্যবেক্ষণযোগ্য বলে বর্ণিত মডেল স্থাপত্য নিয়ে The Information-এ তথ্য ফাঁসের উৎস হওয়ার অভিযোগ তাঁরা অস্বীকার করেন। এসব বক্তব্য ঘটনাগুলো সম্পর্কে তাঁদের বিবরণ, স্বাধীন তদন্তে প্রতিষ্ঠিত সিদ্ধান্ত নয়।
মূল পরিবর্তন
- কী বদলেছে:গোপনীয়তা বজায় রেখে কর্মীরা কীভাবে স্বাধীন নিরাপত্তা মূল্যায়নকারীদের সঙ্গে কাজ করতে পারেন, তা দেখার জন্য গবেষকেরা OpenAI-র Safety and Security Committee, Safety Advisory Group এবং Mission Advisory Council-কে অনুরোধ করেছেন।
- কেন গুরুত্বপূর্ণ:চিঠিতে অডিটরদের অব্যাহত প্রবেশাধিকার, মডেলের পর্যবেক্ষণযোগ্যতা রক্ষা এবং বাইরের সহযোগিতার স্পষ্ট নিয়মের দাবি জানানো হয়েছে। বাইরের মূল্যায়নকারীরা কী তথ্য পেতে পারেন এবং তা ভাগ করার সময় কর্মীদের কোন সীমা মানতে হবে—দুই বিষয়ই এসব অনুরোধের মধ্যে রয়েছে।
- এরপর কী দেখবেন:OpenAI-র কথিত জবাবে বলা হয়েছে, নীতি লঙ্ঘনের পর বরখাস্ত করা হয়েছিল এবং নিরাপত্তা নিয়ে উদ্বেগ প্রকাশের সঙ্গে এর সম্পর্ক ছিল না। TechCrunch-এর প্রতিবেদনে বলা জবাবে নির্দিষ্ট নীতি বা সিদ্ধান্তগুলোর পেছনের প্রমাণ চিহ্নিত করা হয়নি।
গবেষকদের বর্ণনায় কী ঘটেছিল
Korbak বলেছেন, Hugging Face-কে জড়িত করে OpenAI-র একটি এজেন্ট-ঘটনার তদন্ত চলাকালে তিনি বাইরের মূল্যায়নকারী METR-এর যোগাযোগের দায়িত্বে ছিলেন। চিঠিতে বলা হয়েছে, ওই তদন্তের কোনো প্রতিষ্ঠিত নজির ছিল না এবং তখন অভ্যন্তরীণ পদ্ধতিগুলো তৈরি হচ্ছিল। বাইরের সহকর্মীদের সঙ্গে যোগাযোগের সময় তৎকালীন নীতির মধ্যে থেকে কাজ করার চেষ্টা করেছিলেন বলে চিঠিতে উল্লেখ করা হয়েছে।
Balesni বলেছেন, মডেলের যুক্তি পর্যবেক্ষণের সক্ষমতা নিয়ে কোম্পানিগুলোর পারস্পরিক অঙ্গীকারে তিনি কাজ করেছিলেন। চিঠির ভাষ্য অনুযায়ী, তিনি বোর্ড সদস্য ও নির্বাহীদের সঙ্গে কাজটি নিয়ে আলোচনা করেন, তাঁর রিপোর্টিং লাইনে যাচাই করেন এবং উপকরণ ভাগ করার আগে সংবেদনশীল তথ্য সরিয়ে দেন। Wang বলেছেন, নিয়োগের কাজে এক নির্বাহীর ইমেইলে প্রবেশাধিকার তাঁকে দেওয়া হয়েছিল; ভুল করে একটি সংবেদনশীল ইমেইল খুলে ফেলার পর তিনি দ্রুত তা জানান এবং আবার IT-কে প্রবেশাধিকার সরাতে বলেন। এসব বিবরণের কোনোটিই OpenAI-র তদন্তের সিদ্ধান্ত প্রতিষ্ঠা করে না।
দাবি ও কোম্পানির জবাব
চিঠিতে তিনটি সুপারিশ আছে। প্রথমত, OpenAI-র একটি প্রকাশ্য প্রতিশ্রুতি পালন করা উচিত—গবেষকেরা যার কৃতিত্ব Sam Altman-কে দেন—যাতে স্বাধীন মূল্যায়নকারীরা নিয়মিত প্রবেশাধিকার পান। তাঁদের আশঙ্কা, বরখাস্তের কারণে METR বা অন্য অডিটরদের সঙ্গে কাজ সীমিত হতে পারে। দ্বিতীয়ত, নিরাপত্তা কাজ যখন পর্যবেক্ষণযোগ্যতার ওপর নির্ভর করছে, তখন OpenAI ও অন্যান্য উন্নত মডেল নির্মাতাদের এমন পরিবর্তন এড়ানো উচিত যা তা আরও কমায়। চিঠিতে বিশেষভাবে chain-of-thought যুক্তি পর্যবেক্ষণের কথা বলা হয়েছে; কোনো নির্দিষ্ট মডেলে পরিমাপযোগ্য অবনতি হয়েছে—এটি চিঠি প্রতিষ্ঠা করে না। তৃতীয়ত, OpenAI-র নিরাপত্তা নিয়ে খোলামেলা আলোচনার সমর্থন পুনর্ব্যক্ত করা এবং বাইরের সংস্থার সঙ্গে কাজের স্পষ্ট পদ্ধতি প্রকাশ করা উচিত বলে তাঁরা বলেন।
চিঠির আনুষ্ঠানিক জবাব দেয়নি OpenAI—এ কথা TechCrunch-এর ৮ অক্টোবরের প্রতিবেদন জানিয়েছে। ওই প্রকাশনার বক্তব্য, তাদের সঙ্গে ভাগ করা একটি অভ্যন্তরীণ স্মারকে বরখাস্তকে প্রকাশ্যে কথা বলার প্রতিশোধ বলা অস্বীকার করা হয়েছিল এবং গবেষকদের সুপারিশে সম্মতি জানানো হয়েছিল। আলাদাভাবে, এক মুখপাত্র TechCrunch-কে বলেন, তদন্তে গবেষণার তথ্য সামলানোর ক্ষেত্রে এমন ধারাবাহিক অসদাচরণ পাওয়া গেছে যা বাইরের সঙ্গে ভাগ করার চেয়ে বিস্তৃত। নির্দিষ্ট নীতি, বরখাস্তের পরিস্থিতি বা বাইরের মূল্যায়নকারীদের সঙ্গে কাজ করা কর্মীদের সুরক্ষা সম্পর্কে তাদের প্রশ্নের জবাব OpenAI দেয়নি, TechCrunch জানিয়েছে।
প্রকাশ্য নথিতে বাইরের নিরাপত্তা কাজের মূল্য নিয়ে নীতিগত ঐকমত্যের পাশাপাশি এই তিন কর্মী কীভাবে তা করেছেন তা নিয়ে বিরোধ দেখা যায়। চিঠি তার লেখকদের অনুমতি বা উদ্দেশ্য যাচাই করতে পারে না, আর কোম্পানির কথিত বক্তব্য পাঠকদের অভিযোগ করা লঙ্ঘন মূল্যায়ন করতে দেয় না। এ ধরনের সহযোগিতায় কোন নিয়ম চলবে এবং স্বাধীন অডিটররা কতটা প্রবেশাধিকার পাবেন, তা OpenAI-র তদারকি সংস্থাগুলোর এখনও নির্ধারণ করা বাকি।
সূত্র ও আরও পড়ুন
- Korbak, Wang ও Balesni, “OpenAI একা AI-কে নিরাপদ করতে পারে না”, ৮ অক্টোবর ২০২৬-এ প্রকাশিত খোলা চিঠি। লেখকদের বিবরণ ও তাঁদের তিন সুপারিশের প্রাথমিক সূত্র। অভ্যন্তরীণ ঘটনা, অনুমতি ও মডেল কাজ সম্পর্কে তাঁদের বর্ণনা স্বার্থসংশ্লিষ্ট পক্ষের দাবি।
- Rebecca Bellan, TechCrunch, ৮ অক্টোবর ২০২৬। OpenAI মুখপাত্র ও অভ্যন্তরীণ স্মারকের জবাব এবং কোম্পানি যে প্রশ্নগুলোর উত্তর দেয়নি সেগুলো নিয়ে প্রতিবেদন। এটি দুই পক্ষ কী বলেছে তা সমর্থন করে, অন্তর্নিহিত বিতর্কিত আচরণকে নয়।
