AI ঝুঁকি মূল্যায়নের জন্য অলাভজনক সংস্থা METR-এর ছয় কর্মীকে নিজেদের অভ্যন্তরীণ সিস্টেমে প্রবেশাধিকার দিতে শুরু করেছে বলে জানিয়েছে Anthropic। প্রকাশ্য মডেল উন্মোচন বা ঝুঁকির প্রতিবেদনের চেয়ে কোম্পানির কাজ আরও কাছ থেকে দেখার সুযোগ পাচ্ছে ছোট এই বাইরের দল। তারপরও দলটি কোন তথ্য পাবে, তা Anthropic নিয়ন্ত্রণ করে এবং METR-এর প্রকাশিত বিশ্লেষণ থেকে নির্দিষ্ট বিষয় সরানোর দাবি করতে পারে।

Anthropic ১৫ অক্টোবর এই সহযোগিতার ঘোষণা দেয় এবং ১৬ অক্টোবর বিবৃতি হালনাগাদ করে বর্তমান প্রকাশনার শর্ত স্পষ্ট করে। ঘোষণায় প্রবেশাধিকারের ব্যবস্থা বর্ণিত হয়েছে, Anthropic-এর ঝুঁকি নিয়ে METR-এর সম্পন্ন মূল্যায়ন নয়। METR কী পরীক্ষা করতে পারে এবং শেষ প্রতিবেদনে সীমাবদ্ধতা কতটা ব্যাখ্যা করতে পারে, তার ওপর পাঠকের কাছে এর মূল্য নির্ভর করবে।

বড় পরিবর্তন

  • কী বদলেছে: Anthropic-এর ভাষ্য অনুযায়ী, METR-এর ছয় কর্মী কোম্পানির হার্ডওয়্যার, অফিসের জায়গা ও নিজস্ব ঝুঁকি মূল্যায়ন দলের প্রায় সমতুল্য অভ্যন্তরীণ টুলের প্রবেশাধিকার পেয়েছেন। Anthropic-এর ঝুঁকির মাত্রা, ঘটনা বা কার্যপদ্ধতি নিয়ে METR বিশ্লেষণ প্রকাশ করবে বলে প্রত্যাশা করা হচ্ছে।
  • কেন গুরুত্বপূর্ণ: বাইরের মূল্যায়নকারী এমন অভ্যন্তরীণ প্রমাণ পরীক্ষা করতে পারবেন, যা সাধারণ মানুষ দেখতে পান না—এমন সম্ভাবনা আছে। METR-এর শেষ প্রতিবেদন প্রবেশাধিকার ও তথ্য বাদ দেওয়ার গুরুত্বপূর্ণ সীমাও জানাতে পারে, যা পাঠককে সিদ্ধান্তের গুরুত্ব বুঝতে সাহায্য করবে।
  • যা দেখতে হবে: Anthropic বলছে, METR-এর প্রকাশনা ভেটো দিয়ে আটকাতে পারে না, তবে আগে থেকে নির্ধারিত শ্রেণির তথ্য সরাতে বলতে পারে এবং শেষ পর্যন্ত কোন তথ্য ওই শ্রেণিতে পড়ে, তা তারাই ঠিক করে। কোম্পানির ভেতরে কাজ করা এই দলের মূল্যায়নের কোনো ফল ঘোষণায় প্রতিষ্ঠিত হয়নি।

ছয় মূল্যায়নকারী কী দেখতে পারবেন

Anthropic জানিয়েছে, METR-এর ছয় কর্মীকে কোম্পানির হার্ডওয়্যার, অফিসের জায়গা ও নিজেদের ঝুঁকি মূল্যায়ন দলের সঙ্গে ‘প্রায় সমান’ অভ্যন্তরীণ টুল ও সিস্টেমের প্রবেশাধিকার দিয়েছে। AI-এর লক্ষ্য-সামঞ্জস্যের ঝুঁকি নিয়ে কাজ করা সহকর্মীর সঙ্গে যেভাবে তথ্য ভাগ করা হয়, তাঁদের সঙ্গেও প্রাসঙ্গিক তথ্য ভাগ করতে কর্মীদের উৎসাহ দিচ্ছে কোম্পানি। বাদ দেওয়া শ্রেণির উদাহরণ হিসেবে গ্রাহকের ডেটা, আইনজীবী–মক্কেল সম্পর্কের গোপনীয়তার বিশেষাধিকারে সুরক্ষিত তথ্য এবং মডেলের স্থাপত্যের নাম বলেছে। স্থাপত্যের তথ্য খুব প্রাসঙ্গিক হলে নির্দিষ্ট অভ্যন্তরীণ অনুমোদন সাপেক্ষে কখনও ভাগ করা যেতে পারে বলে জানিয়েছে।

এটি প্রবেশাধিকারের বিশদ বর্ণনা, কিন্তু দলটি বাস্তবে ব্যবহার করেছে এমন প্রতিটি ডেটাসেট, সিস্টেম বা সাক্ষাৎকারের তালিকা নয়। Anthropic-এর বিবৃতি অনুযায়ী, দলটি আইনগতভাবে বলবৎযোগ্য চুক্তির অধীনে কাজ করে এবং অন্য Anthropic প্রকল্পে থাকা গবেষকসহ METR-এর বাকি কর্মীদের এই কাজ থেকে আলাদা রাখা হয়েছে। BIG CHANGE প্রকাশ্য বিবৃতিগুলো দেখেছে; আমরা চুক্তি বা অভ্যন্তরীণ সিস্টেম পরীক্ষা করিনি।

METR-এর নিয়ন্ত্রণ হারানোর ঝুঁকি মূল্যায়নের ১৪ অক্টোবরের প্রস্তাব ব্যাখ্যা করে, অগ্রসর AI-এর ডেভেলপারদের কাছ থেকে কী ধরনের প্রমাণ চাইছে তারা। এতে তিনটি প্রশ্ন আছে: অভ্যন্তরীণ AI এজেন্ট গুরুতর ক্ষতিকর কাজ করতে পারে কি না, নজরদারি তা শনাক্ত করে থামাতে পারবে কি না এবং AI-চালিত গবেষণা সক্ষমতা এত দ্রুত বাড়াতে পারে কি না যে সুরক্ষা ব্যবস্থা পিছিয়ে পড়বে। এসবের জন্য মডেল চেকপয়েন্ট, অভ্যন্তরীণ কথোপকথনের নথি, নজরদারি সিস্টেম ও গবেষণার অগ্রগতির মাপে সম্ভাব্য প্রবেশাধিকারের কথা METR বলেছে। এটি বিভিন্ন ডেভেলপারের জন্য প্রস্তাব, এই সহযোগিতায় Anthropic কী দিয়েছে তার তালিকা নয়।

প্রকাশনার অধিকার ও তার সীমা

Anthropic বলছে, তাদের ভেটো ছাড়াই METR ঝুঁকির মাত্রা, ঘটনা বা কোম্পানির কার্যপদ্ধতি নিয়ে বিশ্লেষণ প্রকাশ করতে পারে। পূর্বনির্ধারিত শ্রেণির তথ্য বাদ দেওয়ার দাবি কোম্পানি করতে পারে। ১৬ অক্টোবরের স্পষ্টীকরণে বলা হয়েছে, তথ্য ওই শ্রেণিতে পড়ে কি না, তার শেষ সিদ্ধান্ত Anthropic-এর; অন্যদিকে পাওয়া প্রবেশাধিকার ও তথ্য নিয়ে কিছু নির্দিষ্ট বক্তব্য দেওয়ার অধিকার METR রাখে। অর্থাৎ ফল প্রকাশের অধিকার ও সংবেদনশীল বিস্তারিত তথ্যের ওপর কোম্পানির নিয়ন্ত্রণ পাশাপাশি থাকে।

METR-এর AI কোম্পানির সঙ্গে কাজ করার নীতি অনুযায়ী, প্রতিবেদনে কাজের পরিসর ও সময়কাল, সিদ্ধান্তে প্রভাব ফেলা প্রবেশাধিকারের সীমা, গুরুত্বপূর্ণ তথ্য বাদ দেওয়া এবং ফলকে প্রভাবিত করতে পারে এমন চাপ প্রকাশ করা উচিত। কোম্পানি সিদ্ধান্তের জন্য গুরুত্বপূর্ণ তথ্য সরালে, সরিয়ে দেওয়া তথ্যের সারাংশ তৈরির লক্ষ্য রাখে বলে জানিয়েছে METR। এগুলো METR-এর ঘোষিত পদ্ধতি ও লক্ষ্য; নতুন এই অভ্যন্তরীণ দলের প্রতিবেদনে সেগুলো কীভাবে কার্যকর হবে, তা সাধারণ মানুষ এখনও পরীক্ষা করতে পারেন না।

METR এটাও মেনে নিয়েছে, স্বেচ্ছামূলক মূল্যায়ন কোম্পানির প্রবেশাধিকার দেওয়া ও প্রকাশের অনুমতির ওপর নির্ভর করে। কোম্পানি এমনভাবে প্রবেশাধিকার আটকে দিতে বা তথ্য সরাতে পারে, যাতে জনসাধারণের কাছে পৌঁছানো প্রমাণ প্রভাবিত হয়। ১৪ অক্টোবরের প্রস্তাব বলছে, কাজটি নিয়ন্ত্রণ হারানোর প্রযুক্তিগত প্রশ্নে মনোযোগ দেবে; এটি নিরাপত্তাব্যবস্থা, সাংগঠনিক শাসন বা নিয়মপালনের অডিট হবে না। METR-এর মতে, এর ভিত্তির বিজ্ঞান এখনও আস্থার সঙ্গে উন্নয়ন নিরাপদ বলে নিশ্চয়তা দিতে পারে না।

অন্য মূল্যায়নকারীদের জন্য Anthropic তিন স্তরের পদ্ধতি বর্ণনা করেছে। METR-এর ব্যবস্থা তৃতীয় স্তরের, যাতে কর্মীদের মতো প্রবেশাধিকার ও প্রকাশনার অধিকার থাকে। আগের স্তরগুলোতে অনুসন্ধানের পরিসর কম বা প্রকাশনার অধিকার আরও সীমিত। এই স্তরের বর্ণনা Anthropic-এর পরিকল্পনা ও বর্তমান সহযোগিতার শর্ত; প্রতিটি অংশীদারের METR-এর সমান প্রবেশাধিকার আছে, তার প্রমাণ নয়।

এই ব্যবস্থার প্রকাশ্য পরীক্ষা হবে METR-এর প্রতিবেদন: কোন ঝুঁকির প্রশ্ন যাচাই করেছে, কী অভ্যন্তরীণ প্রমাণ দেখতে পেরেছে এবং কোন সীমা বা বাদ দেওয়া তথ্যের বর্ণনা করতে পারে। বর্তমান বিবৃতি Anthropic-এর ঘোষিত শর্ত ও METR-এর প্রকাশিত পদ্ধতি প্রতিষ্ঠা করে। Anthropic-এর নিরাপত্তা বা কোম্পানির ভেতরে থাকা দলের মূল্যায়নের কার্যকারিতা সম্পর্কে কোনো সিদ্ধান্ত প্রতিষ্ঠা করে না।

উৎস ও আরও পড়ুন