গার্ডিয়ান ১ অক্টোবর জানায়, অনুরোধ পেয়ে ChatGPT ও Grok এআই-তৈরি এক নারীর ছবি থেকে হিজাব সরিয়ে দিয়েছে। Gemini প্রথমে অস্বীকার করলেও, নারীটিকে আরও “পাশ্চাত্য” দেখানোর অনুরোধ করে কথাটি নতুনভাবে বলার পর হিজাব ছাড়া ছবি তৈরি করে। পত্রিকাটি পাগড়ি পরা এক শিখ পুরুষের কৃত্রিম ছবিও পরীক্ষা করে: তাদের প্রতিবেদনে বলা হয়, Gemini সরাসরি সম্পাদনার অনুরোধ নাকচ করেছিল, কিন্তু একইভাবে অনুরোধটি বদলানোর পর পাগড়ি সরিয়ে দেয়। এগুলো গার্ডিয়ানের পর্যবেক্ষণ, BIG CHANGE-এর করা পরীক্ষা নয়।

সরাসরি ও নতুনভাবে বলা অনুরোধের পার্থক্যটি গুরুত্বপূর্ণ, কারণ ছবিটি কৃত্রিম ছিল। গার্ডিয়ানের মতে, Gemini প্রথমবার অস্বীকার করার সময় সম্মতি ছাড়া বাস্তব মানুষের চেহারা বদলে দেওয়ার ঝুঁকির কথা বলেছিল। কিন্তু পরীক্ষার ছবির ক্ষেত্রে সেই কারণটি প্রযোজ্য ছিল না। বাস্তব কোনো ব্যক্তি না থাকলেও, ধর্মীয় আবরণ সরানোর অনুরোধে মানুষটিকে কীভাবে উপস্থাপন করা হচ্ছে—সে প্রশ্ন উঠতে পারে।

মূল পরিবর্তন

  • কী বদলেছে:গার্ডিয়ানের প্রতিবেদিত পরীক্ষায় সরাসরি অনুরোধে ChatGPT ও Grok হিজাব সরিয়ে দেয়। Gemini সরাসরি অনুরোধ প্রত্যাখ্যান করেছিল, কিন্তু মানুষটিকে “আরও পাশ্চাত্য” দেখাতে বলার পর হিজাব এবং আরেকটি কৃত্রিম ছবিতে পাগড়িও সরায়। একটি পরীক্ষা থেকে নিয়মিত আচরণ সম্পর্কে সিদ্ধান্ত টানা যায় না।
  • কেন এটি গুরুত্বপূর্ণ:বাস্তব মানুষের সম্মতির কথা বলে প্রত্যাখ্যান করলেই ছবি-সম্পাদনার সরঞ্জাম বেছে নেওয়া বা যাচাই করা ব্যক্তিরা নিশ্চিন্ত হতে পারেন না যে ভাষা বদলালে কৃত্রিম মানুষের ধর্মীয় পোশাক অক্ষত থাকবে। Gemini-কে করা দুটি অনুরোধ এই বাস্তব ফাঁকটি দেখায়।
  • যা নজরে রাখা দরকার:Google জানায়, তাদের সিস্টেম নীতিভঙ্গের সম্ভাবনা শনাক্ত করলে Gemini ছবি সরিয়ে দিতে পারে। পণ্যের ক্ষেত্রে প্রশ্ন হলো, কৃত্রিম মানুষের ধর্মীয় পোশাক নিয়ে সরাসরি বা নতুনভাবে বলা অনুরোধকে বিদ্যমান যাচাইব্যবস্থা কীভাবে বিবেচনা করে। Google-এর সহায়তা পাতায় তা স্পষ্ট নয়; নির্ভরযোগ্য তুলনার জন্য দরকারি সংস্করণ, সম্পূর্ণ প্রম্পট ও পুনরাবৃত্তির সংখ্যাও গার্ডিয়ান প্রকাশ করেনি।

প্রকাশিত নীতিমালায় কী রয়েছে

OpenAI-এর ব্যবহারের নীতিমালা ২০২৫ সালের ২৯ অক্টোবর থেকে কার্যকর। এতে হয়রানি, সম্মতিহীন অন্তরঙ্গ বিষয়বস্তু এবং সম্মতি ছাড়া কারও সাদৃশ্য ব্যবহারের কিছু ধরন নিষিদ্ধ। তাদের সেবার শর্তাবলি ২০২৬ সালের ২৯ সেপ্টেম্বর হালনাগাদ হয়েছে। ভিজ্যুয়াল সুবিধা দিয়ে কারও সাদৃশ্য পুনর্নির্মাণে এগুলো আলাদাভাবে স্পষ্ট সম্মতি ও প্রয়োজনীয় অধিকার চায়। গার্ডিয়ান কৃত্রিম বিষয় ব্যবহার করেছে, তাই বাস্তব মানুষ-সংক্রান্ত এই বিধানগুলো একাই প্রমাণ করে না যে প্রতিবেদিত হিজাব সম্পাদনা OpenAI-এর নিয়ম ভেঙেছে।

Google-এর জেনারেটিভ এআই নিষিদ্ধ-ব্যবহার নীতি সর্বশেষ ২০২৪ সালের ১৭ ডিসেম্বর সংশোধিত। এতে সম্মতিহীন অন্তরঙ্গ ছবি, গোপনীয়তা লঙ্ঘন, বিদ্বেষ ও হয়রানি সীমিত করা হয়েছে। তাদের Gemini সহায়তা পাতায় কারও সম্মতি ছাড়া তার ছবি ব্যবহারের বিষয়টি সম্ভাব্য গোপনীয়তা লঙ্ঘনের উদাহরণ হিসেবে দেওয়া হয়েছে। Google-এর ছবি সম্পাদনা সহায়তা স্থানীয় সম্পাদনা ও ছবি আপলোডের কথা জানায় এবং সতর্ক করে যে সিস্টেম নীতিভঙ্গের সম্ভাবনা শনাক্ত করলে ছবি সরানো হতে পারে। কৃত্রিম মানুষের ধর্মীয় পোশাক নিয়ে প্রতিটি সম্পাদনা প্রত্যাখ্যান করা হবে—এমন প্রতিশ্রুতি কোনো পাতায় নেই। প্রতিবেদিত প্রতিক্রিয়াও প্রমাণ করে না যে Google-এর লিখিত নীতি সব পরিস্থিতিতে এমন সম্পাদনার অনুমতি দেয়।

xAI-এর গ্রহণযোগ্য ব্যবহার নীতি ২০২৬ সালের ১৪ আগস্ট থেকে কার্যকর। গোপনীয়তা ও অপব্যবহার-সংক্রান্ত অন্য সীমাবদ্ধতার পাশাপাশি, বাস্তব মানুষের সাদৃশ্যকে অন্তরঙ্গ বা যৌন পরিস্থিতিতে দেখানোর জন্য পরিবর্তন করা নিষিদ্ধ করে। তাদের সম্মতিহীন অন্তরঙ্গ বিষয়বস্তু প্রতিবেদন নীতি ২০২৬ সালের মে মাসের; এটিও অন্তরঙ্গ বা যৌন পরিস্থিতিতে শনাক্তযোগ্য ব্যক্তিদের নিয়ে। এই বিধানগুলো গার্ডিয়ানের কৃত্রিম হিজাব ছবির চেয়ে আলাদা বিষয়ের ক্ষেত্রে প্রযোজ্য। এগুলো প্রমাণ করে না যে Grok-এর প্রতিবেদিত ফল নিয়ম মেনেছিল বা অন্য অনুরোধেও একই আচরণ হতো।

গার্ডিয়ান Claude-কেও জিজ্ঞাসা করেছিল। Claude জানায়, সে ছবিটি সম্পাদনা করতে পারে না এবং বাস্তব কোনো নারীর হিজাব সরাতে অস্বীকার করবে। Anthropic-এর পণ্য-সহায়তা ২০২৬ সালের ১৬ মার্চ জানায়, Claude আপলোড করা ছবি পরীক্ষা করতে পারে, কিন্তু ছবি তৈরির সরঞ্জামের মতো আলোকচিত্র বা চিত্রকর্ম তৈরি করে না। তাই Claude-এর উত্তরকে অন্য পণ্যগুলোর ফলের পাশাপাশি সফল ছবি-সম্পাদনা প্রত্যাখ্যান হিসেবে গণ্য করা যায় না।

একটি বাস্তব ছবি থেকেই পরীক্ষার সূত্রপাত

গার্ডিয়ান জানায়, ফরাসি রাজনীতিক Julien Odoul হিজাব পরা এক বাস্তব নারীর সম্পাদিত ছবি পোস্ট করার পর তারা পরীক্ষাটি চালায়। Anadolu Agency ৬ সেপ্টেম্বর জানায়,Odoul এমন একটি সংস্করণ শেয়ার করেছিলেন, যেখানে নারীটির মাথার আবরণ নেই এবং পোশাকও আলাদা। নারীটি সম্মতি দিয়েছিলেন কি না, সংস্থাটি তা নিশ্চিত করতে পারেনি। কোন সফটওয়্যার ব্যবহৃত হয়েছিল বা কে সম্পাদনাটি করেছিলেন, গার্ডিয়ানও তা জানতে পারেনি। বাস্তব ব্যক্তিকে ঘিরে ঘটনাটি পত্রিকার পরীক্ষার প্রেক্ষাপট; পরীক্ষার কৃত্রিম ইনপুট ছবির পরিস্থিতি পুনর্নির্মাণ করেনি।

প্রকাশিত বিবরণে গার্ডিয়ান প্রতিটি পণ্যের সম্পূর্ণ প্রম্পট-ধারা, ছবির ফাইল, মডেলের সংস্করণ, অ্যাকাউন্টের সেটিংস বা পুনরাবৃত্তির সংখ্যা জানায়নি। এতে সরঞ্জামগুলোর তুলনা সীমিত হয় এবং পাঠকেরা পরীক্ষাটি মানদণ্ড হিসেবে পুনরায় চালাতে পারেন না। গার্ডিয়ানের বর্ণিত কথোপকথনে কৃত্রিম ছবি থেকে ধর্মীয় আবরণ সরানো গেছে, আর মানুষটিকে “পাশ্চাত্য” দেখানোর অনুরোধের পর একটি প্রত্যাখ্যানের ফল বদলেছে। সেবাদাতাদের প্রকাশিত নিয়ম প্রাসঙ্গিক ক্ষতির ধরন চিহ্নিত করে; শুধু নিয়মের ভাষা দিয়ে সুরক্ষাব্যবস্থার কার্যকারিতা যাচাই করা যায় না।

সূত্র ও আরও পড়ুন