گارڈین نے یکم اکتوبر کو بتایا کہ درخواست پر ChatGPT اور Grok نے ایک AI سے تیار کردہ خاتون کی تصویر سے حجاب ہٹا دیا۔ Gemini نے پہلے انکار کیا، پھر درخواست کو اس طرح بدلنے کے بعد بغیر حجاب تصویر بنائی کہ خاتون زیادہ “مغربی” دکھائی دے۔ اخبار نے پگڑی پہنے ایک سکھ مرد کی مصنوعی تصویر بھی آزمائی: اس کے مطابق Gemini نے براہِ راست ترمیم سے انکار کیا، مگر اسی طرح درخواست بدلنے پر پگڑی ہٹا دی۔ یہ گارڈین کے مشاہدات ہیں، BIG CHANGE کے کیے ہوئے ٹیسٹ نہیں۔

براہِ راست اور بدلی ہوئی درخواستوں میں فرق اہم ہے کیونکہ تصویر مصنوعی تھی۔ گارڈین کے مطابق Gemini نے اپنے پہلے انکار میں کسی حقیقی شخص کی رضامندی کے بغیر اس کی شکل بدلنے کے خطرے کا حوالہ دیا۔ یہ وجہ آزمائشی تصویر پر لاگو نہیں ہوتی تھی۔ مذہبی سرپوش ہٹانے کی درخواست کسی شخص کی عکاسی کے بارے میں سوال اٹھا سکتی ہے، چاہے رضامندی جانچنے کے لیے کوئی حقیقی شخص موجود نہ ہو۔

بڑی تبدیلی

  • کیا بدلا:گارڈین کے بیان کردہ ٹیسٹ میں ChatGPT اور Grok نے براہِ راست درخواست پر حجاب ہٹا دیا۔ Gemini نے براہِ راست درخواست مسترد کی، مگر شخصیت کو “زیادہ مغربی” دکھانے کی درخواست کے بعد حجاب اور ایک دوسری مصنوعی تصویر میں پگڑی ہٹا دی۔ ایک ٹیسٹ معمول کے رویے کو ثابت نہیں کرتا۔
  • یہ کیوں اہم ہے:حقیقی شخص کی رضامندی کا حوالہ دینے والا انکار تصویر ایڈیٹر منتخب یا جانچنے والے شخص کو اس بات کا زیادہ یقین نہیں دلاتا کہ الفاظ بدلنے پر مصنوعی شخصیت کا مذہبی لباس برقرار رہے گا۔ Gemini کو دی گئی دونوں درخواستیں اس عملی خلا کو ظاہر کرتی ہیں۔
  • کس بات پر نظر رکھیں:Google کہتا ہے کہ اس کے نظام پالیسی کی ممکنہ خلاف ورزی کا پتا لگائیں تو Gemini تصاویر ہٹا سکتا ہے۔ مصنوعات سے متعلق سوال یہ ہے کہ موجودہ جانچ مصنوعی شخصیت کے مذہبی لباس سے متعلق براہِ راست اور بدلی ہوئی درخواستوں سے کیسے نمٹتی ہے۔ Google کی مددگار دستاویزات یہ واضح نہیں کرتیں، اور گارڈین نے قابلِ اعتماد موازنے کے لیے ضروری ورژنز، مکمل پرامپٹس اور دہرائے گئے ٹیسٹوں کی تعداد نہیں بتائی۔

شائع شدہ قواعد کا دائرۂ کار

OpenAI کی استعمال کی پالیسیاں 29 اکتوبر 2025 سے نافذ ہیں۔ یہ ہراسانی، غیر رضامندانہ نجی مواد اور کسی شخص کی مشابہت کے بعض غیر رضامندانہ استعمالات کو ممنوع قرار دیتی ہیں۔ اس کی سروس کی شرائط 29 ستمبر 2026 کو اپ ڈیٹ ہوئیں اور بصری صلاحیتوں کے ذریعے کسی شخص کی مشابہت دوبارہ بنانے کے لیے الگ سے واضح رضامندی اور ضروری حقوق کا تقاضا کرتی ہیں۔ گارڈین نے مصنوعی شخصیت استعمال کی تھی، اس لیے حقیقی افراد سے متعلق یہ دفعات اکیلے یہ طے نہیں کرتیں کہ رپورٹ کردہ حجاب کی ترمیم نے OpenAI کے قواعد کی خلاف ورزی کی یا نہیں۔

Google کی جنریٹو AI ممنوعہ استعمال کی پالیسی آخری بار 17 دسمبر 2024 کو تبدیل ہوئی۔ یہ غیر رضامندانہ نجی تصاویر، رازداری کی خلاف ورزی، نفرت اور ہراسانی کو محدود کرتی ہے۔ اس کا Gemini مددگار صفحہ کسی کی رضامندی کے بغیر اس کی تصویر استعمال کرنے کو ممکنہ خلاف ورزیِ رازداری کی مثال قرار دیتا ہے۔ Google کی تصویری ترمیم سے متعلق مدد مقامی ترامیم اور اپ لوڈز کی وضاحت کرتی ہے اور خبردار کرتی ہے کہ نظام پالیسی کی ممکنہ خلاف ورزی دیکھیں تو تصاویر ہٹائی جا سکتی ہیں۔ ان میں سے کوئی صفحہ یہ وعدہ نہیں کرتا کہ مصنوعی شخصیت کے مذہبی لباس میں ہر ترمیم مسترد کی جائے گی۔ رپورٹ کردہ جواب یہ بھی ثابت نہیں کرتا کہ Google کی تحریری پالیسی ہر سیاق و سباق میں ایسی ترمیم کی اجازت دیتی ہے۔

xAI کی قابلِ قبول استعمال کی پالیسی 14 اگست 2026 سے نافذ ہے۔ رازداری اور غلط استعمال سے متعلق دوسری پابندیوں کے علاوہ، یہ حقیقی شخص کی مشابہت کو بدل کر اسے نجی یا جنسی سیاق میں دکھانے سے روکتی ہے۔ اس کی غیر رضامندانہ نجی مواد کی رپورٹنگ پالیسی مئی 2026 کی ہے اور نجی یا جنسی سیاق میں قابلِ شناخت افراد سے متعلق ہے۔ یہ قواعد گارڈین کی مصنوعی حجاب والی تصویر سے مختلف زمرے کے معاملات کا احاطہ کرتے ہیں۔ یہ ثابت نہیں کرتے کہ Grok کا رپورٹ کردہ نتیجہ قواعد کے مطابق تھا یا دوسری درخواستوں میں اس کا رویہ ایسا ہی ہوگا۔

گارڈین نے Claude سے بھی پوچھا۔ اس نے کہا کہ وہ تصویر میں ترمیم نہیں کر سکتا اور کسی حقیقی خاتون کا حجاب ہٹانے سے انکار کرے گا۔ Anthropic کی مصنوعات سے متعلق مدد 16 مارچ 2026 کی دستاویز کہتی ہے کہ Claude اپ لوڈ کی گئی تصاویر کا معائنہ کر سکتا ہے، مگر تصویر بنانے والے ٹول کی طرح فوٹو یا عکاسی تخلیق نہیں کرتا۔ اس لیے Claude کے جواب کو دوسری مصنوعات کے نتائج کی طرح کامیاب تصویری ترمیم سے انکار نہیں گنا جا سکتا۔

ایک حقیقی تصویر نے ٹیسٹ کی راہ دکھائی

گارڈین نے بتایا کہ اس نے یہ ٹیسٹ فرانسیسی سیاست دان Julien Odoul کی جانب سے حجاب پہنی ایک حقیقی خاتون کی بدلی ہوئی تصویر پوسٹ کرنے کے بعد کیا۔ Anadolu Agency نے 6 ستمبر کو رپورٹ کیا کہOdoul نے ایسی تصویر شیئر کی تھی جس میں خاتون سرپوش کے بغیر اور مختلف لباس میں نظر آتی تھی۔ خبر رساں ادارہ یہ تصدیق نہیں کر سکا کہ خاتون نے رضامندی دی تھی یا نہیں۔ گارڈین بھی استعمال ہونے والے سافٹ ویئر یا ترمیم کرنے والے شخص کا پتا نہیں لگا سکا۔ حقیقی شخص سے متعلق یہ واقعہ اخبار کے ٹیسٹ کا پس منظر ہے؛ مصنوعی تصاویر نے اس تصویر کے حالات کو دوبارہ نہیں بنایا۔

گارڈین کی عوامی رپورٹ ہر مصنوعہ کے لیے مکمل پرامپٹس، تصویری فائلیں، ماڈل ورژنز، اکاؤنٹ کی ترتیبات یا آزمائش دہرانے کی تعداد نہیں بتاتی۔ اس سے ٹولز کا موازنہ محدود ہوتا ہے اور قارئین کے لیے اسے معیار کے طور پر دہرانا ممکن نہیں رہتا۔ گارڈین کے بیان کردہ تبادلوں میں مصنوعی تصاویر سے مذہبی سرپوش ہٹائے جا سکے، اور شخصیت کو “مغربی” دکھانے کی درخواست کے بعد ایک انکار کا نتیجہ بدل گیا۔ فراہم کنندگان کے عوامی قواعد متعلقہ نقصانات کی نشان دہی کرتے ہیں، مگر ان کے الفاظ اکیلے حفاظتی اقدامات کی کارکردگی کی تصدیق نہیں کر سکتے۔

ماخذ اور مزید مطالعہ