Markdown ایڈیشن

AI-translated from English; not yet reviewed by a fluent editor.

# گارڈین کے ٹیسٹ میں AI امیج ٹولز نے مذہبی سرپوش ہٹا دیے

> گارڈین کے مطابق AI امیج ٹولز نے مصنوعی افراد کی تصاویر سے مذہبی سرپوش ہٹا دیے۔ فراہم کنندگان کے شائع کردہ قواعد یہ واضح نہیں کرتے کہ ایسی ترامیم سے کیسے نمٹا جاتا ہے۔

By BIG CHANGE Editorial

Published: 2026-10-01T11:59:01.661Z
Updated: 2026-10-01T11:59:01.661Z
Canonical: https://bigchange.ai/blog/ai-chatbots-religious-head-covering-image-edits

![Conceptual illustration of one anonymous woman in a hijab holding a plain smartphone with a blank screen.](https://bigchange.ai/api/media/file/religious-head-covering-image-edits-hero-v1.png)
AI-generated conceptual editorial illustration by BIG CHANGE.

[گارڈین نے یکم اکتوبر کو بتایا کہ](https://www.theguardian.com/technology/2026/oct/01/ai-chatbots-hijabs-muslim-women) درخواست پر ChatGPT اور Grok نے ایک AI سے تیار کردہ خاتون کی تصویر سے حجاب ہٹا دیا۔ Gemini نے پہلے انکار کیا، پھر درخواست کو اس طرح بدلنے کے بعد بغیر حجاب تصویر بنائی کہ خاتون زیادہ “مغربی” دکھائی دے۔ اخبار نے پگڑی پہنے ایک سکھ مرد کی مصنوعی تصویر بھی آزمائی: اس کے مطابق Gemini نے براہِ راست ترمیم سے انکار کیا، مگر اسی طرح درخواست بدلنے پر پگڑی ہٹا دی۔ یہ گارڈین کے مشاہدات ہیں، BIG CHANGE کے کیے ہوئے ٹیسٹ نہیں۔

براہِ راست اور بدلی ہوئی درخواستوں میں فرق اہم ہے کیونکہ تصویر مصنوعی تھی۔ گارڈین کے مطابق Gemini نے اپنے پہلے انکار میں کسی حقیقی شخص کی رضامندی کے بغیر اس کی شکل بدلنے کے خطرے کا حوالہ دیا۔ یہ وجہ آزمائشی تصویر پر لاگو نہیں ہوتی تھی۔ مذہبی سرپوش ہٹانے کی درخواست کسی شخص کی عکاسی کے بارے میں سوال اٹھا سکتی ہے، چاہے رضامندی جانچنے کے لیے کوئی حقیقی شخص موجود نہ ہو۔

## بڑی تبدیلی

- **کیا بدلا:**گارڈین کے بیان کردہ ٹیسٹ میں ChatGPT اور Grok نے براہِ راست درخواست پر حجاب ہٹا دیا۔ Gemini نے براہِ راست درخواست مسترد کی، مگر شخصیت کو “زیادہ مغربی” دکھانے کی درخواست کے بعد حجاب اور ایک دوسری مصنوعی تصویر میں پگڑی ہٹا دی۔ ایک ٹیسٹ معمول کے رویے کو ثابت نہیں کرتا۔
- **یہ کیوں اہم ہے:**حقیقی شخص کی رضامندی کا حوالہ دینے والا انکار تصویر ایڈیٹر منتخب یا جانچنے والے شخص کو اس بات کا زیادہ یقین نہیں دلاتا کہ الفاظ بدلنے پر مصنوعی شخصیت کا مذہبی لباس برقرار رہے گا۔ Gemini کو دی گئی دونوں درخواستیں اس عملی خلا کو ظاہر کرتی ہیں۔
- **کس بات پر نظر رکھیں:**Google کہتا ہے کہ اس کے نظام پالیسی کی ممکنہ خلاف ورزی کا پتا لگائیں تو Gemini تصاویر ہٹا سکتا ہے۔ مصنوعات سے متعلق سوال یہ ہے کہ موجودہ جانچ مصنوعی شخصیت کے مذہبی لباس سے متعلق براہِ راست اور بدلی ہوئی درخواستوں سے کیسے نمٹتی ہے۔ Google کی مددگار دستاویزات یہ واضح نہیں کرتیں، اور گارڈین نے قابلِ اعتماد موازنے کے لیے ضروری ورژنز، مکمل پرامپٹس اور دہرائے گئے ٹیسٹوں کی تعداد نہیں بتائی۔

## شائع شدہ قواعد کا دائرۂ کار

[OpenAI کی استعمال کی پالیسیاں](https://openai.com/policies/usage-policies/) 29 اکتوبر 2025 سے نافذ ہیں۔ یہ ہراسانی، غیر رضامندانہ نجی مواد اور کسی شخص کی مشابہت کے بعض غیر رضامندانہ استعمالات کو ممنوع قرار دیتی ہیں۔ اس کی [سروس کی شرائط](https://openai.com/policies/service-terms/) 29 ستمبر 2026 کو اپ ڈیٹ ہوئیں اور بصری صلاحیتوں کے ذریعے کسی شخص کی مشابہت دوبارہ بنانے کے لیے الگ سے واضح رضامندی اور ضروری حقوق کا تقاضا کرتی ہیں۔ گارڈین نے مصنوعی شخصیت استعمال کی تھی، اس لیے حقیقی افراد سے متعلق یہ دفعات اکیلے یہ طے نہیں کرتیں کہ رپورٹ کردہ حجاب کی ترمیم نے OpenAI کے قواعد کی خلاف ورزی کی یا نہیں۔

[Google کی جنریٹو AI ممنوعہ استعمال کی پالیسی](https://policies.google.com/terms/generative-ai/use-policy) آخری بار 17 دسمبر 2024 کو تبدیل ہوئی۔ یہ غیر رضامندانہ نجی تصاویر، رازداری کی خلاف ورزی، نفرت اور ہراسانی کو محدود کرتی ہے۔ اس کا [Gemini مددگار صفحہ](https://support.google.com/gemini/answer/16625148) کسی کی رضامندی کے بغیر اس کی تصویر استعمال کرنے کو ممکنہ خلاف ورزیِ رازداری کی مثال قرار دیتا ہے۔ Google کی [تصویری ترمیم سے متعلق مدد](https://support.google.com/gemini/answer/14286560) مقامی ترامیم اور اپ لوڈز کی وضاحت کرتی ہے اور خبردار کرتی ہے کہ نظام پالیسی کی ممکنہ خلاف ورزی دیکھیں تو تصاویر ہٹائی جا سکتی ہیں۔ ان میں سے کوئی صفحہ یہ وعدہ نہیں کرتا کہ مصنوعی شخصیت کے مذہبی لباس میں ہر ترمیم مسترد کی جائے گی۔ رپورٹ کردہ جواب یہ بھی ثابت نہیں کرتا کہ Google کی تحریری پالیسی ہر سیاق و سباق میں ایسی ترمیم کی اجازت دیتی ہے۔

[xAI کی قابلِ قبول استعمال کی پالیسی](https://x.ai/legal/acceptable-use-policy) 14 اگست 2026 سے نافذ ہے۔ رازداری اور غلط استعمال سے متعلق دوسری پابندیوں کے علاوہ، یہ حقیقی شخص کی مشابہت کو بدل کر اسے نجی یا جنسی سیاق میں دکھانے سے روکتی ہے۔ اس کی [غیر رضامندانہ نجی مواد کی رپورٹنگ پالیسی](https://x.ai/legal/help-center/non-consensual-intimate-content) مئی 2026 کی ہے اور نجی یا جنسی سیاق میں قابلِ شناخت افراد سے متعلق ہے۔ یہ قواعد گارڈین کی مصنوعی حجاب والی تصویر سے مختلف زمرے کے معاملات کا احاطہ کرتے ہیں۔ یہ ثابت نہیں کرتے کہ Grok کا رپورٹ کردہ نتیجہ قواعد کے مطابق تھا یا دوسری درخواستوں میں اس کا رویہ ایسا ہی ہوگا۔

گارڈین نے Claude سے بھی پوچھا۔ اس نے کہا کہ وہ تصویر میں ترمیم نہیں کر سکتا اور کسی حقیقی خاتون کا حجاب ہٹانے سے انکار کرے گا۔ [Anthropic کی مصنوعات سے متعلق مدد](https://support.claude.com/en/articles/9002504-can-claude-produce-images) 16 مارچ 2026 کی دستاویز کہتی ہے کہ Claude اپ لوڈ کی گئی تصاویر کا معائنہ کر سکتا ہے، مگر تصویر بنانے والے ٹول کی طرح فوٹو یا عکاسی تخلیق نہیں کرتا۔ اس لیے Claude کے جواب کو دوسری مصنوعات کے نتائج کی طرح کامیاب تصویری ترمیم سے انکار نہیں گنا جا سکتا۔

## ایک حقیقی تصویر نے ٹیسٹ کی راہ دکھائی

گارڈین نے بتایا کہ اس نے یہ ٹیسٹ فرانسیسی سیاست دان Julien Odoul کی جانب سے حجاب پہنی ایک حقیقی خاتون کی بدلی ہوئی تصویر پوسٹ کرنے کے بعد کیا۔ [Anadolu Agency نے 6 ستمبر کو رپورٹ کیا کہ](https://www.aa.com.tr/fr/france/-voile-dans-lespace-public-un-d%C3%A9put%C3%A9-rn-modifie-par-ia-la-photo-d-une-femme-voil%C3%A9e-et-suscite-une-pol%C3%A9mique/4048785)Odoul نے ایسی تصویر شیئر کی تھی جس میں خاتون سرپوش کے بغیر اور مختلف لباس میں نظر آتی تھی۔ خبر رساں ادارہ یہ تصدیق نہیں کر سکا کہ خاتون نے رضامندی دی تھی یا نہیں۔ گارڈین بھی استعمال ہونے والے سافٹ ویئر یا ترمیم کرنے والے شخص کا پتا نہیں لگا سکا۔ حقیقی شخص سے متعلق یہ واقعہ اخبار کے ٹیسٹ کا پس منظر ہے؛ مصنوعی تصاویر نے اس تصویر کے حالات کو دوبارہ نہیں بنایا۔

گارڈین کی عوامی رپورٹ ہر مصنوعہ کے لیے مکمل پرامپٹس، تصویری فائلیں، ماڈل ورژنز، اکاؤنٹ کی ترتیبات یا آزمائش دہرانے کی تعداد نہیں بتاتی۔ اس سے ٹولز کا موازنہ محدود ہوتا ہے اور قارئین کے لیے اسے معیار کے طور پر دہرانا ممکن نہیں رہتا۔ گارڈین کے بیان کردہ تبادلوں میں مصنوعی تصاویر سے مذہبی سرپوش ہٹائے جا سکے، اور شخصیت کو “مغربی” دکھانے کی درخواست کے بعد ایک انکار کا نتیجہ بدل گیا۔ فراہم کنندگان کے عوامی قواعد متعلقہ نقصانات کی نشان دہی کرتے ہیں، مگر ان کے الفاظ اکیلے حفاظتی اقدامات کی کارکردگی کی تصدیق نہیں کر سکتے۔

## ماخذ اور مزید مطالعہ

- [گارڈین کا یکم اکتوبر کا ٹیسٹ](https://www.theguardian.com/technology/2026/oct/01/ai-chatbots-hijabs-muslim-women)چیٹ بوٹ کے جوابات کا واحد ماخذ ہے۔ BIG CHANGE نے انہیں دوبارہ نہیں آزمایا؛ مضمون میں معیار بنانے کے لیے درکار ترتیبات اور پرامپٹس کی کافی تفصیل نہیں۔
- [OpenAI کی استعمال کی پالیسیاں](https://openai.com/policies/usage-policies/) اور [سروس کی شرائط](https://openai.com/policies/service-terms/) ہراسانی، نجی مواد اور مشابہت کے بارے میں موجودہ قواعد بیان کرتی ہیں۔ یہ گارڈین کے نتائج کی تصدیق یا اس مصنوعی معاملے کا فیصلہ نہیں کرتیں۔
- [Google کی ممنوعہ استعمال کی پالیسی](https://policies.google.com/terms/generative-ai/use-policy)، [Gemini کی پالیسی کے نفاذ سے متعلق مدد](https://support.google.com/gemini/answer/16625148) اور [تصویری ترمیم کی مدد](https://support.google.com/gemini/answer/14286560) پالیسی کا دائرہ اور دستاویزی ترمیمی صلاحیتیں بتاتی ہیں، نفاذ میں یکسانیت نہیں۔
- [xAI کی قابلِ قبول استعمال کی پالیسی](https://x.ai/legal/acceptable-use-policy) اور [نجی مواد کی رپورٹنگ پالیسی](https://x.ai/legal/help-center/non-consensual-intimate-content) حقیقی افراد کی رازداری اور جنسی سیاق و سباق سے متعلق پابندیاں بیان کرتی ہیں۔ یہ Grok کے رویے کا جائزہ نہیں۔
- [Claude کی تصویری صلاحیتوں پر Anthropic کی مدد](https://support.claude.com/en/articles/9002504-can-claude-produce-images) واضح کرتی ہے کہ اس موازنے میں Claude مساوی تصویری ایڈیٹر کیوں نہیں تھا۔
- [Anadolu Agency کی 6 ستمبر کی رپورٹ](https://www.aa.com.tr/fr/france/-voile-dans-lespace-public-un-d%C3%A9put%C3%A9-rn-modifie-par-ia-la-photo-d-une-femme-voil%C3%A9e-et-suscite-une-pol%C3%A9mique/4048785) فرانس کی الگ تصویر والی کارروائی کا مستقل بیان کرتی ہے اور کہتی ہے کہ خاتون کی رضامندی کی تصدیق نہیں ہوئی۔

## Sources

- [The Guardian: درخواست پر AI چیٹ بوٹس مسلمان خواتین کی تصاویر سے حجاب ہٹاتے ہیں](https://www.theguardian.com/technology/2026/oct/01/ai-chatbots-hijabs-muslim-women) — چیٹ بوٹ کے نتائج کا واحد ثبوت۔ مصنوعی تصاویر؛ BIG CHANGE نے ٹیسٹ نہیں دہرائے۔ مکمل پرامپٹس، فائلیں، ورژنز، اکاؤنٹس، ترتیبات اور تکرار کی تعداد دستیاب نہیں۔
- [OpenAI کی استعمال کی پالیسیاں](https://openai.com/policies/usage-policies/) — 29 اکتوبر 2025 سے نافذ۔ شائع شدہ استعمال کے قواعد، نفاذ کا ثبوت نہیں۔
- [OpenAI کی سروس کی شرائط](https://openai.com/policies/service-terms/) — 29 ستمبر 2026 کو اپ ڈیٹ؛ دفعہ 6 بصری صلاحیتوں اور مشابہت کے لیے رضامندی سے متعلق ہے۔
- [Google کی جنریٹو AI ممنوعہ استعمال کی پالیسی](https://policies.google.com/terms/generative-ai/use-policy) — آخری ترمیم 17 دسمبر 2024؛ پالیسی کا دائرہ، Gemini میں مخصوص نفاذ کا ثبوت نہیں۔
- [Google Gemini کی پالیسی کے نفاذ سے متعلق مدد](https://support.google.com/gemini/answer/16625148) — تاریخ کے بغیر موجودہ مددگار صفحہ، 1 اکتوبر 2026 کو دیکھا گیا؛ رازداری/رضامندی کی مثال۔
- [Google Gemini کی تصویری ترمیم سے متعلق مدد](https://support.google.com/gemini/answer/14286560) — تاریخ کے بغیر موجودہ مددگار صفحہ، 1 اکتوبر 2026 کو دیکھا گیا؛ ترمیم اور ممکنہ تصویر ہٹانے کی وضاحت۔ گارڈین کا ورژن نامعلوم ہے۔
- [SpaceXAI کی قابلِ قبول استعمال کی پالیسی](https://x.ai/legal/acceptable-use-policy) — 14 اگست 2026 سے نافذ؛ حقیقی افراد کی مشابہت اور غلط استعمال سے متعلق پابندیاں۔
- [SpaceXAI پر غیر رضامندانہ نجی مواد کی رپورٹنگ](https://x.ai/legal/help-center/non-consensual-intimate-content) — مئی 2026؛ نجی یا جنسی سیاق میں قابلِ شناخت افراد۔
- [Anthropic: کیا Claude تصاویر بنا سکتا ہے؟](https://support.claude.com/en/articles/9002504-can-claude-produce-images) — 16 مارچ 2026؛ Claude میں تصاویر یا عکاسی بنانے کی مساوی صلاحیت نہیں۔
- [Anadolu Agency: Julien Odoul کی بدلی ہوئی تصویر کی رپورٹ](https://www.aa.com.tr/fr/france/-voile-dans-lespace-public-un-d%C3%A9put%C3%A9-rn-modifie-par-ia-la-photo-d-une-femme-voil%C3%A9e-et-suscite-une-pol%C3%A9mique/4048785) — 6 ستمبر 2026؛ حقیقی شخص کی تصویر سے متعلق الگ واقعہ؛ رضامندی ثابت نہیں ہوئی۔