Markdown आवृत्ती

AI-translated from English; not yet reviewed by a fluent editor.

# गार्डियनच्या चाचणीत AI प्रतिमा साधनांनी धार्मिक डोकेझाक काढल्याचे आढळले

> गार्डियनच्या वृत्तानुसार, AI प्रतिमा साधनांनी कृत्रिम व्यक्तींच्या धार्मिक डोकेझाक काढल्या. प्रकाशित सेवा-नियमांमध्ये अशा बदलांबाबत स्पष्टता नाही.

By BIG CHANGE Editorial

Published: 2026-10-01T11:59:01.661Z
Updated: 2026-10-01T11:59:01.661Z
Canonical: https://bigchange.ai/blog/ai-chatbots-religious-head-covering-image-edits

![Conceptual illustration of one anonymous woman in a hijab holding a plain smartphone with a blank screen.](https://bigchange.ai/api/media/file/religious-head-covering-image-edits-hero-v1.png)
AI-generated conceptual editorial illustration by BIG CHANGE.

[गार्डियनने १ ऑक्टोबर रोजी वृत्त दिले](https://www.theguardian.com/technology/2026/oct/01/ai-chatbots-hijabs-muslim-women) की मागणी केल्यावर ChatGPT आणि Grok यांनी AI-निर्मित महिलेच्या प्रतिमेतून हिजाब काढला. Gemini ने सुरुवातीला नकार दिला; पण महिला अधिक “पाश्चात्त्य” दिसावी अशी मागणी नव्या शब्दांत मांडल्यावर हिजाब नसलेली प्रतिमा तयार केली. वर्तमानपत्राने पगडी घातलेल्या शीख पुरुषाची कृत्रिम प्रतिमाही तपासली: वृत्तानुसार, Gemini ने थेट संपादनास नकार दिला, परंतु तीच मागणी नव्या शब्दांत मांडल्यानंतर पगडी काढली. ही गार्डियनची निरीक्षणे आहेत; BIG CHANGE ने केलेल्या चाचण्या नाहीत.

थेट आणि नव्या शब्दांत केलेल्या मागण्यांतील फरक महत्त्वाचा आहे, कारण प्रतिमा कृत्रिम होती. गार्डियननुसार, Gemini च्या पहिल्या नकारात संमतीशिवाय खऱ्या व्यक्तीचे रूप बदलण्याचा धोका नमूद केला होता. चाचणीतील प्रतिमेला हे कारण लागू नव्हते. संमती तपासता येईल अशी खरी व्यक्ती नसली, तरी धार्मिक डोकेझाक काढण्याची मागणी त्या व्यक्तीचे चित्रण कसे केले जाते हा प्रश्न उपस्थित करू शकते.

## मोठा बदल

- **काय बदलले:**गार्डियनने दिलेल्या चाचणीत थेट मागणीवर ChatGPT आणि Grok यांनी हिजाब काढला. Gemini ने थेट मागणी नाकारली, पण “अधिक पाश्चात्त्य” दिसण्याच्या मागणीनंतर हिजाब आणि दुसऱ्या कृत्रिम प्रतिमेतील पगडी काढली. एका चाचणीवरून नेहमीचे वर्तन ठरत नाही.
- **हे का महत्त्वाचे:** खऱ्या व्यक्तीच्या संमतीचा उल्लेख करून दिलेला नकार, शब्दरचना बदलल्यावर कृत्रिम व्यक्तीचे धार्मिक वस्त्र जपले जाईल याची प्रतिमा-संपादन साधन निवडणाऱ्या किंवा तपासणाऱ्या व्यक्तीला फारशी खात्री देत नाही. Gemini कडे केलेल्या दोन मागण्यांमधून हा व्यावहारिक फरक दिसतो.
- **कशावर लक्ष ठेवावे:** Google सांगते की संभाव्य धोरणभंग आढळल्यास Gemini प्रतिमा काढू शकते. कृत्रिम व्यक्तीच्या धार्मिक पोशाखाबद्दलच्या थेट आणि नव्या शब्दांत मांडलेल्या मागण्यांकडे ही विद्यमान तपासणी कशी पाहते, हा उत्पादनविषयक निर्णय आहे. Google च्या मदतपानावर तपशील नाहीत; विश्वासार्ह तुलना करण्यासाठी आवश्यक आवृत्त्या, पूर्ण सूचना आणि पुनरावृत्तींची संख्या गार्डियननेही दिलेली नाही.

## प्रकाशित नियमांमध्ये काय आहे

[OpenAI ची वापर धोरणे](https://openai.com/policies/usage-policies/), २९ ऑक्टोबर २०२५ पासून लागू, छळ, संमतीशिवायचे अंतरंग आशय आणि संमतीविना व्यक्तीच्या प्रतिमेचे काही उपयोग प्रतिबंधित करतात. त्याच्या [सेवा अटी](https://openai.com/policies/service-terms/), २९ सप्टेंबर २०२६ रोजी अद्ययावत केलेल्या, दृश्य क्षमतांमधून व्यक्तीची प्रतिमा पुनरुत्पादित करण्यासाठी स्वतंत्रपणे स्पष्ट संमती आणि आवश्यक हक्क मागतात. गार्डियनने कृत्रिम व्यक्ती वापरली होती; त्यामुळे खऱ्या व्यक्तींविषयीच्या या तरतुदींवरूनच वृत्तातील हिजाब-संपादनाने OpenAI चे नियम मोडले का हे ठरत नाही.

[Google चे जनरेटिव्ह AI निषिद्ध-वापर धोरण](https://policies.google.com/terms/generative-ai/use-policy), १७ डिसेंबर २०२४ रोजी शेवटचे बदललेले, संमतीशिवायची अंतरंग प्रतिमा, गोपनीयतेचे उल्लंघन, द्वेष आणि छळ यांवर निर्बंध घालते. त्याचे [Gemini मदतपान](https://support.google.com/gemini/answer/16625148) संभाव्य गोपनीयता-भंगाचे उदाहरण म्हणून संमतीविना कोणाची प्रतिमा वापरण्याचा उल्लेख करते. Google चे [प्रतिमा-संपादन मदतपान](https://support.google.com/gemini/answer/14286560) स्थानिक संपादन आणि अपलोडची माहिती देते; प्रणालींना संभाव्य धोरणभंग आढळल्यास प्रतिमा काढली जाऊ शकते असा इशाराही देते. यांपैकी कोणतेही पान कृत्रिम व्यक्तीच्या धार्मिक पोशाखातील प्रत्येक संपादन नाकारले जाईल अशी हमी देत नाही. तसेच, वृत्तातील प्रतिसादावरून Google चे लिखित धोरण प्रत्येक संदर्भात असे संपादन परवानगी देते असेही सिद्ध होत नाही.

[xAI चे स्वीकारार्ह वापर धोरण](https://x.ai/legal/acceptable-use-policy), १४ ऑगस्ट २०२६ पासून लागू, गोपनीयता आणि गैरवापरावरील इतर निर्बंधांसह खऱ्या व्यक्तीच्या प्रतिमेत बदल करून तिला अंतरंग किंवा लैंगिक संदर्भात दाखवण्यास मनाई करते. त्याचे [संमतीशिवायच्या अंतरंग आशयाबद्दलचे तक्रार धोरण](https://x.ai/legal/help-center/non-consensual-intimate-content), मे २०२६ मधील, अंतरंग किंवा लैंगिक संदर्भातील ओळखू येणाऱ्या व्यक्तींशी संबंधित आहे. हे नियम गार्डियनच्या कृत्रिम हिजाब-प्रतिमेहून वेगळ्या प्रकाराला लागू होतात. त्यामुळे Grok चे वृत्तातील आउटपुट नियमांनुसार होते किंवा इतर मागण्यांचे प्रतिनिधित्व करते हे सिद्ध होत नाही.

गार्डियनने Claude ला देखील विचारले. त्याने प्रतिमा-संपादन करता येत नसल्याचे सांगितले आणि खऱ्या महिलेचा हिजाब काढण्यास नकार दिला असता असे म्हटले. [Anthropic चे उत्पादन-मदतपान](https://support.claude.com/en/articles/9002504-can-claude-produce-images), १६ मार्च २०२६ रोजीचे, Claude अपलोड केलेल्या प्रतिमा तपासू शकते पण प्रतिमा-निर्मिती साधनाप्रमाणे फोटो किंवा चित्रे तयार करत नाही असे सांगते. त्यामुळे इतर उत्पादनांच्या आउटपुटबरोबर Claude चे उत्तर यशस्वी प्रतिमा-संपादन नकार म्हणून मोजता येत नाही.

## एका खऱ्या छायाचित्रामुळे चाचणी झाली

फ्रेंच राजकारणी Julien Odoul यांनी हिजाब घातलेल्या खऱ्या महिलेचे बदललेले छायाचित्र पोस्ट केल्यानंतर चाचणी घेतल्याचे गार्डियनने सांगितले. [Anadolu Agency ने ६ सप्टेंबर रोजी वृत्त दिले](https://www.aa.com.tr/fr/france/-voile-dans-lespace-public-un-d%C3%A9put%C3%A9-rn-modifie-par-ia-la-photo-d-une-femme-voil%C3%A9e-et-suscite-une-pol%C3%A9mique/4048785) की Odoul यांनी महिलेचा डोकेझाक नसलेला आणि वेगळ्या कपड्यांतील अवतार दाखवणारी प्रतिमा शेअर केली. महिलेची संमती होती का हे एजन्सीला ठरवता आले नाही. कोणते सॉफ्टवेअर वापरले किंवा संपादन कोणी केले हे गार्डियनला ठरवता आले नाही. खऱ्या व्यक्तीची ही घटना वर्तमानपत्राच्या चाचणीची पार्श्वभूमी आहे; चाचणीतील कृत्रिम प्रतिमा त्या छायाचित्राची परिस्थिती पुन्हा निर्माण करत नाहीत.

गार्डियनच्या सार्वजनिक वृत्तात प्रत्येक उत्पादनासाठी संपूर्ण सूचनाक्रम, प्रतिमा-फायली, मॉडेल आवृत्त्या, खाते-सेटिंग्ज किंवा पुनरावृत्तींची संख्या दिलेली नाही. त्यामुळे साधनांची तुलना मर्यादित होते आणि हा प्रयोग बेंचमार्क म्हणून पुन्हा करणे वाचकांना शक्य होत नाही. गार्डियनने वर्णन केलेल्या संवादांत कृत्रिम प्रतिमांमधील धार्मिक डोकेझाक काढता आली; आणि व्यक्ती “पाश्चात्त्य” दिसावी अशी मागणी केल्यानंतर एक नकार बदलला. सेवा-पुरवठादारांचे सार्वजनिक नियम संबंधित हानी ओळखतात. केवळ नियमांच्या शब्दांवरून संरक्षणे प्रत्यक्षात कशी काम करतात हे पडताळता येत नाही.

## स्रोत आणि पुढील वाचन

- [गार्डियनची १ ऑक्टोबरची चाचणी](https://www.theguardian.com/technology/2026/oct/01/ai-chatbots-hijabs-muslim-women) चॅटबॉट प्रतिसादांचा एकमेव स्रोत आहे. BIG CHANGE ने ती पुन्हा करून पाहिली नाही; बेंचमार्कसाठी आवश्यक संरचना आणि सूचनांचे तपशील लेखात नाहीत.
- [OpenAI वापर धोरणे](https://openai.com/policies/usage-policies/) आणि [सेवा अटी](https://openai.com/policies/service-terms/) छळ, अंतरंग आशय आणि व्यक्तीच्या प्रतिमेबद्दलचे सध्याचे नियम सांगतात. त्या गार्डियनचे आउटपुट पडताळत नाहीत किंवा या कृत्रिम प्रकरणाचा निकाल देत नाहीत.
- [Google चे निषिद्ध-वापर धोरण](https://policies.google.com/terms/generative-ai/use-policy), [Gemini अंमलबजावणी मदत](https://support.google.com/gemini/answer/16625148) आणि [प्रतिमा-संपादन मदत](https://support.google.com/gemini/answer/14286560) धोरणाची व्याप्ती आणि दस्तऐवजीकृत संपादन क्षमता स्पष्ट करतात; अंमलबजावणीतील सातत्य नव्हे.
- [xAI चे स्वीकारार्ह वापर धोरण](https://x.ai/legal/acceptable-use-policy) आणि [अंतरंग आशय तक्रार धोरण](https://x.ai/legal/help-center/non-consensual-intimate-content) खऱ्या व्यक्तींच्या गोपनीयतेबद्दल आणि लैंगिक संदर्भांतील निर्बंध मांडतात. ती Grok च्या वर्तनाचे मूल्यमापन नाही.
- [Anthropic चे Claude प्रतिमा-क्षमता मदतपान](https://support.claude.com/en/articles/9002504-can-claude-produce-images) या तुलनेत Claude समतुल्य प्रतिमा-संपादक का नव्हता हे स्पष्ट करते.
- [Anadolu Agency चा ६ सप्टेंबरचा अहवाल](https://www.aa.com.tr/fr/france/-voile-dans-lespace-public-un-d%C3%A9put%C3%A9-rn-modifie-par-ia-la-photo-d-une-femme-voil%C3%A9e-et-suscite-une-pol%C3%A9mique/4048785) फ्रान्समधील स्वतंत्र छायाचित्र-प्रकरणाचे वर्णन करतो आणि महिलेची संमती पडताळलेली नव्हती असे सांगतो.

## Sources

- [गार्डियन: सांगितल्यावर AI चॅटबॉट्स मुस्लिम महिलांच्या प्रतिमांमधून हिजाब काढतात](https://www.theguardian.com/technology/2026/oct/01/ai-chatbots-hijabs-muslim-women) — चॅटबॉटच्या आउटपुटचा एकमेव पुरावा. कृत्रिम प्रतिमा वापरल्या; BIG CHANGE ने चाचण्या पुन्हा केल्या नाहीत. पूर्ण सूचना, फायली, आवृत्त्या, खाती, सेटिंग्ज आणि पुनरावृत्तींची संख्या उपलब्ध नाही.
- [OpenAI वापर धोरणे](https://openai.com/policies/usage-policies/) — २९ ऑक्टोबर २०२५ पासून लागू. प्रकाशित वापर-नियम; अंमलबजावणीचा पुरावा नाही.
- [OpenAI सेवा अटी](https://openai.com/policies/service-terms/) — २९ सप्टेंबर २०२६ रोजी अद्ययावत; कलम ६ मध्ये दृश्य क्षमता आणि प्रतिमेसाठी संमती समाविष्ट आहे.
- [Google जनरेटिव्ह AI निषिद्ध-वापर धोरण](https://policies.google.com/terms/generative-ai/use-policy) — १७ डिसेंबर २०२४ रोजी शेवटचे बदलले; धोरणाची व्याप्ती, Gemini अंमलबजावणीचा विशिष्ट पुरावा नाही.
- [Google Gemini धोरण-अंमलबजावणी मदत](https://support.google.com/gemini/answer/16625148) — १ ऑक्टोबर २०२६ रोजी तपासलेले, दिनांक नसलेले सध्याचे मदतपान; गोपनीयता/संमतीचे उदाहरण.
- [Google Gemini प्रतिमा-संपादन मदत](https://support.google.com/gemini/answer/14286560) — १ ऑक्टोबर २०२६ रोजी तपासलेले, दिनांक नसलेले सध्याचे मदतपान; संपादन आणि संभाव्य प्रतिमा-काढण्याचे वर्णन. गार्डियनची आवृत्ती अज्ञात.
- [SpaceXAI स्वीकारार्ह वापर धोरण](https://x.ai/legal/acceptable-use-policy) — १४ ऑगस्ट २०२६ पासून लागू; खऱ्या व्यक्तीची प्रतिमा आणि गैरवापरावरील निर्बंध.
- [SpaceXAI संमतीशिवायच्या अंतरंग आशयाबद्दल तक्रार](https://x.ai/legal/help-center/non-consensual-intimate-content) — मे २०२६; अंतरंग किंवा लैंगिक संदर्भातील ओळखता येणाऱ्या व्यक्ती.
- [Anthropic: Claude प्रतिमा तयार करू शकते का?](https://support.claude.com/en/articles/9002504-can-claude-produce-images) — १६ मार्च २०२६; Claude कडे समतुल्य फोटो/चित्रनिर्मिती क्षमता नाही.
- [Anadolu Agency: Julien Odoul बदललेल्या छायाचित्राचा अहवाल](https://www.aa.com.tr/fr/france/-voile-dans-lespace-public-un-d%C3%A9put%C3%A9-rn-modifie-par-ia-la-photo-d-une-femme-voil%C3%A9e-et-suscite-une-pol%C3%A9mique/4048785) — ६ सप्टेंबर २०२६; खऱ्या व्यक्तीच्या छायाचित्राची स्वतंत्र घटना; संमती स्थापित नाही.