1 अक्टूबर को द गार्जियन ने बताया कि कहने पर ChatGPT और Grok ने AI से बनी एक महिला की छवि से हिजाब हटा दिया। Gemini ने पहले मना किया, फिर अनुरोध को इस तरह बदलने पर बिना हिजाब वाली छवि बनाई कि महिला अधिक “पश्चिमी” दिखे। अख़बार ने पगड़ी पहने एक सिख पुरुष की काल्पनिक छवि भी जाँची: उसकी रिपोर्ट के अनुसार Gemini ने सीधे संपादन से मना किया, पर उसी तरह बदले गए अनुरोध पर पगड़ी हटा दी। ये द गार्जियन के अवलोकन हैं, BIG CHANGE के परीक्षण नहीं।

सीधे और बदले हुए अनुरोधों का अंतर अहम है क्योंकि छवि काल्पनिक थी। द गार्जियन के अनुसार Gemini ने पहली बार मना करते हुए बिना सहमति किसी वास्तविक व्यक्ति का रूप बदलने के जोखिम का हवाला दिया। यह कारण परीक्षण वाली छवि पर लागू नहीं होता था। धार्मिक सिर-ढकन हटाने का अनुरोध इस सवाल को उठा सकता है कि व्यक्ति को किस तरह दिखाया जा रहा है, भले ही सहमति जाँचने के लिए कोई वास्तविक व्यक्ति मौजूद न हो।

बड़ा बदलाव

  • क्या बदला:द गार्जियन की बताई जाँच में सीधे कहने पर ChatGPT और Grok ने हिजाब हटा दिया। Gemini ने सीधे अनुरोध को ठुकराया, लेकिन “और पश्चिमी” दिखाने के अनुरोध पर हिजाब और दूसरी काल्पनिक छवि में पगड़ी हटा दी। एक परीक्षण से सामान्य व्यवहार साबित नहीं होता।
  • यह क्यों मायने रखता है:वास्तविक व्यक्ति की सहमति का हवाला देकर दिया गया इनकार, छवि संपादन उपकरण चुनने या परखने वाले व्यक्ति को यह भरोसा कम देता है कि शब्द बदलने पर वह काल्पनिक व्यक्ति के धार्मिक कपड़े बनाए रखेगा। Gemini से किए गए दोनों अनुरोध इस व्यावहारिक कमी को दिखाते हैं।
  • क्या देखना है:Google कहता है कि उसके सिस्टम संभावित नीति उल्लंघन पहचानें तो Gemini छवियाँ हटा सकता है। ध्यान देने योग्य उत्पाद निर्णय यह है कि मौजूदा जाँच काल्पनिक व्यक्ति के धार्मिक पहनावे से जुड़े सीधे और बदले हुए अनुरोधों को कैसे संभालती है। Google की सहायता सामग्री यह नहीं बताती; विश्वसनीय तुलना के लिए ज़रूरी संस्करण, पूरे प्रॉम्प्ट और दोहराव की संख्या भी द गार्जियन ने नहीं दी।

प्रकाशित नियमों का दायरा

OpenAI की उपयोग नीतियाँ, जो 29 अक्टूबर 2025 से लागू हैं, उत्पीड़न, बिना सहमति की अंतरंग सामग्री और बिना अनुमति किसी व्यक्ति की समानता के कुछ उपयोगों पर रोक लगाती हैं। 29 सितंबर 2026 को अद्यतन उसकी सेवा की शर्तें दृश्य सुविधाओं से किसी की समानता दोहराने के लिए अलग से स्पष्ट सहमति और आवश्यक अधिकार माँगती हैं। द गार्जियन ने काल्पनिक व्यक्ति का उपयोग किया था, इसलिए वास्तविक लोगों से जुड़ी ये शर्तें अकेले यह तय नहीं करतीं कि रिपोर्ट किया गया हिजाब संपादन OpenAI के नियमों का उल्लंघन था या नहीं।

Google की जनरेटिव AI निषिद्ध-उपयोग नीति, आखिरी बार 17 दिसंबर 2024 को बदली गई, बिना सहमति की अंतरंग छवियों, निजता के उल्लंघन, नफ़रत और उत्पीड़न पर पाबंदी लगाती है। Gemini सहायता पृष्ठ बिना सहमति किसी की छवि के उपयोग को संभावित निजता उल्लंघन का उदाहरण बताता है। Google की छवि-संपादन सहायता स्थानीय संपादन और अपलोड बताती है तथा चेतावनी देती है कि संभावित नीति उल्लंघन मिलने पर सिस्टम छवियाँ हटा सकते हैं। इनमें से कोई पृष्ठ यह वादा नहीं करता कि काल्पनिक व्यक्ति के धार्मिक कपड़ों में हर बदलाव अस्वीकार होगा। रिपोर्ट किया गया जवाब यह भी साबित नहीं करता कि Google की लिखित नीति हर संदर्भ में ऐसे संपादन की अनुमति देती है।

xAI की स्वीकार्य-उपयोग नीति, जो 14 अगस्त 2026 से लागू है, अन्य निजता और दुरुपयोग संबंधी पाबंदियों के साथ वास्तविक व्यक्ति की समानता बदलकर उसे अंतरंग या यौन संदर्भ में दिखाने पर रोक लगाती है। मई 2026 की उसकी बिना सहमति की अंतरंग सामग्री रिपोर्ट करने की नीति भी अंतरंग या यौन संदर्भ में पहचाने जा सकने वाले लोगों से जुड़ी है। ये नियम द गार्जियन की काल्पनिक हिजाब छवि से अलग श्रेणी को कवर करते हैं। वे यह साबित नहीं करते कि Grok का बताया गया आउटपुट नियमों के अनुरूप था या दूसरे अनुरोधों का प्रतिनिधि था।

द गार्जियन ने Claude से भी पूछा। उसने कहा कि वह छवि संपादित नहीं कर सकता और किसी वास्तविक महिला का हिजाब हटाने से इनकार करेगा। Anthropic की उत्पाद सहायता, 16 मार्च 2026 की, कहती है कि Claude अपलोड की गई छवियाँ देख सकता है, लेकिन छवि-निर्माण उपकरण की तरह तस्वीरें या चित्र नहीं बनाता। इसलिए Claude के उत्तर को दूसरे उत्पादों के परिणामों के साथ सफल छवि-संपादन इनकार नहीं गिना जा सकता।

एक वास्तविक तस्वीर से जाँच शुरू हुई

द गार्जियन ने कहा कि उसने यह जाँच फ्रांसीसी राजनेता Julien Odoul द्वारा हिजाब पहनी वास्तविक महिला की बदली हुई तस्वीर पोस्ट किए जाने के बाद की। Anadolu Agency ने 6 सितंबर को बताया कि Odoul ने ऐसा संस्करण साझा किया जिसमें महिला सिर ढके बिना और अलग कपड़ों में दिख रही थी। एजेंसी यह पता नहीं लगा सकी कि महिला ने सहमति दी थी या नहीं। द गार्जियन यह भी स्थापित नहीं कर सका कि कौन-सा सॉफ़्टवेयर इस्तेमाल हुआ या संपादन किसने किया। वास्तविक व्यक्ति वाली वह घटना अख़बार की जाँच का संदर्भ है; काल्पनिक इनपुट उस तस्वीर की परिस्थितियों को दोहराते नहीं हैं।

द गार्जियन की सार्वजनिक रिपोर्ट में हर उत्पाद के पूरे प्रॉम्प्ट क्रम, छवि फ़ाइलें, मॉडल संस्करण, खाते की सेटिंग या दोहराव की संख्या नहीं है। इससे उपकरणों की तुलना सीमित होती है और पाठक प्रयोग को मानक परीक्षण की तरह दोहरा नहीं सकते। द गार्जियन के बताए संवादों में काल्पनिक छवियों से धार्मिक सिर-ढकन हटाई जा सकीं और व्यक्ति को “पश्चिमी” दिखाने के अनुरोध के बाद एक इनकार बदल गया। प्रदाताओं के सार्वजनिक नियम संबंधित नुकसानों की पहचान करते हैं। केवल नियमों की भाषा से सुरक्षा उपायों का प्रदर्शन सत्यापित नहीं होता।

स्रोत और आगे पढ़ें