అక్టోబర్ 1న గార్డియన్ నివేదించింది అడిగినప్పుడు ChatGPT, Grok AI రూపొందించిన మహిళా చిత్రం నుంచి హిజాబ్‌ను తొలగించాయని. Gemini మొదట నిరాకరించింది; అయితే మహిళ మరింత “పాశ్చాత్యంగా” కనిపించేలా అభ్యర్థనను మార్చి అడిగినప్పుడు హిజాబ్ లేని చిత్రాన్ని రూపొందించింది. తలపాగా ధరించిన సిక్కు పురుషుడి సింథటిక్ చిత్రాన్నీ పత్రిక పరీక్షించింది: నివేదిక ప్రకారం Gemini నేరుగా చేసిన సవరణను నిరాకరించి, అదే విధంగా మార్చి అడిగిన తర్వాత తలపాగాను తొలగించింది. ఇవి గార్డియన్ గమనించిన విషయాలు; BIG CHANGE నిర్వహించిన పరీక్షలు కావు.

నేరుగా అడిగిన అభ్యర్థనకూ, మార్చి అడిగిన అభ్యర్థనకూ మధ్య తేడా ముఖ్యం; ఎందుకంటే చిత్రం సింథటిక్. గార్డియన్ ప్రకారం, Gemini మొదట నిరాకరించినప్పుడు నిజమైన వ్యక్తి రూపాన్ని అనుమతి లేకుండా మార్చడంలో ప్రమాదం ఉందని తెలిపింది. పరీక్షలోని చిత్రానికి ఆ కారణం వర్తించదు. అనుమతిని నిర్ధారించగల నిజమైన వ్యక్తి లేకపోయినా, మతపరమైన కప్పును తొలగించమనే అభ్యర్థన ఆ వ్యక్తిని ఎలా చూపిస్తున్నామనే ప్రశ్నను లేవనెత్తవచ్చు.

పెద్ద మార్పు

  • ఏం మారింది:గార్డియన్ నివేదించిన పరీక్షలో, నేరుగా కోరినప్పుడు ChatGPT, Grok హిజాబ్‌ను తొలగించాయి. Gemini నేరుగా అడిగినదాన్ని నిరాకరించింది; కానీ “మరింత పాశ్చాత్యంగా” కనిపించమనే అభ్యర్థన తర్వాత హిజాబ్‌తో పాటు మరో సింథటిక్ చిత్రంలోని తలపాగానూ తొలగించింది. ఒక పరీక్షతో సాధారణ ప్రవర్తనను నిర్ధారించలేం.
  • ఇది ఎందుకు ముఖ్యం: నిజమైన వ్యక్తి అనుమతిని చూపుతూ ఇచ్చిన నిరాకరణ, మాటతీరు మారినప్పుడు సింథటిక్ వ్యక్తిపై మతపరమైన దుస్తులను చిత్రం-సవరణ సాధనం అలాగే ఉంచుతుందని ఎంచుకునే లేదా అంచనా వేసే వ్యక్తికి పెద్దగా భరోసా ఇవ్వదు. Geminiకి చేసిన రెండు అభ్యర్థనలు ఆ ఆచరణాత్మక లోటును చూపిస్తున్నాయి.
  • ఏమి గమనించాలి:సంభావ్య విధాన ఉల్లంఘనను వ్యవస్థలు గుర్తిస్తే Gemini చిత్రాన్ని తొలగించవచ్చని Google చెబుతోంది. సింథటిక్ వ్యక్తి మతపరమైన దుస్తులపై నేరుగా లేదా మార్చి చేసిన అభ్యర్థనలను ఈ ప్రస్తుత తనిఖీ ఎలా చూస్తుందనేది ఉత్పత్తి-స్థాయి నిర్ణయం. Google సహాయ పేజీ దీనిపై వివరించదు; నమ్మదగిన పోలికకు అవసరమైన సంచికలు, పూర్తి ప్రాంప్ట్‌లు, పునరావృతాల సంఖ్యను గార్డియన్ కూడా ఇవ్వలేదు.

ప్రచురిత నియమాలు దేనిని కవర్ చేస్తాయి

OpenAI వినియోగ విధానాలు, 2025 అక్టోబర్ 29 నుంచి అమల్లోకి వచ్చాయి; వేధింపు, అనుమతి లేని సన్నిహిత కంటెంట్, అనుమతి లేకుండా వ్యక్తి పోలికను ఉపయోగించే కొన్ని సందర్భాలను నిషేధిస్తాయి. దాని సేవా నిబంధనలు, 2026 సెప్టెంబర్ 29న నవీకరించబడినవి, దృశ్య సామర్థ్యాలతో వ్యక్తి పోలికను పునరుత్పత్తి చేయడానికి ప్రత్యేకంగా స్పష్టమైన అనుమతి, అవసరమైన హక్కులు ఉండాలని కోరుతాయి. గార్డియన్ సింథటిక్ వ్యక్తిని ఉపయోగించింది; కాబట్టి నిజమైన వ్యక్తులపై ఉన్న ఈ నియమాలే నివేదించిన హిజాబ్ మార్పు OpenAI నియమాలను ఉల్లంఘించిందో లేదో తేల్చవు.

Google జనరేటివ్ AI నిషేధిత వినియోగ విధానం, చివరిగా 2024 డిసెంబర్ 17న మార్చబడింది; అనుమతి లేని సన్నిహిత చిత్రాలు, గోప్యతా ఉల్లంఘనలు, ద్వేషం, వేధింపులపై పరిమితులు విధిస్తుంది. దాని Gemini సహాయ పేజీ అనుమతి లేకుండా ఎవరి చిత్రమైనా ఉపయోగించడాన్ని సంభావ్య గోప్యతా ఉల్లంఘన ఉదాహరణగా చూపుతుంది. Google చిత్ర సవరణ సహాయం పరికరంలో చేసే సవరణలు, అప్‌లోడ్‌ల గురించి వివరిస్తూ, సంభావ్య విధాన ఉల్లంఘనను వ్యవస్థలు గుర్తిస్తే చిత్రాలు తొలగించబడవచ్చని హెచ్చరిస్తుంది. సింథటిక్ వ్యక్తి మతపరమైన దుస్తులపై చేసే ప్రతి సవరణనూ నిరాకరిస్తామని ఆ పేజీల్లో ఏదీ హామీ ఇవ్వదు. అలాగే, నివేదించిన స్పందన ఆధారంగా Google రాసిన విధానం ప్రతి సందర్భంలో అలాంటి సవరణను అనుమతిస్తుందని కూడా నిరూపించలేం.

xAI ఆమోదయోగ్య వినియోగ విధానం, 2026 ఆగస్టు 14 నుంచి అమల్లోకి వచ్చింది; ఇతర గోప్యత, దుర్వినియోగ పరిమితులతో పాటు నిజమైన వ్యక్తి పోలికను మార్చి వారిని సన్నిహిత లేదా లైంగిక సందర్భంలో చూపడాన్ని నిషేధిస్తుంది. దాని అనుమతి లేని సన్నిహిత కంటెంట్ నివేదింపు విధానం, 2026 మే నెలది, సన్నిహిత లేదా లైంగిక సందర్భాల్లో గుర్తించగల వ్యక్తులకు సంబంధించినది. ఈ నియమాలు గార్డియన్ సింథటిక్ హిజాబ్ చిత్రానికి భిన్నమైన వర్గాన్ని ఉద్దేశించాయి. Grok ఇచ్చినట్లు నివేదించిన ఫలితం నియమాలకు అనుగుణమని లేదా ఇతర అభ్యర్థనలకు ప్రాతినిధ్యం వహిస్తుందని అవి నిరూపించవు.

చిత్ర సవరణ చేయలేనని Claude చెప్పిందనీ, నిజమైన మహిళ హిజాబ్‌ను తొలగించడానికి నిరాకరించేదనీ గార్డియన్ అడిగి తెలుసుకుంది. Anthropic ఉత్పత్తి సహాయం, 2026 మార్చి 16 తేదీతో, Claude అప్‌లోడ్ చేసిన చిత్రాలను పరిశీలించగలదని, కానీ చిత్రాల తయారీ సాధనం లాగా ఫోటోలు లేదా చిత్రలేఖనాలు రూపొందించదని చెబుతుంది. అందువల్ల ఇతర ఉత్పత్తుల ఫలితాలతో పాటు Claude సమాధానాన్ని విజయవంతమైన చిత్రం-సవరణ నిరాకరణగా లెక్కించలేం.

నిజమైన ఫోటో పరీక్షకు దారితీసింది

హిజాబ్ ధరించిన నిజమైన మహిళ ఫోటోను ఫ్రెంచ్ రాజకీయ నాయకుడు Julien Odoul మార్చి పోస్ట్ చేసిన తర్వాత పరీక్ష నిర్వహించామని గార్డియన్ తెలిపింది. సెప్టెంబర్ 6న Anadolu Agency నివేదించింది Odoul ఆమె తలకప్పు లేకుండా, వేరే దుస్తుల్లో కనిపించే రూపాన్ని పంచుకున్నారని. ఆ మహిళ అనుమతి ఇచ్చిందో లేదో ఏజెన్సీ నిర్ధారించలేకపోయింది. ఏ సాఫ్ట్‌వేర్ వాడారో లేదా మార్పు ఎవరు చేశారో గార్డియన్ కనుగొనలేకపోయింది. నిజమైన వ్యక్తికి సంబంధించిన ఆ ఘటన పత్రిక పరీక్షకు నేపథ్యం మాత్రమే; పరీక్షలోని సింథటిక్ చిత్రాలు ఆ ఫోటో పరిస్థితులను పునరావృతం చేయవు.

ప్రతి ఉత్పత్తికి సంబంధించిన పూర్తి ప్రాంప్ట్ క్రమం, చిత్ర ఫైళ్లు, మోడల్ సంచికలు, ఖాతా సెట్టింగ్‌లు లేదా పునరావృతాల సంఖ్యను గార్డియన్ బహిరంగ కథనం ఇవ్వలేదు. ఇది సాధనాల మధ్య పోలికను పరిమితం చేస్తుంది; పాఠకులు ఆ ప్రయోగాన్ని బెంచ్‌మార్క్‌లా మళ్లీ చేయకుండా అడ్డుకుంటుంది. గార్డియన్ వివరించిన సంభాషణల్లో సింథటిక్ చిత్రాల నుంచి మతపరమైన కప్పులను తొలగించగలిగారు; వ్యక్తి “పాశ్చాత్యంగా” కనిపించాలని కోరిన తర్వాత ఒక నిరాకరణ మారింది. సేవాదాతల బహిరంగ నియమాలు సంబంధిత హానులను గుర్తిస్తాయి. వాటి మాటలతోనే రక్షణలు ఎలా పనిచేస్తున్నాయో నిర్ధారించలేం.

మూలాలు, మరింత చదవడానికి