The Guardian je 1. oktobra izvestio da su ChatGPT i Grok uklonili hidžab sa AI-generisane slike žene kada je to zatraženo. Gemini je najpre odbio, a zatim napravio sliku bez hidžaba pošto je zahtev preformulisan tako da žena izgleda više „zapadnjački“. List je testirao i sintetičku sliku Sika sa turbanom: prema izveštaju, Gemini je odbio direktnu izmenu, ali je uklonio turban nakon iste preformulacije. To su zapažanja Guardiana, a ne testovi koje je sproveo BIG CHANGE.

Razlika između direktnog i preformulisanog zahteva važna je zato što je slika bila sintetička. Prema Guardianu, Gemini je prvo odbijanje obrazložio rizikom od promene izgleda stvarne osobe bez njenog pristanka. Taj razlog se nije odnosio na test-sliku. Zahtev za uklanjanje verskog pokrivala može da otvori pitanje prikazivanja osobe čak i kada nema stvarnog subjekta čiji se pristanak može proveriti.

Velika promena

  • Šta se promenilo:U testu koji je Guardian opisao, ChatGPT i Grok su uklonili hidžab na direktan zahtev. Gemini je odbio direktan zahtev, ali je uklonio hidžab i, na drugoj sintetičkoj slici, turban nakon zahteva da osoba izgleda „više zapadnjački“. Jedan test ne utvrđuje uobičajeno ponašanje.
  • Zašto je važno:Odbijanje koje se poziva na pristanak stvarne osobe pruža malo uveravanja nekome ko bira ili procenjuje alat za uređivanje slika da će on sačuvati versku odeću na sintetičkoj osobi kada se formulacija promeni. Dva zahteva upućena Geminiju otkrivaju taj praktični jaz.
  • Šta pratiti:Google navodi da Gemini može da ukloni slike kada sistemi otkriju moguće kršenje pravila. Važno je kako postojeća provera postupa sa direktnim i preformulisanim zahtevima o verskoj odeći sintetičke osobe. Googleova pomoć ne daje pojedinosti, a Guardian ne navodi verzije, potpune upite ni broj ponavljanja potrebnih za pouzdano poređenje.

Šta obuhvataju objavljena pravila

OpenAI pravila korišćenja, na snazi od 29. oktobra 2025, zabranjuju uznemiravanje, intimni sadržaj bez pristanka i određene upotrebe nečijeg lika bez pristanka. Njegovi uslovi korišćenja, ažurirani 29. septembra 2026, zasebno zahtevaju izričit pristanak i neophodna prava za reprodukovanje nečijeg lika pomoću vizuelnih mogućnosti. Guardian je koristio sintetički subjekt, pa ove odredbe o stvarnim osobama same po sebi ne razjašnjavaju da li je prijavljena izmena hidžaba prekršila OpenAI pravila.

Googleova politika zabranjene upotrebe generativne AI, poslednji put izmenjena 17. decembra 2024, ograničava intimne slike bez pristanka, povrede privatnosti, mržnju i uznemiravanje. Na Gemini stranici za pomoć upotreba nečije slike bez pristanka navodi se kao primer moguće povrede privatnosti. Googleova pomoć za uređivanje slika opisuje lokalno uređivanje i otpremanje, uz upozorenje da slike mogu biti uklonjene kada sistemi otkriju moguće kršenje pravila. Nijedna od tih stranica ne obećava da će svaka izmena verske odeće sintetičke osobe biti odbijena. Ni prijavljeni odgovor ne dokazuje da Googleova pisana pravila dozvoljavaju takvu izmenu u svakom kontekstu.

xAI politika prihvatljive upotrebe, na snazi od 14. avgusta 2026, između ostalog zabranjuje menjanje lika stvarne osobe radi prikazivanja u intimnom ili seksualnom kontekstu. Njena politika prijavljivanja intimnog sadržaja bez pristanka iz maja 2026. takođe se odnosi na prepoznatljive osobe u intimnom ili seksualnom kontekstu. Ta pravila obuhvataju drugačiju kategoriju od sintetičke slike sa hidžabom u testu Guardiana. Ona ne dokazuju da je prijavljeni Grokov rezultat bio usklađen sa pravilima niti da predstavlja druge zahteve.

Guardian je pitao i Claude, koji je rekao da ne može da izvrši izmenu slike i da bi odbio da ukloni hidžab stvarne žene. Anthropicova pomoć za proizvod od 16. marta 2026. navodi da Claude može da pregleda otpremljene slike, ali ne stvara fotografije ni ilustracije kao alat za generisanje slika. Zato se Claudov odgovor ne može računati kao uspešno odbijanje uređivanja slike uporedo sa izlazima drugih proizvoda.

Pravi fotografija podstakla je test

Guardian je naveo da je pokrenuo test nakon što je francuski političar Julien Odoul objavio izmenjenu fotografiju stvarne žene sa hidžabom. Anadolu Agency je 6. septembra izvestila da je Odoul podelio verziju na kojoj je žena bez pokrivala i u drugačijoj odeći. Agencija nije mogla da utvrdi da li je žena pristala. Guardian nije utvrdio koji je softver korišćen ni ko je napravio izmenu. Taj incident sa stvarnom osobom predstavlja kontekst novinskog testa; sintetički ulazi ne ponavljaju okolnosti fotografije.

Javni prikaz Guardiana ne navodi ceo niz upita, datoteke sa slikama, verzije modela, podešavanja naloga ni broj ponavljanja za svaki proizvod. To ograničava poređenje alata i onemogućava čitaocima da ponove vežbu kao merilo. U razgovorima koje je Guardian opisao, verska pokrivala mogla su da se uklone sa sintetičkih slika, a jedno odbijanje se promenilo nakon zahteva da osoba izgleda „zapadnjački“. Javna pravila pružalaca usluga prepoznaju relevantne štete, ali njihov tekst sam po sebi ne potvrđuje kako zaštitne mere funkcionišu.

Izvori i dodatno čitanje