The Guardian je 1. oktobra izvestio da su ChatGPT i Grok uklonili hidžab sa AI-generisane slike žene nakon što je to zatraženo. Gemini je prvo odbio, a zatim generisao sliku bez hidžaba kada je zahtev preformulisan tako da žena izgleda više „zapadnjački“. List je testirao i sintetičku sliku Sika sa turbanom: prema izveštaju, Gemini je odbio direktnu izmenu, ali je uklonio turban nakon iste preformulacije. To su zapažanja The Guardiana, a ne testovi koje je sproveo BIG CHANGE.

Razlika između direktnog i preformulisanog zahteva je važna jer je slika bila sintetička. Prema pisanju The Guardiana, Gemini je prvo odbijanje obrazložio rizikom od menjanja izgleda stvarne osobe bez njenog pristanka. Taj razlog nije opisivao testnu sliku. Zahtev za uklanjanje verskog pokrivala može otvoriti pitanje načina prikazivanja osobe i kada ne postoji stvarni subjekt čiji se pristanak može proveriti.

Glavna promena

  • Šta se promenilo:U testu koji je opisao The Guardian, ChatGPT i Grok su na direktan zahtev uklonili hidžab. Gemini je odbio direktan zahtev, ali je uklonio hidžab i, na drugoj sintetičkoj slici, turban nakon zahteva da osoba izgleda „više zapadnjački“. Jedan test ne dokazuje uobičajeno ponašanje.
  • Zašto je važno:Odbijanje zasnovano na pristanku stvarne osobe ne pruža mnogo sigurnosti nekome ko bira ili procenjuje alat za uređivanje slika da će alat sačuvati versku odeću na sintetičkoj osobi kada se formulacija promeni. Dva zahteva upućena Geminiju otkrivaju taj praktični nedostatak.
  • Šta treba pratiti:Google navodi da Gemini može ukloniti slike kada njegovi sistemi otkriju moguće kršenje pravila. Važno je kako ta postojeća provera tretira direktne i preformulisane zahteve u vezi sa verskom odećom sintetičke osobe. Google-ova pomoć to ne precizira, a The Guardian ne objavljuje verzije, potpune upite ni broj ponavljanja potrebne za pouzdano poređenje.

Šta obuhvataju objavljena pravila

OpenAI-jeva pravila korišćenja, koja važe od 29. oktobra 2025, zabranjuju uznemiravanje, intimni sadržaj bez pristanka i određene načine korišćenja nečijeg lika bez pristanka. Njegoviuslovi korišćenja usluge, ažurirani 29. septembra 2026, zasebno zahtevaju izričit pristanak i neophodna prava za reprodukovanje nečijeg lika pomoću vizuelnih mogućnosti. The Guardian je koristio sintetički lik, pa odredbe o stvarnim osobama same po sebi ne razjašnjavaju da li je prijavljena izmena hidžaba prekršila OpenAI-jeva pravila.

Google-ova politika zabranjene upotrebe generativne AI, poslednji put izmenjena 17. decembra 2024, ograničava intimne slike bez pristanka, povrede privatnosti, mržnju i uznemiravanje. NjenaGemini stranica za pomoć navodi korišćenje nečije slike bez pristanka kao primer moguće povrede privatnosti. Google-ovapomoć za uređivanje slika opisuje lokalne izmene i otpremanje, uz upozorenje da slike mogu biti uklonjene kada sistemi otkriju moguće kršenje pravila. Nijedna od tih stranica ne obećava da će svaka izmena verske odeće sintetičke osobe biti odbijena. Prijavljeni odgovor takođe ne dokazuje da Google-ova pisana pravila dozvoljavaju takvu izmenu u svakom kontekstu.

xAI-jeva politika prihvatljive upotrebe, koja važi od 14. avgusta 2026, zabranjuje izmenu lika stvarne osobe kako bi se prikazala u intimnom ili seksualnom kontekstu, uz druga ograničenja privatnosti i zloupotrebe. Njenapolitika prijavljivanja intimnog sadržaja bez pristanka, datirana u maju 2026, takođe se odnosi na prepoznatljive osobe u intimnom ili seksualnom kontekstu. Ta pravila uređuju drugu kategoriju od sintetičke slike hidžaba u The Guardianu. Ne utvrđuju da je prijavljeni Grokov izlaz bio usklađen s pravilima niti da predstavlja odgovore na druge zahteve.

The Guardian je pitao i Claude, koji je rekao da ne može da izvrši izmenu slike i da bi odbio uklanjanje hidžaba stvarne žene. Anthropic-ova pomoć za proizvod, datirana 16. marta 2026, navodi da Claude može da pregleda otpremljene slike, ali ne stvara fotografije ili ilustracije poput alata za generisanje slika. Zato se Claude-ov odgovor ne može računati kao uspešno odbijanje uređivanja slike uporedivo sa izlazima drugih proizvoda.

Test je pokrenula stvarna fotografija

The Guardian navodi da je test sproveo pošto je francuski političar Julien Odoul objavio izmenjenu fotografiju stvarne žene sa hidžabom. Anadolu Agency je izvestio 6. septembra da je Odoul podelio verziju na kojoj je žena bez pokrivala i u drugačijoj odeći. Agencija nije mogla da utvrdi da li je žena dala pristanak. The Guardian nije utvrdio koji je softver korišćen niti ko je napravio izmenu. Taj incident sa stvarnom osobom daje kontekst testu lista; njegovi sintetički unosi ne rekonstruišu okolnosti fotografije.

Javni prikaz The Guardiana ne navodi ceo niz upita, datoteke slika, verzije modela, podešavanja naloga ni broj ponavljanja za svaki proizvod. To ograničava poređenje alata i sprečava čitaoce da ponove vežbu kao referentni test. U razmenama koje je The Guardian opisao, verska pokrivala mogla su biti uklonjena sa sintetičkih slika, a jedno odbijanje se promenilo nakon zahteva da osoba izgleda „zapadnjački“. Javna pravila pružalaca usluga prepoznaju relevantnu štetu, ali njihov tekst ne može da potvrdi kako zaštita funkcioniše.

Izvori i dodatno čitanje