The Guardian melaporkan pada 1 Oktober bahwa ChatGPT dan Grok menghapus hijab dari gambar perempuan yang dibuat AI setelah diminta. Gemini awalnya menolak, lalu membuat gambar tanpa hijab setelah permintaan diubah agar perempuan itu tampak lebih “Barat”. Surat kabar itu juga menguji gambar sintetis seorang pria Sikh berturban: menurut laporannya, Gemini menolak penyuntingan langsung, tetapi menghapus turban setelah permintaan diubah dengan cara yang sama. Ini adalah pengamatan The Guardian, bukan pengujian oleh BIG CHANGE.

Perbedaan antara permintaan langsung dan yang dirumuskan ulang penting karena gambarnya sintetis. Menurut The Guardian, penolakan pertama Gemini menyebut risiko mengubah penampilan orang sungguhan tanpa persetujuan. Alasan itu tidak menggambarkan gambar uji tersebut. Permintaan menghapus penutup keagamaan dapat memunculkan pertanyaan tentang penggambaran seseorang, sekalipun tidak ada subjek nyata yang persetujuannya dapat diperiksa.

Perubahan besar

  • Apa yang berubah:Dalam pengujian yang dilaporkan The Guardian, ChatGPT dan Grok menghapus hijab setelah diminta secara langsung. Gemini menolak permintaan langsung, tetapi menghapus hijab dan, pada gambar sintetis lain, turban setelah diminta agar sosoknya tampak “lebih Barat”. Satu pengujian tidak membuktikan perilaku rutin.
  • Mengapa ini penting: Penolakan yang merujuk pada persetujuan orang sungguhan tidak banyak memberi kepastian kepada orang yang memilih atau menilai penyunting gambar bahwa pakaian keagamaan pada sosok sintetis akan dipertahankan ketika kata-kata permintaannya berubah. Dua permintaan kepada Gemini memperlihatkan kesenjangan praktis itu.
  • Yang perlu dicermati:Google menyatakan Gemini dapat menghapus gambar ketika sistem mendeteksi kemungkinan pelanggaran kebijakan. Keputusan produk yang perlu diperhatikan adalah bagaimana pemeriksaan yang ada menangani permintaan langsung dan yang dirumuskan ulang tentang pakaian keagamaan sosok sintetis. Pusat bantuan Google tidak menjelaskannya, dan The Guardian tidak menyertakan versi, prompt lengkap, serta jumlah pengulangan yang diperlukan untuk perbandingan andal.

Cakupan aturan yang dipublikasikan

Kebijakan penggunaan OpenAI, berlaku sejak 29 Oktober 2025, melarang pelecehan, konten intim tanpa persetujuan, dan sejumlah penggunaan kemiripan seseorang tanpa izin. Ketentuan layanannya, diperbarui 29 September 2026, secara terpisah mewajibkan persetujuan tegas dan hak yang diperlukan untuk mereproduksi kemiripan seseorang dengan kemampuan visual. The Guardian menggunakan subjek sintetis, sehingga ketentuan tentang orang sungguhan ini saja tidak menjawab apakah penyuntingan hijab yang dilaporkan melanggar aturan OpenAI.

Kebijakan penggunaan terlarang AI generatif Google, terakhir diubah 17 Desember 2024, membatasi citra intim tanpa persetujuan, pelanggaran privasi, kebencian, dan pelecehan. Halaman bantuan Gemini menyebut penggunaan gambar seseorang tanpa persetujuan sebagai contoh kemungkinan pelanggaran privasi. Bantuan penyuntingan gambar Google menjelaskan penyuntingan lokal dan unggahan, sekaligus memperingatkan bahwa gambar dapat dihapus jika sistem mendeteksi kemungkinan pelanggaran kebijakan. Tidak satu pun halaman itu menjanjikan semua penyuntingan pakaian keagamaan pada sosok sintetis akan ditolak. Respons yang dilaporkan juga tidak membuktikan bahwa kebijakan tertulis Google mengizinkan penyuntingan semacam itu dalam setiap konteks.

Kebijakan penggunaan yang dapat diterima xAI, berlaku sejak 14 Agustus 2026, melarang pengubahan kemiripan orang sungguhan untuk menggambarkannya dalam konteks intim atau seksual, di samping pembatasan privasi dan penyalahgunaan lainnya. Kebijakan pelaporan konten intim tanpa persetujuan bertanggal Mei 2026 juga membahas orang yang dapat diidentifikasi dalam konteks intim atau seksual. Aturan tersebut mencakup kategori berbeda dari gambar hijab sintetis dalam pengujian The Guardian. Aturan itu tidak membuktikan keluaran Grok yang dilaporkan patuh atau mewakili permintaan lainnya.

The Guardian juga bertanya kepada Claude, yang mengatakan tidak dapat menyunting gambar dan akan menolak menghapus hijab perempuan sungguhan. Bantuan produk Anthropic bertanggal 16 Maret 2026 menyebut Claude dapat memeriksa gambar yang diunggah, tetapi tidak membuat foto atau ilustrasi seperti alat pembuat gambar. Karena itu, jawaban Claude tidak dapat dihitung sebagai penolakan penyuntingan gambar yang berhasil bersama keluaran produk lain.

Sebuah foto nyata memicu pengujian

The Guardian mengatakan pengujian dilakukan setelah politisi Prancis Julien Odoul mengunggah foto perempuan berhijab yang telah diubah. Anadolu Agency melaporkan pada 6 September bahwa Odoul membagikan versi yang menampilkan perempuan itu tanpa penutup kepala dan dengan pakaian berbeda. Agensi tersebut tidak dapat memastikan apakah perempuan itu menyetujuinya. The Guardian tidak dapat memastikan perangkat lunak yang digunakan atau siapa yang menyuntingnya. Insiden yang melibatkan orang nyata itu menjadi konteks pengujian surat kabar; masukan sintetisnya tidak mereplikasi keadaan foto tersebut.

Laporan publik The Guardian tidak memuat rangkaian prompt lengkap, berkas gambar, versi model, pengaturan akun, atau jumlah pengulangan untuk tiap produk. Hal ini membatasi perbandingan ant alat dan mencegah pembaca mengulang pengujian sebagai tolok ukur. Dalam percakapan yang dijelaskan The Guardian, penutup keagamaan dapat dihapus dari gambar sintetis, dan satu penolakan berubah setelah permintaan agar sosoknya tampak “Barat”. Aturan publik penyedia mengidentifikasi bahaya yang relevan. Redaksi aturan itu saja tidak dapat memverifikasi kinerja perlindungan.

Sumber & bacaan lanjutan