The Guardian informó el 1 de octubre de que ChatGPT y Grok quitaron un hiyab de la imagen generada por IA de una mujer cuando se les pidió. Gemini se negó al principio, pero después generó una imagen sin el hiyab cuando la petición se reformuló para que la mujer pareciera más «occidental». El periódico también probó con una imagen sintética de un hombre sij con turbante: según informó, Gemini rechazó la edición directa, pero quitó el turbante tras la misma reformulación. Son observaciones de The Guardian, no pruebas realizadas por BIG CHANGE.

La diferencia entre las peticiones directas y las reformuladas importa porque la imagen era sintética. Según The Guardian, Gemini justificó su primera negativa por el riesgo de cambiar el aspecto de una persona real sin su consentimiento. Ese motivo no describía la imagen de prueba. Una petición para quitar una prenda religiosa puede plantear dudas sobre cómo se representa a una persona incluso cuando no existe un sujeto real cuyo consentimiento pueda comprobarse.

El gran cambio

  • Qué cambió:En la prueba publicada por The Guardian, ChatGPT y Grok quitaron un hiyab ante una petición directa. Gemini rechazó una petición directa, pero después quitó un hiyab y, en otra imagen sintética, un turbante tras una solicitud para que la persona pareciera «más occidental». Una sola prueba no demuestra que ese sea el comportamiento habitual.
  • Por qué importa:Una negativa basada en el consentimiento de una persona real ofrece pocas garantías a quien elige o evalúa un editor de imágenes de que este mantendrá la vestimenta religiosa de una persona sintética cuando cambie la redacción de la petición. Las dos solicitudes a Gemini ponen de manifiesto esa brecha práctica.
  • Qué conviene observar:Google afirma que Gemini puede retirar imágenes cuando sus sistemas detectan una posible infracción de las políticas. La cuestión del producto es cómo aplica esa comprobación a las peticiones directas y reformuladas sobre la vestimenta religiosa de una persona sintética. La ayuda de Google no lo especifica y The Guardian no publica las versiones, las instrucciones completas ni el número de repeticiones que harían falta para una comparación fiable.

Qué abarcan las normas publicadas

Las políticas de uso de OpenAI, vigentes desde el 29 de octubre de 2025, prohíben el acoso, el contenido íntimo no consentido y ciertos usos de la imagen de una persona sin su consentimiento. Suscondiciones del servicio, actualizadas el 29 de septiembre de 2026, exigen además consentimiento expreso y los derechos necesarios para reproducir la imagen de una persona mediante funciones visuales. The Guardian utilizó un sujeto sintético, por lo que estas disposiciones sobre personas reales no bastan por sí solas para determinar si la edición del hiyab infringió las normas de OpenAI.

La política de uso prohibido de la IA generativa de Google, cuya última modificación fue el 17 de diciembre de 2024, restringe las imágenes íntimas no consentidas, las vulneraciones de la privacidad, el odio y el acoso. Supágina de ayuda de Gemini cita el uso de la imagen de alguien sin su consentimiento como ejemplo de una posible vulneración de la privacidad. Laayuda de edición de imágenes de Google documenta las ediciones y cargas locales, y advierte que las imágenes podrían retirarse si los sistemas detectan una posible infracción. Ninguna de esas páginas promete que se rechace toda edición de la vestimenta religiosa de una persona sintética. La respuesta publicada tampoco demuestra que la política escrita de Google permita esa edición en cualquier contexto.

La política de uso aceptable de xAI, vigente desde el 14 de agosto de 2026, prohíbe alterar la imagen de una persona real para mostrarla en un contexto íntimo o sexual, además de otras restricciones sobre privacidad y abusos. Supolítica para denunciar contenido íntimo no consentido, fechada en mayo de 2026, también se refiere a personas identificables en contextos íntimos o sexuales. Esas normas abordan una categoría distinta de la imagen sintética del hiyab publicada por The Guardian. No demuestran que el resultado atribuido a Grok cumpliera las normas ni que represente las respuestas a otras peticiones.

The Guardian también preguntó a Claude, que respondió que no podía editar la imagen y que rechazaría quitar el hiyab a una mujer real. La ayuda sobre el producto de Anthropic, fechada el 16 de marzo de 2026, explica que Claude puede examinar imágenes cargadas, pero no genera fotografías ni ilustraciones como una herramienta de generación de imágenes. Por tanto, la respuesta de Claude no puede contarse como una negativa satisfactoria a editar imágenes equivalente a las respuestas de los otros productos.

La prueba se originó a partir de una fotografía real

The Guardian explicó que realizó la prueba después de que el político francés Julien Odoul publicara una fotografía manipulada de una mujer real con hiyab. Anadolu Agency informó el 6 de septiembre de que Odoul compartió una versión en la que aparecía sin la prenda y con ropa distinta. La agencia dijo que no pudo determinar si la mujer había dado su consentimiento. The Guardian tampoco pudo establecer qué programa se utilizó ni quién hizo la edición. Ese incidente con una persona real da contexto a la prueba del periódico; las imágenes sintéticas empleadas no reproducen las circunstancias de la fotografía.

El relato público de The Guardian no incluye la secuencia completa de instrucciones, los archivos de imagen, las versiones de los modelos, la configuración de las cuentas ni el número de repeticiones de cada producto. Esto limita la comparación entre herramientas e impide que los lectores reproduzcan el ejercicio como una prueba de referencia. En los intercambios descritos por The Guardian, se pudieron quitar prendas religiosas de imágenes sintéticas y una negativa cambió tras pedir que la persona pareciera «occidental». Las normas públicas de los proveedores identifican daños pertinentes, pero su redacción no permite verificar cómo funcionan las salvaguardas.

Fuentes y lecturas recomendadas