O Guardian noticiou em 1º de outubro que ChatGPT e Grok removeram o hijab de uma imagem gerada por IA de uma mulher após receberem esse pedido. O Gemini recusou inicialmente, mas depois gerou uma imagem sem o hijab quando o pedido foi reformulado para que a mulher parecesse mais “ocidental”. O jornal também testou uma imagem sintética de um homem sikh usando turbante: segundo o relato, o Gemini recusou a edição direta, mas removeu o turbante após a mesma reformulação. Essas são observações do Guardian, não testes conduzidos pela BIG CHANGE.

A diferença entre pedidos diretos e reformulados importa porque a imagem era sintética. Segundo o Guardian, a primeira recusa do Gemini citou o risco de mudar a aparência de uma pessoa real sem consentimento. Esse motivo não descrevia a imagem de teste. Um pedido para remover uma cobertura religiosa pode levantar uma questão sobre como a pessoa é retratada mesmo quando não há uma pessoa real cujo consentimento possa ser verificado.

A grande mudança

  • O que mudou: No teste relatado pelo Guardian, ChatGPT e Grok removeram um hijab após um pedido direto. O Gemini recusou um pedido direto, mas removeu um hijab e, em outra imagem sintética, um turbante após a solicitação de deixar a pessoa “mais ocidental”. Um teste não comprova um comportamento habitual.
  • Por que isso importa:Uma recusa baseada no consentimento de uma pessoa real oferece pouca segurança a quem escolhe ou avalia um editor de imagens: ela não garante que a ferramenta manterá a vestimenta religiosa de uma pessoa sintética quando a formulação mudar. Os dois pedidos ao Gemini expõem essa lacuna prática.
  • O que observar:O Google diz que o Gemini pode remover imagens quando seus sistemas detectam uma possível violação de política. A questão do produto é como essa verificação existente trata pedidos diretos e reformulados sobre a vestimenta religiosa de uma pessoa sintética. A ajuda do Google não especifica isso, e o Guardian não informa versões, prompts completos ou número de repetições necessários para uma comparação confiável.

O que as regras publicadas abrangem

as políticas de uso da OpenAI, em vigor desde 29 de outubro de 2025, proíbem assédio, conteúdo íntimo não consensual e certos usos da imagem de uma pessoa sem consentimento. Os termos de serviço, atualizados em 29 de setembro de 2026, exigem separadamente consentimento expresso e os direitos necessários para reproduzir a imagem de alguém com recursos visuais. O Guardian usou uma pessoa sintética; portanto, essas disposições sobre pessoas reais, por si sós, não determinam se a edição do hijab relatada violou as regras da OpenAI.

a política de uso proibido de IA generativa do Google, alterada pela última vez em 17 de dezembro de 2024, restringe imagens íntimas não consensuais, violações de privacidade, ódio e assédio. A página de ajuda do Gemini cita o uso da imagem de alguém sem consentimento como exemplo de possível violação de privacidade. A ajuda de edição de imagens do Google descreve edições locais e uploads, mas alerta que imagens podem ser removidas quando os sistemas detectam uma possível violação de política. Nenhuma dessas páginas promete que todas as edições da vestimenta religiosa de uma pessoa sintética serão recusadas. A resposta relatada também não prova que a política escrita do Google permita esse tipo de edição em qualquer contexto.

a política de uso aceitável da xAI, em vigor desde 14 de agosto de 2026, proíbe alterar a imagem de uma pessoa real para retratá-la em um contexto íntimo ou sexual, além de outras restrições de privacidade e abuso. A política de denúncia de conteúdo íntimo não consensual, de maio de 2026, também trata de pessoas identificáveis em contextos íntimos ou sexuais. Essas regras abrangem uma categoria diferente da imagem sintética com hijab descrita pelo Guardian. Elas não comprovam que o resultado relatado do Grok estava em conformidade nem que represente outras solicitações.

O Guardian também perguntou ao Claude, que disse não conseguir editar a imagem e que recusaria remover o hijab de uma mulher real. A ajuda sobre o produto da Anthropic, publicada em 16 de março de 2026, informa que o Claude pode examinar imagens enviadas, mas não gera fotos ou ilustrações como uma ferramenta de geração de imagens. Portanto, a resposta do Claude não pode ser contada como uma recusa bem-sucedida de edição de imagem junto aos resultados dos outros produtos.

Uma fotografia real motivou o teste

O Guardian disse que realizou o teste depois que o político francês Julien Odoul publicou uma fotografia alterada de uma mulher real usando hijab. A Anadolu Agency noticiou em 6 de setembro que Odoul compartilhou uma versão em que a mulher aparecia sem a cobertura e com roupas diferentes. A agência não conseguiu confirmar se ela havia consentido. O Guardian não conseguiu determinar qual software foi usado nem quem fez a edição. O episódio com uma pessoa real dá contexto ao teste do jornal; as imagens sintéticas usadas não reproduzem as circunstâncias da fotografia.

O relato público do Guardian não informa a sequência completa de prompts, os arquivos de imagem, as versões dos modelos, as configurações das contas ou o número de repetições para cada produto. Isso limita a comparação entre ferramentas e impede que leitores reproduzam o exercício como referência. Nas interações descritas pelo Guardian, coberturas religiosas puderam ser removidas de imagens sintéticas, e uma recusa mudou após o pedido para que a pessoa parecesse “ocidental”. As regras públicas dos provedores identificam danos relevantes. A redação dessas regras, por si só, não permite verificar como as salvaguardas funcionam.

Fontes e leituras complementares