O Guardian noticiou a 1 de outubro que o ChatGPT e o Grok removeram o hijab de uma imagem de uma mulher gerada por IA, após o pedido. O Gemini recusou inicialmente, mas depois gerou uma imagem sem hijab quando o pedido foi reformulado para que a mulher parecesse mais “ocidental”. O jornal também testou uma imagem sintética de um homem sikh com turbante: segundo a notícia, o Gemini recusou a edição direta, mas removeu o turbante após a mesma reformulação. São observações do Guardian, não testes realizados pela BIG CHANGE.

A distinção entre os pedidos diretos e reformulados é importante porque a imagem era sintética. Segundo o Guardian, a primeira recusa do Gemini invocou o risco de alterar a aparência de uma pessoa real sem consentimento. Esse motivo não se aplicava à imagem testada. Pedir a remoção de uma cobertura religiosa pode levantar questões sobre a representação da pessoa, mesmo quando não existe um sujeito real cujo consentimento possa ser verificado.

A grande mudança

  • O que mudou:No teste noticiado pelo Guardian, o ChatGPT e o Grok removeram o hijab após um pedido direto. O Gemini recusou um pedido direto, mas removeu o hijab e, noutra imagem sintética, o turbante, após o pedido para a pessoa parecer “mais ocidental”. Um teste não estabelece um comportamento habitual.
  • Porque é importante:Uma recusa baseada no consentimento de uma pessoa real dá pouca garantia a quem escolhe ou avalia uma ferramenta de edição de imagens de que esta preservará a roupa religiosa de uma pessoa sintética quando a formulação mudar. Os dois pedidos feitos ao Gemini revelam essa lacuna prática.
  • O que acompanhar:A Google afirma que o Gemini pode remover imagens quando os sistemas detetam uma possível violação das políticas. A decisão de produto relevante é a forma como essa verificação existente trata pedidos diretos e reformulados sobre a roupa religiosa de uma pessoa sintética. A ajuda da Google não especifica esse ponto; o Guardian também não fornece versões, pedidos completos nem o número de repetições necessário para uma comparação fiável.

O que abrangem as regras publicadas

As políticas de utilização da OpenAI, em vigor desde 29 de outubro de 2025, proíbem assédio, conteúdo íntimo sem consentimento e determinadas utilizações da imagem de uma pessoa sem autorização. Os termos de serviço, atualizados a 29 de setembro de 2026, exigem separadamente consentimento expresso e os direitos necessários para reproduzir a imagem de alguém com capacidades visuais. O Guardian usou um sujeito sintético, pelo que estas disposições relativas a pessoas reais, por si só, não esclarecem se a edição do hijab noticiada violou as regras da OpenAI.

A política de utilização proibida de IA generativa da Google, alterada pela última vez a 17 de dezembro de 2024, restringe imagens íntimas sem consentimento, violações da privacidade, ódio e assédio. A página de ajuda do Gemini dá o uso da imagem de alguém sem consentimento como exemplo de uma possível violação da privacidade. A ajuda da Google para edição de imagens documenta edições locais e carregamentos, e avisa que as imagens podem ser removidas quando os sistemas detetam uma possível violação das políticas. Nenhuma dessas páginas promete que todas as edições da roupa religiosa de uma pessoa sintética serão recusadas. A resposta noticiada também não prova que a política escrita da Google permita tal edição em qualquer contexto.

A política de utilização aceitável da xAI, em vigor desde 14 de agosto de 2026, proíbe, entre outras restrições de privacidade e abuso, alterar a imagem de uma pessoa real para a representar num contexto íntimo ou sexual. A sua política de denúncia de conteúdo íntimo não consentido, de maio de 2026, também diz respeito a pessoas identificáveis em contextos íntimos ou sexuais. Estas regras abrangem uma categoria diferente da imagem sintética com hijab testada pelo Guardian. Não demonstram que o resultado atribuído ao Grok cumpria as regras ou representava outros pedidos.

O Guardian também perguntou ao Claude, que afirmou não conseguir editar a imagem e que recusaria remover o hijab de uma mulher real. A ajuda de produto da Anthropic, datada de 16 de março de 2026, diz que o Claude consegue analisar imagens carregadas, mas não gera fotografias ou ilustrações como uma ferramenta de geração de imagens. Por isso, a resposta do Claude não pode ser contabilizada como uma recusa bem-sucedida de edição de imagem, a par dos resultados dos outros produtos.

Uma fotografia real motivou o teste

O Guardian afirmou ter realizado o teste depois de o político francês Julien Odoul publicar uma fotografia alterada de uma mulher real com hijab. A Anadolu Agency noticiou a 6 de setembro que Odoul partilhou uma versão em que a mulher aparecia sem a cobertura e com roupa diferente. A agência não conseguiu determinar se a mulher consentiu. O Guardian não conseguiu apurar que software foi usado nem quem fez a edição. Esse incidente com uma pessoa real contextualiza o teste do jornal; as imagens sintéticas usadas não reproduzem as circunstâncias da fotografia.

O relato público do Guardian não inclui a sequência completa de pedidos, os ficheiros de imagem, as versões dos modelos, as definições das contas nem o número de repetições para cada produto. Isso limita a comparação entre ferramentas e impede os leitores de reproduzir o exercício como referência. Nas interações descritas pelo Guardian, foi possível remover coberturas religiosas de imagens sintéticas, e uma recusa mudou após o pedido para a pessoa parecer “ocidental”. As regras públicas dos fornecedores identificam danos relevantes. A sua redação, por si só, não permite verificar o desempenho das salvaguardas.

Fontes e leituras adicionais