A 21 de setembro, o The Stanford Review noticiou que a Stanford Residential & Dining Enterprises usou numa campanha publicitária uma fotografia de um estudante alterada por IA. Billy Ramirez, aluno da turma de 2027, disse à publicação que tinha sido retirado da imagem. O jornal descreveu a pessoa que o substituiu como uma mulher negra gerada por IA e relatou alterações aos rostos e à constituição física de outros estudantes.

Ramirez disse ao Review que se sentiu «silenciado e apagado» com a alteração. A publicação mostrou imagens identificadas como «antes» e «depois». Trata-se do relato e da comparação de imagens feitos pela publicação; a BIG CHANGE não verificou de forma independente os ficheiros originais, a ferramenta de edição, as autorizações ou o histórico de aprovação. Notícia do The Stanford Review

A queixa diz respeito a quem controla a representação de uma pessoa depois de tirada uma fotografia.

A grande mudança

  • O que mudou: A edição generativa alarga o controlo de quem publica: deixa de incidir apenas sobre a apresentação da fotografia e passa a abranger também as pessoas que ela parece mostrar. A pessoa fotografada pode perder o controlo da sua representação, mesmo que o resultado continue a parecer uma fotografia.
  • Porque é importante: Aceitar aparecer numa fotografia e aprovar uma representação alterada são decisões diferentes. A objeção de Ramirez diz respeito à perda de controlo sobre a forma como foi representado.
  • O que importa acompanhar: A aprovação da representação final é o ponto crítico para o marketing universitário. Indicar que se usou IA não basta para resolver a objeção de um participante à forma como foi representado.

As regras de Stanford distinguem retoques de representações falsas

As atuais diretrizes de Stanford para comunicações com IA exigem autorização por escrito para usar a imagem de uma pessoa e consentimento explícito para representações sintéticas de pessoas reais. Proíbem representações falsas de Stanford e exigem divulgação quando a omissão do recurso à geração ou manipulação puder induzir em erro.

No caso específico do Stanford Report, as diretrizes permitem melhorar a qualidade da imagem e fazer pequenos retoques, desde que isso seja comunicado aos editores responsáveis; a utilização de imagens geradas continua a ser uma decisão editorial.

A divulgação explica o método de produção. A autorização diz respeito à pessoa representada. A exatidão diz respeito ao que a instituição comunica ao público. Uma indicação da ferramenta de IA utilizada não responde às três questões.

A página não indica uma data de publicação. Por isso, a redação atual não permite determinar que regras estavam em vigor quando foi criado o cartaz referido na notícia, nem provar que houve uma violação neste caso.

A universidade já aborda alterações fotográficas que induzem em erro

As recomendações visuais e criativas de Stanford pedem aos responsáveis pela comunicação que representem as pessoas com exatidão. Alertam contra montagens que façam parecer que pessoas fotografadas separadamente estiveram juntas e contra a alteração de tons de pele para criar uma impressão artificial de diversidade. Os próprios exemplos do guia mostram que a representação faz parte da responsabilidade editorial, inclusive quando se recorre à manipulação fotográfica convencional.

O seu guia de fotografia recomenda a utilização de autorizações de imagem, instrui os funcionários a guardá-las por tempo indeterminado e defende retratos autênticos sem edição excessiva. Identifica também o SALLIE, a base de dados que Stanford já utiliza para fotografias, vídeos e outros recursos de comunicação.

Estes documentos dão um contexto concreto à queixa noticiada. A instituição já publica normas sobre autorizações, autenticidade e tratamento de imagens. Continua por esclarecer como foi produzido e aprovado o cartaz referido na notícia.

A objeção do participante merece uma resposta sobre a imagem concreta

O material público consultado para este artigo não permite determinar quem pediu as alterações, que instruções foram dadas ao editor ou à ferramenta, nem que autorização foi obtida. Nas pesquisas concluídas a 22 de setembro, não encontrámos uma resposta pública de Stanford ou da R&DE à queixa. Não contactámos a universidade; a ausência de uma resposta nessas pesquisas não prova que se tenha recusado a comentar.

Concluímos que a utilização institucional de IA deve ser avaliada à luz da representação publicada e da autorização de que a instituição dispõe para a usar. Esta conclusão decorre da objeção do estudante, tal como foi relatada, e das próprias distinções de Stanford. As provas disponíveis não permitem estabelecer um motivo institucional.

Correção, 22 de setembro: Uma versão anterior incluía cenas ilustrativas inventadas e afirmações sem fundamento sobre custos e o comportamento futuro do setor. Essas passagens foram removidas. Esta versão baseia-se em notícias devidamente atribuídas, nas orientações publicadas por Stanford e numa análise ligada a essas fontes.