Em 21 de setembro, o Stanford Review noticiou que a Stanford Residential & Dining Enterprises usou em publicidade a foto de um estudante alterada por IA. Billy Ramirez, integrante da turma de 2027, disse à publicação que havia sido removido da imagem. O jornal descreveu a pessoa que o substituiu como uma mulher negra gerada por IA e relatou mudanças nos rostos e formatos de corpo de outros estudantes.

Ramirez disse ao Review que se sentiu “silenciado e apagado” pela alteração. A publicação exibiu imagens identificadas como antes e depois. Esse relato e a comparação das imagens são do próprio veículo; a BIG CHANGE não verificou de forma independente os arquivos originais, a ferramenta de edição, as autorizações nem o histórico de aprovação. A reportagem do Stanford Review

A reclamação diz respeito a quem controla a representação de uma pessoa depois que uma fotografia é tirada.

A grande mudança

  • O que mudou: A edição generativa amplia o controle de um publicador: da apresentação da fotografia às pessoas que ela parece mostrar. A pessoa fotografada pode perder o controle de sua representação, embora o resultado ainda pareça uma fotografia.
  • Por que isso importa: Concordar em aparecer em uma fotografia e aprovar uma imagem alterada são decisões diferentes. A objeção de Ramirez diz respeito à perda de controle sobre sua representação.
  • O que observar: A aprovação da representação final é o ponto sensível para o marketing universitário. Dar crédito à IA, por si só, não resolve a objeção de um participante à forma como foi representado.

As regras de Stanford distinguem retoque de representação falsa

As atuais diretrizes de Stanford para IA em comunicação exigem autorização por escrito para o uso de imagens de pessoas e consentimento explícito para representações sintéticas de indivíduos reais. Elas proíbem representações falsas de Stanford e exigem divulgação quando a geração ou manipulação não informada puder induzir o público ao erro.

Especificamente para o Stanford Report, as regras permitem melhorar a qualidade da imagem e fazer pequenos retoques, desde que isso seja informado aos editores que receberem o material; imagens geradas continuam sujeitas à decisão editorial.

A divulgação explica o método de produção. A autorização diz respeito à pessoa retratada. A precisão trata do que a instituição comunica ao público. Dar crédito a uma ferramenta de IA não responde às três questões.

A página não informa uma data de publicação. Portanto, sua redação atual não permite estabelecer quais regras valiam quando a faixa publicitária relatada foi produzida, nem provar que houve uma violação neste caso.

A universidade já aborda edições de foto enganosas

As recomendações visuais e criativas de Stanford pedem que os comunicadores representem as pessoas com precisão. Alertam contra montagens que façam parecer que pessoas fotografadas separadamente estiveram juntas e contra alterações de tons de pele que criem uma impressão artificial de diversidade. Os próprios exemplos do guia deixam claro que a representação faz parte da responsabilidade de edição, inclusive quando se usa manipulação fotográfica convencional.

O guia de fotografia recomenda guardar os termos de autorização, instrui a equipe a mantê-los indefinidamente e pede retratos autênticos, sem edição excessiva. Também identifica o SALLIE, banco de dados existente de Stanford para fotografias, vídeos e outros materiais de comunicação.

Esses documentos dão um contexto concreto à reclamação relatada. A instituição já publica padrões de autorização, autenticidade e tratamento de imagens. A questão ainda sem resposta é como a faixa publicitária relatada foi produzida e aprovada.

A objeção do participante merece uma resposta sobre a imagem em questão

O material público consultado para este artigo não permite determinar quem pediu as alterações, quais instruções foram dadas a um editor ou ferramenta nem que autorização foi obtida. Nas buscas concluídas em 22 de setembro, não encontramos uma resposta pública de Stanford ou da R&DE à reclamação. Não entramos em contato com a universidade; o fato de ela não aparecer nessas buscas não prova que tenha se recusado a comentar.

Nossa conclusão é que o uso institucional de IA deve ser avaliado em função da representação publicada e da autorização para usá-la. Isso decorre da objeção relatada pelo estudante e das distinções feitas pela própria Stanford. As evidências disponíveis não determinam a motivação da instituição.

Correção, 22 de setembro: Uma versão anterior incluía cenas ilustrativas inventadas e alegações sem fundamento sobre custos e comportamento futuro do setor. Esses trechos foram removidos. Esta versão usa informações atribuídas às fontes, as diretrizes publicadas por Stanford e análises vinculadas a essas fontes.