Um cartoon gerado por IA circulou com o pseudónimo de Brendan Loper num canto, embora ele não o tivesse desenhado. No artigo do Nieman Lab de 5 de outubro Loper disse que várias pessoas o contactaram para perguntar se era da sua autoria.

O jornalista Andrew Deck encontrou imagens semelhantes publicadas online e gerou, ele próprio, cartoons ao estilo da New Yorker no ChatGPT. Entre essas fontes, documentou assinaturas associadas a mais de 15 cartoonistas da revista. Esse é o número de artistas nos exemplos que encontrou, não uma medida da frequência com que o ChatGPT gera uma assinatura real ou da quantidade de cartoons desse tipo em circulação.

A grande mudança

  • O que mudou:O Nieman Lab documentou cartoons gerados pelo ChatGPT com assinaturas aparentemente reais de cartoonistas, embora esses artistas não tenham criado as imagens. O resultado associou a identidade de um artista identificado a um desenho gerado, além de imitar o estilo visual da revista.
  • Porque é importante:Uma assinatura pode acompanhar um cartoon quando este é partilhado fora do seu contexto original. Loper disse ao Nieman Lab que lhe perguntaram se tinha criado uma imagem assinada. Para artistas e editores, o problema imediato é a atribuição falsa; as assinaturas, por si só, não demonstram como o modelo as aprendeu nem se houve violação da lei.
  • O que acompanhar:Depois de Deck ter alertado a OpenAI, o ChatGPT começou a avisá-lo de semelhanças com conteúdos de terceiros, mas ele relatou que algumas saídas assinadas continuaram. Saber se deixam de surgir é uma medida concreta da resposta da OpenAI. Na altura da publicação do artigo de Deck, a empresa ainda não tinha explicado a causa nem anunciado uma correção concluída.

O que o artigo testou

Deck afirma que os seus prompts no ChatGPT produziram cartoons com assinaturas associadas, entre outros, a George Booth, Liza Donnelly, Ellis Rosen e Saul Steinberg. Também encontrou em fóruns online exemplos com os nomes de outros colaboradores. Os resultados variaram: algumas saídas não tinham assinatura e outras usavam pseudónimos inventados. Depois de ter alertado a OpenAI, o ChatGPT começou a mostrar um aviso de semelhança com conteúdos de terceiros nos seus pedidos ao estilo da New Yorker, relatou. À data da publicação, alguns cartoons gerados ainda tinham nomes de cartoonistas reais, segundo ele.

Este é o teste relatado por Deck, não uma experiência da BIG CHANGE. O artigo não apresenta o conjunto completo de prompts, a versão do modelo, a dimensão da amostra nem a proporção de saídas assinadas. A falta desses dados limita qualquer afirmação sobre o comportamento atual entre utilizadores ou versões.

O relato de Loper acrescenta a consequência de a marca surgir numa imagem partilhada: quem a viu perguntou-lhe se a tinha criado. A cartoonista Emily Flake disse a Deck que os desenhos gerados pareciam uma mistura de estilos de artistas, enquanto as assinaturas reproduziam o seu pseudónimo. Esta distinção é importante para os artistas: um cartoon pode lembrar um género sem ser atribuído a uma pessoa identificada; uma assinatura torna explícita essa atribuição.

A OpenAI disse ao Nieman Lab que agradecia relatos de erros e de comportamentos involuntários do modelo para poder resolvê-los. O comunicado não explicou a causa, não identificou uma correção concluída nem indicou um prazo. Deck relatou que o aviso surgiu após a sua comunicação e que as saídas assinadas persistiram nas verificações posteriores.

O que a assinatura não prova

O anúncio de 2024 da OpenAI sobre a sua parceria com a Condé Nast diz que o acordo mostraria conteúdos de marcas como The New Yorker nos produtos da OpenAI. Não divulga o contrato nem afirma que os cartoons foram licenciados para treino de modelos. Um porta-voz da New Yorker disse ao Nieman Lab que a Condé Nast não autorizou nenhum programador de grandes modelos de linguagem a treinar com os seus cartoons. Deck também relatou ter analisado contratos-modelo de cartoonistas colaboradores que não permitiam licenças para treino de IA. São declarações distintas sobre direitos; as assinaturas visíveis, por si só, não mostram como o modelo adquiriu o padrão nem determinam o âmbito de qualquer acordo.

Deck perguntou à OpenAI como as assinaturas poderiam ter entrado nos dados de treino e relatou não ter recebido resposta. Entrevistou James Grimmelmann, professor de Direito em Cornell, sobre possíveis teorias jurídicas, incluindo o direito de imagem. A discussão identifica possíveis reivindicações e obstáculos, não uma decisão judicial sobre estas imagens. Continua por resolver se um cartoon específico viola os direitos de alguém.