Um cartum gerado por IA circulou com o pseudônimo de Brendan Loper no canto, embora ele não o tivesse desenhado. No relato do Nieman Lab de 5 de outubro Loper disse que pessoas entraram em contato para perguntar se o desenho era dele.

O repórter Andrew Deck encontrou imagens semelhantes publicadas on-line e também gerou cartuns no estilo da New Yorker usando o ChatGPT. Nessas fontes, documentou assinaturas associadas a mais de 15 cartunistas da revista. Esse é o número de artistas nos exemplos encontrados, não uma medida da frequência com que o ChatGPT gera uma assinatura real nem de quantos cartuns desse tipo estão circulando.

A grande mudança

  • O que mudou:O Nieman Lab documentou cartuns gerados pelo ChatGPT com assinaturas aparentemente reais de cartunistas, embora esses artistas não tenham criado as imagens. A saída atribuiu a identidade de um artista nomeado a um desenho gerado, além de imitar o estilo visual da revista.
  • Por que isso importa:Uma assinatura pode acompanhar um cartum quando ele é compartilhado fora do contexto original. Loper disse ao Nieman Lab que pessoas perguntaram se ele havia criado uma imagem assinada. Para artistas e editoras, o problema imediato é a atribuição falsa; as assinaturas, por si só, não mostram como o modelo as aprendeu nem se alguma lei foi violada.
  • O que observar:Depois que Deck avisou a OpenAI, o ChatGPT começou a exibir alertas de semelhança com conteúdo de terceiros, mas ele relatou que algumas saídas assinadas continuaram. A interrupção dessas saídas é uma medida concreta da resposta da OpenAI. Na época do relato de Deck, a empresa não havia explicado a causa nem anunciado uma correção concluída.

O que o relato testou

Deck afirma que seus prompts no ChatGPT produziram cartuns com assinaturas associadas, entre outros, a George Booth, Liza Donnelly, Ellis Rosen e Saul Steinberg. Também encontrou em fóruns on-line exemplos com nomes de outros colaboradores. Os resultados variaram: algumas saídas não tinham assinatura e outras traziam pseudônimos inventados. Depois de avisar a OpenAI, o ChatGPT começou a exibir um alerta de semelhança com conteúdo de terceiros nas solicitações dele no estilo da New Yorker, relatou. Na publicação, alguns cartuns gerados ainda traziam nomes de cartunistas reais, segundo ele.

Esse é o teste relatado por Deck, não um experimento da BIG CHANGE. O relato não informa o conjunto completo de prompts, a versão do modelo, o tamanho da amostra nem a proporção de saídas assinadas. A falta desses detalhes limita qualquer afirmação sobre o comportamento atual entre usuários ou versões.

O relato de Loper acrescenta a consequência de a marca aparecer em uma imagem compartilhada: quem a viu perguntou se ele a havia feito. A cartunista Emily Flake disse a Deck que os desenhos gerados pareciam uma mistura de estilos de artistas, enquanto as assinaturas reproduziam seu pseudônimo. A distinção importa para os artistas: um cartum pode lembrar um gênero sem ser atribuído a uma pessoa específica; a assinatura torna essa atribuição explícita.

A OpenAI disse ao Nieman Lab que agradecia relatos de bugs e de comportamentos não intencionais do modelo para poder corrigi-los. O comunicado não explicou a causa, não identificou uma correção concluída nem deu prazo. Deck relatou que o alerta apareceu depois de seu aviso e que saídas assinadas persistiram em suas verificações posteriores.

O que a assinatura não prova

O anúncio de 2024 da OpenAI sobre sua parceria com a Condé Nast diz que o acordo exibiria conteúdo de marcas como The New Yorker nos produtos da OpenAI. Ele não divulga o contrato nem afirma que a arte dos cartuns foi licenciada para treinar modelos. Um porta-voz da New Yorker disse ao Nieman Lab que a Condé Nast não autorizou nenhum desenvolvedor de grandes modelos de linguagem a treinar com seus cartuns. Deck também relatou ter analisado contratos-modelo de cartunistas colaboradores que não permitiam licenças para treinamento de IA. São declarações distintas sobre direitos; as assinaturas visíveis não mostram, por si só, como o modelo adquiriu o padrão nem definem o alcance de qualquer acordo.

Deck perguntou à OpenAI como as assinaturas poderiam ter entrado nos dados de treinamento e relatou que não recebeu resposta a essa pergunta. Ele entrevistou James Grimmelmann, professor de direito da Universidade Cornell, sobre possíveis teorias jurídicas, incluindo o direito de publicidade. A discussão identifica possíveis reivindicações e obstáculos, não uma decisão judicial sobre essas imagens. Ainda não está resolvido se um cartum específico viola os direitos de alguém.