Circuló una caricatura generada por IA con el seudónimo de Brendan Loper en una esquina, aunque él no la había dibujado. En el reportaje de Nieman Lab del 5 de octubreLoper dijo que varias personas se pusieron en contacto para preguntarle si era obra suya.

El reportero Andrew Deck encontró imágenes similares publicadas en internet y generó por su cuenta caricaturas al estilo de The New Yorker en ChatGPT. Documentó firmas asociadas con más de 15 caricaturistas de la revista entre ambas fuentes. Esa es la cantidad de artistas en los ejemplos que encontró, no una medida de la frecuencia con que ChatGPT genera una firma real ni del número de caricaturas así que circulan.

El gran cambio

  • Qué cambió:Nieman Lab documentó caricaturas generadas por ChatGPT que llevaban firmas aparentemente reales de caricaturistas, aunque estos no habían creado las imágenes. El resultado asignó la identidad de un artista conocido a un dibujo generado, además de imitar el estilo visual de la revista.
  • Por qué importa:Una firma puede acompañar a una caricatura cuando se comparte fuera de su contexto original. Loper dijo a Nieman Lab que algunas personas le preguntaron si había creado una imagen firmada. Para artistas y editoriales, el problema inmediato es la atribución falsa; las firmas por sí solas no demuestran cómo las aprendió el modelo ni si se infringió alguna ley.
  • Qué observar:Después de que Deck avisara a OpenAI, ChatGPT empezó a mostrarle advertencias sobre similitudes con contenido de terceros, aunque él informó que algunos resultados firmados continuaron. Que esos resultados cesen es una medida concreta de la respuesta de OpenAI. Cuando se publicó el reportaje de Deck, la empresa no había explicado la causa ni anunciado una solución completa.

Qué probó el reportaje

Deck dice que sus indicaciones en ChatGPT generaron caricaturas con firmas asociadas, entre otros, a George Booth, Liza Donnelly, Ellis Rosen y Saul Steinberg. También encontró en foros en línea ejemplos con los nombres de otros colaboradores. Los resultados variaron: algunos no tenían firma y otros incluían seudónimos inventados. Tras avisar a OpenAI, ChatGPT empezó a mostrar una advertencia sobre similitudes con contenido de terceros en sus solicitudes al estilo de The New Yorker, según relató. Al publicarse el reportaje, algunas caricaturas generadas aún llevaban nombres de caricaturistas reales, dijo.

Son las pruebas que reportó Deck, no un experimento de BIG CHANGE. El reportaje no ofrece un conjunto completo de indicaciones, la versión del modelo, el tamaño de la muestra ni la proporción de resultados firmados. Esos datos faltantes limitan cualquier afirmación sobre el comportamiento actual entre usuarios o versiones.

El relato de Loper añade la consecuencia de que la marca aparezca en una imagen compartida: quienes la vieron le preguntaron si la había creado. La caricaturista Emily Flake dijo a Deck que los dibujos generados parecían una mezcla de estilos de artistas, mientras que las firmas reproducían su seudónimo. La distinción importa para los artistas: una caricatura puede parecerse a un género sin atribuirse a una persona concreta; una firma hace explícita esa atribución.

OpenAI dijo a Nieman Lab que agradecía los informes de errores y comportamientos no deseados del modelo para poder abordarlos. El comunicado no explicó la causa, identificó una solución completa ni dio un plazo. Deck informó que la advertencia apareció después de su aviso y que los resultados firmados persistieron durante sus comprobaciones posteriores.

Lo que la firma no demuestra

El anuncio de 2024 de OpenAI sobre su alianza con Condé Nast dice que el acuerdo mostraría contenido de marcas como The New Yorker en productos de OpenAI. No revela el contrato ni afirma que se licenciara arte de caricaturas para entrenar modelos. Un portavoz de The New Yorker dijo a Nieman Lab que Condé Nast no había dado permiso a ningún desarrollador de modelos de lenguaje grandes para entrenar con sus caricaturas. Deck también informó que revisó contratos modelo de caricaturistas colaboradores que no permitían licencias para entrenamiento de IA. Son declaraciones distintas sobre derechos; las firmas visibles no muestran por sí solas cómo el modelo aprendió el patrón ni determinan qué cubre un acuerdo.

Deck preguntó a OpenAI cómo podrían haber llegado las firmas a sus materiales de entrenamiento e informó que no recibió respuesta a esa pregunta. Entrevistó a James Grimmelmann, profesor de Derecho en Cornell, sobre posibles teorías jurídicas, incluido el derecho de publicidad. Ese análisis identifica posibles reclamaciones y obstáculos, no un fallo judicial sobre estas imágenes. Sigue sin resolverse si una caricatura concreta vulnera los derechos de alguien.