В сети распространилась карикатура, созданная ИИ, с псевдонимом Брендана Лопера в углу, хотя он её не рисовал. В материале Nieman Lab от 5 октября Лопер рассказал, что люди спрашивали его, не его ли это рисунок.

Журналист Эндрю Дек нашёл похожие изображения в сети и сам создал в ChatGPT карикатуры в стиле The New Yorker. В этих источниках он зафиксировал подписи, связанные с более чем 15 художниками журнала. Это число художников в найденных им примерах, а не показатель того, как часто ChatGPT создаёт настоящую подпись или сколько таких карикатур распространяется.

Главное изменение

  • Что изменилось:Nieman Lab задокументировала созданные ChatGPT карикатуры с подписями, которые, по-видимому, принадлежали настоящим художникам, хотя те не создавали эти изображения. Сгенерированный рисунок получил идентичность названного художника; одновременно модель имитировала визуальный стиль журнала.
  • Почему это важно:Когда карикатуру распространяют отдельно от исходного контекста, вместе с ней может распространяться и подпись. Лопер рассказал Nieman Lab, что его спрашивали, не он ли создал подписанное изображение. Для художников и издателей непосредственная проблема — ложная атрибуция; сами подписи не показывают, как модель их усвоила и было ли нарушено какое-либо право.
  • За чем следить:После того как Дек сообщил OpenAI о проблеме, ChatGPT начал предупреждать его о сходстве с материалами третьих лиц, однако, по его словам, некоторые изображения с подписями продолжали появляться. Прекратятся ли такие результаты, станет конкретным показателем реакции OpenAI. На момент публикации материала Дека компания не объяснила причину и не объявила о завершённом исправлении.

Что проверялось в материале

По словам Дека, его запросы к ChatGPT приводили к созданию карикатур с подписями, связанными, среди прочих, с Джорджем Бутом, Лизой Доннелли, Эллисом Розеном и Солом Стейнбергом. Он также нашёл на интернет-форумах примеры с именами других авторов журнала. Результаты различались: на одних изображениях подписей не было, на других появлялись вымышленные псевдонимы. После его обращения к OpenAI ChatGPT, по его словам, начал показывать предупреждение о сходстве с материалами третьих лиц на запросы в стиле The New Yorker. К моменту публикации некоторые созданные карикатуры всё ещё содержали имена настоящих художников.

Это испытания, о которых сообщил Дек, а не эксперимент BIG CHANGE. В материале нет полного набора запросов, версии модели, размера выборки или доли изображений с подписями. Отсутствие этих данных ограничивает выводы о текущем поведении для разных пользователей и версий.

Рассказ Лопера показывает последствия появления подписи на распространяемом изображении: зрители спрашивали, не он ли его создал. Карикатуристка Эмили Флейк сказала Деку, что сгенерированные рисунки напоминали смесь стилей разных художников, а подписи воспроизводили её псевдоним. Для художников важно различать эти случаи: карикатура может напоминать жанр, не приписываясь конкретному человеку; подпись делает такую атрибуцию явной.

OpenAI сообщила Nieman Lab, что приветствует сведения об ошибках и непреднамеренном поведении модели, чтобы иметь возможность их исправлять. В заявлении не объяснялись причины, не указывалось на завершённое исправление и не назывались сроки. Дек сообщил, что предупреждение появилось после его обращения, а изображения с подписями продолжали возникать во время последующих проверок.

Чего подпись доказать не может

В объявлении OpenAI о партнёрстве с Condé Nast, опубликованном в 2024 году, говорилось, что в рамках соглашения в продуктах OpenAI будут показываться материалы таких брендов, как The New Yorker . Объявление не раскрывает договор и не утверждает, что иллюстрации были лицензированы для обучения модели. Представитель New Yorker сообщил Nieman Lab, что Condé Nast не давала разработчикам больших языковых моделей разрешения обучать их на своих карикатурах. Дек также рассказал, что изучил типовые договоры с художниками-карикатуристами, которые не разрешали лицензирование для обучения ИИ. Это отдельные заявления о правах; видимые подписи сами по себе не показывают, как модель усвоила этот образец, и не определяют условия какого-либо соглашения.

Дек спросил OpenAI, как подписи могли попасть в обучающие материалы, и сообщил, что ответа на этот вопрос не получил. Он беседовал с профессором права Корнеллского университета Джеймсом Гриммельманом о возможных правовых теориях, включая право на публичность. В этой дискуссии рассматриваются возможные требования и препятствия, а не судебное решение по этим изображениям. Нарушает ли конкретная карикатура чьи-либо права, пока не установлено.