Карикатура коју је направила вештачка интелигенција кружила је са псеудонимом Брендана Лопера у углу, иако је он није нацртао. У извештају Ниман Лаба од 5. октобра Лопер је рекао да су га људи контактирали да питају да ли је то његов рад.

Новинар Ендру Дек је пронашао сличне слике објављене на интернету и сам направио карикатуре у стилу Њујоркера помоћу ChatGPT-а. У тим изворима је забележио потписе повезане са више од 15 карикатуриста часописа. То је број уметника у примерима које је пронашао, а не мера учесталости којом ChatGPT ствара стварни потпис или броја таквих карикатура које круже.

Велика промена

  • Шта се променило:Ниман Лаб је документовао карикатуре које је направио ChatGPT са потписима за које се чини да припадају стварним карикатуристима, иако ти уметници нису направили слике. Резултат је генерисаном цртежу приписао идентитет именованог уметника, уз имитацију визуелног стила часописа.
  • Зашто је важно:Потпис може да се шири заједно са карикатуром када се она дели ван првобитног контекста. Лопер је рекао Ниман Лабу да су га људи питали да ли је направио слику са потписом. За уметнике и издаваче непосредан проблем је лажно приписивање; сами потписи не показују како их је модел научио нити да ли је прекршен неки закон.
  • Шта пратити:Након што је Дек обавестио OpenAI, ChatGPT је почео да га упозорава на сличност са садржајем трећих страна, али је он известио да су се неки потписани резултати и даље појављивали. Да ли ће престати да се појављују конкретна је мера реакције OpenAI-ја. У време Дековог извештаја компанија није објаснила узрок нити најавила завршену исправку.

Шта је извештај тестирао

Дек наводи да су његови упити ChatGPT-у произвели карикатуре са потписима повезаним, између осталих, са Џорџом Бутом, Лизом Донели, Елисом Розеном и Солом Стајнбергом. Нашао је и примере на интернет форумима са именима других сарадника. Резултати су се разликовали: неки нису имали потпис, а други су имали измишљене псеудониме. Након што је обавестио OpenAI, ChatGPT је почео да приказује упозорење о сличности са садржајем трећих страна за његове захтеве у стилу Њујоркера, известио је. У време објаве, неке генерисане карикатуре и даље су носиле имена стварних карикатуриста, рекао је.

Ово је Деков опис тестирања, а не експеримент BIG CHANGE-а. Извештај не садржи комплетан скуп упита, верзију модела, величину узорка нити удео потписаних резултата. Недостатак тих детаља ограничава тврдње о садашњем понашању међу корисницима или верзијама.

Лоперово сведочење показује последицу појаве ознаке на дељеној слици: посматрачи су га питали да ли ју је он направио. Карикатуристкиња Емили Флејк рекла је Деку да су генерисани цртежи изгледали као мешавина стилова уметника, док су потписи репродуковали њен псеудоним. Та разлика је важна за уметнике: карикатура може да подсећа на жанр а да се не приписује именованој особи; потпис ту атрибуцију чини изричитом.

OpenAI је рекао Ниман Лабу да цени пријаве грешака и ненамерног понашања модела како би могао да их реши. Изјава није објаснила узрок, навела завршену исправку нити дала рок. Дек је известио да се упозорење појавило након његове пријаве и да су се потписани резултати наставили током његових накнадних провера.

Шта потпис не доказује

У саопштењу OpenAI-ја из 2024. о партнерству са Condé Nast-ом наводи се да ће договор омогућити приказ садржаја брендова као што је The New Yorker у производима OpenAI-ја. Саопштење не објављује уговор нити каже да су карикатуре лиценциране за обуку модела. Портпарол New Yorker-а рекао је Ниман Лабу да Condé Nast није дао дозволу ниједном развојном тиму великих језичких модела да обучава моделе на његовим карикатурама. Дек је такође известио да је прегледао примерке уговора за сараднике карикатуристе који нису дозвољавали лиценце за обуку вештачке интелигенције. То су одвојене изјаве о правима; видљиви потписи сами не показују како је модел усвојио образац нити одређују шта било који уговор покрива.

Дек је питао OpenAI како су потписи могли да доспеју у материјале за обуку и известио да није добио одговор. Разговарао је са Џејмсом Гримелманом, професором права на Корнелу, о могућим правним теоријама, укључујући право на публицитет. Та расправа износи могуће захтеве и препреке, а не судску одлуку о овим сликама. И даље није решено да ли одређена карикатура крши нечија права.