Kumalat ang cartoon na ginawa ng AI na may pen name ni Brendan Loper sa sulok, kahit hindi siya ang gumuhit nito. Nasa ulat ng Nieman Lab noong Oktubre 5 sinabi ni Loper na may mga taong kumontak sa kanya para tanungin kung siya ang gumawa nito.

Nakakita ang reporter na si Andrew Deck ng mga kahawig na larawang inilathala online at siya mismo ang gumawa ng mga cartoon na estilo ng New Yorker sa ChatGPT. Idinokumento niya sa dalawang source ang mga pirma na iniuugnay sa mahigit 15 cartoonist ng magazine. Bilang ito ng mga artist sa mga halimbawang nakita niya, hindi sukat kung gaano kadalas lumilikha ang ChatGPT ng tunay na pirma o kung ilan ang kumakalat na cartoon na ganito.

Ang malaking pagbabago

  • Ano ang nagbago:Idinokumento ng Nieman Lab ang mga cartoon na nilikha ng ChatGPT na may mga mukhang tunay na pirma ng cartoonist, kahit hindi ginawa ng mga artist ang mga larawan. Iniugnay ng output ang identidad ng isang pinangalanang artist sa iginuhit na larawan, kasabay ng paggaya sa biswal na estilo ng magazine.
  • Bakit mahalaga:Maaaring makasama ang pirma sa cartoon kapag ibinahagi ito nang hiwalay sa orihinal nitong konteksto. Sinabi ni Loper sa Nieman Lab na may mga nagtanong kung siya ang gumawa ng larawang may pirma. Para sa mga artist at publisher, ang agarang problema ay maling pag-aakda; hindi pinatutunayan ng mga pirma lamang kung paano natutuhan ng modelo ang mga ito o kung may nilabag na batas.
  • Ano ang dapat bantayan:Matapos abisuhan ni Deck ang OpenAI, nagsimulang magbabala ang ChatGPT sa kanya tungkol sa pagkakahawig sa content ng third party, ngunit iniulat niyang nagpatuloy ang ilang output na may pirma. Konkretong sukatan ng tugon ng OpenAI kung titigil ang mga output na iyon. Nang ilathala ang ulat ni Deck, hindi pa ipinaliwanag ng kompanya ang sanhi o nag-anunsiyo ng kumpletong pag-aayos.

Ano ang sinubok ng ulat

Ayon kay Deck, gumawa ang mga prompt niya sa ChatGPT ng mga cartoon na may mga pirmang iniuugnay kina George Booth, Liza Donnelly, Ellis Rosen at Saul Steinberg, bukod sa iba pa. Nakakita rin siya sa mga online forum ng mga halimbawang may pangalan ng ibang contributor. Nag-iba-iba ang resulta: walang pirma ang ilang output at may inimbentong pen name naman ang iba. Matapos niyang ipaalam ito sa OpenAI, nagsimulang magpakita ang ChatGPT ng babala tungkol sa pagkakahawig sa third-party content para sa mga request niyang estilo ng New Yorker, ayon sa kanya. Nang mailathala ang ulat, iniulat niyang may ilan pa ring nabuong cartoon na may pangalan ng tunay na cartoonist.

Iniulat na pagsubok ito ni Deck, hindi eksperimento ng BIG CHANGE. Walang kumpletong set ng prompt, bersyon ng modelo, laki ng sample o proporsiyon ng mga output na may pirma sa ulat. Dahil kulang ang mga detalyeng iyon, limitado ang anumang pahayag tungkol sa kasalukuyang asal sa iba’t ibang user o bersyon.

Ipinakikita ng salaysay ni Loper ang epekto kapag lumitaw ang marka sa larawang ibinahagi: tinanong siya ng mga nakakita kung siya ang gumawa nito. Sinabi ng cartoonist na si Emily Flake kay Deck na mukhang pinaghalong estilo ng mga artist ang mga nabuong guhit, samantalang ginaya ng mga pirma ang pen name niya. Mahalaga ang pagkakaiba para sa mga artist: maaaring kahawig ng cartoon ang isang genre nang hindi iniuugnay sa pinangalanang tao; tahasang ipinahihiwatig ng pirma ang pag-uugnay na iyon.

Sinabi ng OpenAI sa Nieman Lab na pinahahalagahan nito ang mga ulat tungkol sa bug at hindi sinasadyang asal ng modelo upang matugunan ang mga ito. Hindi ipinaliwanag ng pahayag ang sanhi, tinukoy ang kumpletong pag-aayos o nagbigay ng takdang panahon. Iniulat ni Deck na lumitaw ang babala matapos ang abiso niya at nagpatuloy ang mga output na may pirma sa mga sumunod niyang pagsusuri.

Hindi pinatutunayan ng pirma

Sa anunsiyo ng OpenAI noong 2024 tungkol sa pakikipagsosyo nito sa Condé Nast nakasaad na ipapakita ng kasunduan ang content mula sa mga brand kabilang ang The New Yorker sa mga produkto ng OpenAI. Hindi inilalantad nito ang kontrata o sinasabing lisensiyado ang sining ng cartoon para sa training ng modelo. Sinabi ng isang tagapagsalita ng New Yorker sa Nieman Lab na hindi nagbigay ang Condé Nast ng pahintulot sa sinumang developer ng LLM na mag-training sa mga cartoon nito. Iniulat din ni Deck na sinuri niya ang mga template contract ng mga contributor na cartoonist na hindi nagpapahintulot ng lisensiya para sa AI training. Magkahiwalay na pahayag ang mga ito tungkol sa karapatan; hindi maipakikita ng nakikitang pirma lamang kung paano natutuhan ng modelo ang pattern o matutukoy ang saklaw ng anumang kasunduan.

Tinanong ni Deck ang OpenAI kung paano maaaring napunta ang mga pirma sa training material nito at iniulat niyang wala siyang natanggap na sagot sa tanong na iyon. Kinausap niya si James Grimmelmann, propesor ng batas sa Cornell, tungkol sa mga posibleng legal na teorya, kabilang ang karapatan sa publisidad. Tinutukoy ng talakayan ang posibleng mga paghahabol at hadlang, hindi pasya ng hukuman tungkol sa mga larawang ito. Hindi pa malinaw kung nilalabag ng isang partikular na cartoon ang karapatan ng sinuman.