OpenAI kaže da je zabranio grupe naloga povezane sa ruskim i iranskim operacijama uticaja koje su koristile ChatGPT za pripremu internih izveštaja, doterivanje članaka i izradu dela obmanjujućeg materijala. U izveštaju od 8. oktobra opisuje kampanje zasnovane na lažnim institucijama i identitetima, ali ne utvrđuje njihov stvarni domet među publikom.

Velika promena

  • Izveštaj predstavlja ChatGPT kao jedan alat u širem procesu uticaja, sa najjasnijom ulogom u internom izveštavanju i uređivanju.
  • OpenAI kaže da se deo izmišljenog materijala pojavio na internetu i da su iranski operativci objavljivali članke pod lažnim potpisima u stvarnim medijima; glavni izvor za te nalaze je prikaz same kompanije.
  • Domet koji su operativci tvrdili nije bio pouzdan. OpenAI navodi da su neke tvrdnje potkrepljene, a neke nisu, i da se uticaj na publiku ne može utvrditi na osnovu njihovih sopstvenih metrika.

Prema OpenAI-ju, ruska operacija nazvana „Dark Clark” koristila je ChatGPT uglavnom za sastavljanje i ažuriranje izveštaja o kampanji. Kompanija kaže da su operativci model koristili i za pripremu nekih lažnih dokumenata, audio-scenarija i poruka. Operacija je navodno delovala preko „istraživačkog centra” Social Research Center, iza izmišljene osobe „Mia Clark”; ljudi angažovani u Latinskoj Americi možda nisu znali ko kontroliše organizaciju.

OpenAI kaže da su istražitelji pronašli primere podudarnog sadržaja i izveštavanja proverivača činjenica ili zvaničnika. Jedan primer bio je izmišljeni snimak koji je tvrdio da Ekvador regrutuje mlade da se bore u Ukrajini. Ekvadorska organizacija za proveru činjenica, Lupa Media, zasebno je objavila da navodni prilog Teleamazonasa ne postoji, da su u snimku korišćene ukradene slike sa društvenih mreža, da je audio generisan veštačkom inteligencijom i da navedena kompanija nije bila valjano registrovana. To potvrđuje postojanje i fabrikovanje sličnog sadržaja, ali nezavisno ne utvrđuje ko ga je naručio niti dokazuje svaki element OpenAI-jevog prikaza.

Iranska operacija „Bogus Bylines” koristila je ChatGPT za uređivanje dugih članaka i predloga, pisanje imejlova za kontakt, generisanje serija komentara za društvene mreže i doterivanje internih izveštaja, kaže OpenAI. Kompanija je identifikovala skoro 100 članaka objavljenih ili prenetih pod sedam izmišljenih novinarskih identiteta u otprilike desetak medija, od jula 2025. do oktobra 2026. To su nalazi istrage OpenAI-ja. Nezavisni izveštaji pregledani za ovu priču prenose nalaze kompanije, ali ne sadrže posebnu reviziju svih potpisa ili publikacija.

Izveštaj jasno razlikuje proizvodnju materijala od njegove distribucije. OpenAI kaže da su komentari iranske operacije objavljivani u kratkom razmaku, ali da nije našao dokaze da su njegovi modeli automatizovali objavljivanje. Mnoge komentare opisuje kao slabo zapažene. Interni izveštaji operativaca brojali su preglede objava na koje su odgovarali, a ne preglede njihovih odgovora, i poređivali ukupne brojeve tokom neodređenog perioda. Takva metoda ne može da izdvoji da li je kampanja izazvala te preglede.

OpenAI je rusku operaciju ocenio kategorijom 5, a iranski pokušaj plasmana članaka kategorijom 4 prema Breakout Scale-u. Tu skalu, koju je Brookings predložio 2020, čini kategorizacija operacija uticaja prema uočljivom širenju kroz platforme i zajednice, uključujući prodor u glavne medije ili izazivanje velike pažnje ili konkretnih postupaka. To su procene OpenAI-ja, a ne nezavisna merenja broja ljudi koji su poverovali porukama ili promenili ponašanje.

Ova razlika je važna za čitaoce koji žele da razumeju šta je generativna veštačka inteligencija promenila. Izveštaj opisuje pomoć pri pisanju, uređivanju, prevođenju, izradi scenarija i internom sažimanju. Ne pokazuje da je ChatGPT samostalno vodio kampanje, birao mete ili kontrolisao njihovo širenje. Ljudi i uobičajena infrastruktura obezbedili su lažne identitete, predloge medijima, društvene naloge i objave. U jednom opisanom slučaju, operativci su modelom doterali i preveli lažno pismo, a zatim su se na internetu pojavili podudarni slika i audio. Taj sled pokazuje kako jezički model može da podrži lanac proizvodnje kojim upravljaju ljudi; ne utvrđuje da je model napravio svaki deo konačnog materijala.

Za platforme i izdavače teži problem je zato poreklo i koordinacija, a ne samo otkrivanje rečenica napisanih mašinski. Uglađen predlog može biti obična pomoć u pisanju; rizik se menja kada je povezan s izmišljenim potpisom, skrivenim sponzorom ili koordinisanim plasmanom. Isto tako, stvarni zaposleni može nesvesno stvarati autentičan novinarski sadržaj za organizaciju čiju kontrolu ne razume. Opis Social Research Center-a u izveštaju OpenAI-ja čini tu mogućnost posebno relevantnom, mada se karakterizacija zasniva na dokazima kompanije.

Za redakcije praktične provere ostaju poznate: proveriti identitet autora i kontrolu nad organizacijom, kontaktirati izvore preko nezavisno utvrđenih kanala, ispitati tvrdnje i dokumente na njihovom izvoru i ne tretirati broj interakcija kao dokaz uticaja. Izveštaj daje primere kako se takve provere mogu zaobići ili manipulisati, ali ne nudi potpuno merenje izloženosti ili kasnijih političkih posledica.

OpenAI kaže da je zabranio grupe naloga i podelio informacije sa nadležnim organima i partnerima iz industrije. Javni izveštaj daje detaljan uvid u istragu kompanije, ali njene kategorije i pripisivanje kampanja treba čitati kao nalaze OpenAI-ja. Nezavisna provera podržava neke konkretne primere. Ukupan domet, potpuna struktura kontrole operativaca i bilo kakvi trajni efekti ostaju manje izvesni od aktivnosti koje OpenAI kaže da je uočio.

Izvori i dodatno čitanje