Sinabi ng OpenAI na ipinagbawal nito ang mga kumpol ng account na inuugnay sa mga operasyong pang-impluwensiya ng Russia at Iran na gumamit ng ChatGPT para maghanda ng panloob na ulat, mag-ayos ng mga artikulo, at lumikha ng ilang mapanlinlang na materyal. Inilalarawan ng salaysay nito noong Oktubre 8 ang mga kampanyang gumamit ng mga pekeng institusyon at pagkakakilanlan, ngunit hindi tiyak ang lawak ng tunay na audience ng mga ito.

Ang malaking pagbabago

  • Inilalarawan ng ulat ang ChatGPT bilang isang kasangkapan sa mas malawak na daloy ng gawaing pang-impluwensiya, na pinakamalinaw ang papel sa panloob na pag-uulat at pag-edit.
  • Sinabi ng OpenAI na lumitaw online ang ilang gawang-isip na materyal at naglagay ang mga operatong Iranian ng mga artikulong may pekeng byline sa mga totoong outlet; pangunahing pinagmumulan ng mga natuklasang ito ang sariling salaysay ng kumpanya.
  • Hindi maaasahan ang sinasabing abot ng mga operator. Ayon sa OpenAI, may ilang pahayag na nakumpirma at may iba namang hindi; hindi matutukoy ang epekto sa audience mula sa mga sukatan ng mga operator mismo.

Ayon sa kumpanya, pangunahing ginamit ng operasyong Ruso na tinawag ng OpenAI na “Dark Clark” ang ChatGPT sa paggawa at pag-update ng mga ulat tungkol sa kampanya. Sinabi ng OpenAI na ginamit din ng mga operator ang modelo para maghanda ng ilang pekeng dokumento, script ng audio, at mensahe. Kumikilos umano ang operasyon sa pamamagitan ng “think tank” na Social Research Center, na kinatawan ng kathang katauhang “Mia Clark”; maaaring hindi alam ng mga kinuha sa Latin America kung sino ang kumokontrol sa organisasyon.

Sinabi ng OpenAI na nakakita ang mga imbestigador nito ng mga halimbawang magkatugma ang content at pag-uulat ng mga fact-checker o opisyal. Isang halimbawa ang pekeng video na nagsasabing nagre-recruit ang Ecuador ng kabataan para lumaban sa Ukraine. Hiwalay na iniulat ng organisasyon sa Ecuador na sumusuri ng katotohanan, Lupa Media na walang ganoong ulat ang Teleamazonas, gumamit ang video ng ninakaw na mga larawan mula sa social media, AI-generated ang audio, at walang wastong rehistro ang kumpanyang pinangalanan. Sinusuportahan nito ang pag-iral at pagkakagawa ng katulad na materyal, ngunit hindi nito independiyenteng natutukoy kung sino ang nag-utos nito o napapatunayan ang lahat ng bahagi ng salaysay ng OpenAI.

Ayon sa OpenAI, ginamit ng operasyong Iranian na tinawag na “Bogus Bylines” ang ChatGPT sa pag-edit ng mahahabang artikulo at pitch, paggawa ng outreach email, pagbuo ng mga batch ng komento sa social media, at pag-polish ng panloob na ulat. Tinukoy ng kumpanya ang halos 100 artikulong inilathala o muling inilathala sa humigit-kumulang isang dosenang outlet, gamit ang pitong inimbentong pagkakakilanlang pangmamamahayag, mula Hulyo 2025 hanggang Oktubre 2026. Mga natuklasan ito ng imbestigasyon ng OpenAI. Iniulat ng independiyenteng coverage na sinuri para sa kuwentong ito ang natuklasan ng kumpanya ngunit hindi nagpakita ng hiwalay na audit sa lahat ng byline o publikasyon.

Malinaw ding pinag-iiba ng ulat ang paglikha ng materyal at ang pamamahagi nito. Sinabi ng OpenAI na dikit-dikit ang oras ng pag-post ng mga komento sa social media ng operasyong Iranian, ngunit wala itong nakitang ebidensiyang in-automate ng mga modelo nito ang pag-post. Inilarawan nitong kakaunti ang naging engagement sa maraming komento. Binilang sa panloob na ulat ng mga operator ang views ng mga post na sinagot nila, hindi ang views ng mga sagot nila, at inihambing ang mga kabuuan sa panahong hindi tinukoy. Hindi maihihiwalay ng paraang iyon kung ang kampanya ang nagdulot ng mga view.

Binigyan ng OpenAI ng Kategorya 5 sa Breakout Scale ang operasyong Ruso at Kategorya 4 ang pagsisikap ng Iran na maglagay ng mga artikulo. Iminungkahi ng Brookings noong 2020 ang iskala, na nag-uuri ng mga operasyong pang-impluwensiya ayon sa nakikitang pagkalat sa mga platform at komunidad, kabilang kung nakararating ang content sa pangunahing media o nagdudulot ng atensiyon ng matataas na personalidad o kongkretong aksiyon. Mga pagtatasa ito ng OpenAI, hindi independiyenteng sukat ng dami ng naniwala sa mga mensahe o nagbago ng asal.

Mahalaga ang pagkakaibang ito para sa mga mambabasang gustong maunawaan kung ano ang binago ng generative AI. Inilalarawan ng ulat ang tulong sa pagsulat, pag-edit, pagsasalin, paggawa ng script, at panloob na pagbubuod. Hindi nito ipinakikitang nagsagawa nang mag-isa ang ChatGPT ng mga kampanya, pumili ng mga target, o kumontrol sa pamamahagi. Mga tao at karaniwang imprastraktura ang naglaan ng mga pekeng pagkakakilanlan, pitch sa mga outlet, social account, at pag-post. Sa isang kasong inilarawan, ginamit ng mga operator ang modelo para ayusin at isalin ang pekeng liham, at kalaunan ay lumitaw online ang katugmang larawan at audio. Ipinakikita ng pagkakasunod-sunod kung paano makatutulong ang text model sa prosesong pinamumunuan ng tao; hindi nito pinatutunayang modelo ang lumikha sa bawat bahagi ng pinal na materyal.

Samakatuwid, ang mas mahirap na suliranin para sa mga platform at publisher ay pinagmulan at koordinasyon, hindi lamang pagtukoy ng mga pangungusap na isinulat ng makina. Maaaring karaniwang tulong sa pagsulat ang maayos na pitch; nagbabago ang panganib kapag kaugnay ito ng kathang byline, nakatagong sponsor, o koordinadong paglalathala. Maaari ring hindi namamalayang makagawa ng tunay na pag-uulat ang isang totoong empleyado para sa organisasyong hindi niya nauunawaan kung sino ang kumokontrol. Dahil sa salaysay ng ulat ng OpenAI tungkol sa Social Research Center, lalong mahalaga ang posibilidad na ito, bagaman nakabatay pa rin sa ebidensiya ng kumpanya ang paglalarawan.

Pamilyar pa rin ang mga praktikal na pagsusuri para sa mga newsroom: tiyakin ang pagkakakilanlan ng awtor at kontrol sa organisasyon, kontakin ang mga source gamit ang mga channel na independiyenteng naitatag, suriin ang mga pahayag at dokumento sa pinagmulan ng mga ito, at huwag ituring na patunay ng impluwensiya ang bilang ng engagement. Nagbibigay ang ulat ng mga halimbawang nagpapakita kung paano malalampasan o mamanipulahin ang mga pagsusuring ito; hindi nito ganap na sinusukat ang exposure o mga susunod na epektong pampolitika.

Sinabi ng OpenAI na ipinagbawal nito ang mga kumpol ng account at nagbahagi ng impormasyon sa mga kaugnay na awtoridad at katuwang sa industriya. Detalyadong inilalahad ng pampublikong ulat ang imbestigasyon ng kumpanya, ngunit dapat ituring na mga natuklasan ng OpenAI ang mga kategorya at pag-uugnay nito sa mga kampanya. Sinusuportahan ng independiyenteng fact-checking ang ilang partikular na halimbawa. Hindi gaanong tiyak ang kabuuang abot, buong estruktura ng kontrol ng mga operator, at anumang pangmatagalang epekto kaysa sa aktibidad na sinasabi ng OpenAI na naobserbahan nito.

Mga source at karagdagang babasahin