OpenAI каже да је блокирао групе налога повезане са руским и иранским операцијама утицаја које су користиле ChatGPT за припрему интерних извештаја, дораду чланака и израду неких обмањујућих материјала. У опису од 8. октобра говори се о кампањама заснованим на лажним институцијама и идентитетима, али стварни домет међу публиком остаје неизвестан.

Главна промена

  • Извештај представља ChatGPT као један алат у ширем току рада на утицају, са најјаснијом улогом у интерном извештавању и уређивању.
  • OpenAI каже да се део измишљеног материјала појавио на интернету и да су ирански оператери објављивали чланке под лажним потписима у стварним медијима; главни извор тих налаза је сопствени приказ компаније.
  • Домет који су оператери тврдили није био поуздан. OpenAI наводи да су неке тврдње потврђене, а друге нису, и да се утицај на публику не може закључити из метрика самих оператера.

Према компанији, руска операција коју је OpenAI назвао „Dark Clark“ углавном је користила ChatGPT за писање и ажурирање извештаја о кампањи. OpenAI каже да су оператери користили модел и за припрему неких лажних докумената, аудио-сценарија и порука. Операција је наводно деловала преко „тинк-тенка“ Social Research Center, који је представљала измишљена персона „Mia Clark“; људи ангажовани у Латинској Америци можда нису знали ко контролише организацију.

OpenAI каже да су његови истражитељи нашли примере подударног садржаја и извештавања проверавача чињеница или званичника. Један пример је био измишљени видео у ком се тврди да Еквадор регрутује младе за борбу у Украјини. Еквадорска организација за проверу чињеница, Lupa Media , засебно је известила да наводни прилог Teleamazonasa не постоји, да видео користи украдене слике са друштвених мрежа, да је аудио генерисан вештачком интелигенцијом и да наведена компанија нема важећу регистрацију. То потврђује постојање и фабриковање сличног материјала, али не утврђује независно ко га је наручио нити доказује све елементе OpenAI-јевог приказа.

Иранска операција названа „Bogus Bylines“ користила је ChatGPT за уређивање дугачких чланака и предлога, писање имејлова за контакт, генерисање серија коментара за друштвене мреже и дораду интерних извештаја, наводи OpenAI. Компанија је идентификовала скоро 100 чланака објављених или синдикованих под седам измишљених новинарских идентитета у око десетак медија, од јула 2025. до октобра 2026. То су налази истраге OpenAI-ја. Независни извештаји прегледани за ову причу преносе налазе компаније, али не доносе посебну ревизију свих потписа или публикација.

Извештај јасно разликује производњу материјала од његове дистрибуције. OpenAI каже да су коментари иранске операције на друштвеним мрежама објављивани у кратком размаку, али да није нашао доказ да су његови модели аутоматизовали објављивање. Компанија каже да су многи коментари имали мало реакција. Интерни извештаји оператера бројали су прегледе објава на које су одговарали, а не прегледе њихових одговора, и поредили укупне бројеве током неодређеног периода. Тај метод не може да издвоји да ли је кампања изазвала те прегледе.

OpenAI је руску операцију оценио категоријом 5, а ирански покушај пласирања чланака категоријом 4 на Breakout Scale-у. Скала, коју је Brookings предложио 2020, категорише операције утицаја по уочљивом ширењу кроз платформе и заједнице, укључујући улазак садржаја у главне медије или изазивање пажње високог профила и конкретне акције. То су процене OpenAI-ја, а не независна мерења броја људи који су поверовали порукама или променили понашање.

Ова разлика је важна читаоцима који желе да разумеју шта је генеративна вештачка интелигенција променила. Извештај описује помоћ при писању, уређивању, превођењу, изради сценарија и интерних сажетака. Не показује да је ChatGPT самостално водио кампање, бирао мете или контролисао дистрибуцију. Људи и уобичајена инфраструктура обезбедили су лажне идентитете, предлоге медијима, налоге на друштвеним мрежама и објављивање. У једном описаном случају, оператери су користили модел да дораде и преведу лажно писмо, а затим су се на интернету појавили одговарајућа слика и аудио. Тај след показује како језички модел може да подржи ланац производње који усмеравају људи; не доказује да је модел створио сваки део коначног материјала.

За платформе и издаваче тежи проблем су порекло и координација, а не само откривање реченица које је написала машина. Углађен предлог може бити обична помоћ у писању; ризик се мења када је повезан са измишљеним потписом, скривеним спонзором или координисаним пласирањем. И стварни запослени може несвесно да прави аутентичне извештаје за организацију чију контролу не разуме. Опис Social Research Center-а у извештају OpenAI-ја чини ову могућност посебно релевантном, мада се та карактеризација и даље заснива на доказима компаније.

За редакције су практичне провере познате: проверити идентитет аутора и контролу над организацијом, контактирати изворе преко независно успостављених канала, проверити тврдње и документе на њиховом извору и не третирати метрике ангажовања као доказ утицаја. Извештај даје примере како се ове провере могу заобићи или манипулисати; не доноси потпуно мерење изложености или каснијих политичких последица.

OpenAI каже да је блокирао групе налога и поделио информације са релевантним властима и партнерима из индустрије. Јавни извештај детаљно приказује истрагу компаније, али њене категорије и приписивање кампања треба читати као налазе OpenAI-ја. Независна провера чињеница подржава неке конкретне примере. Укупан домет, потпуна структура контроле оператера и евентуални трајни ефекти мање су извесни од активности за које OpenAI каже да их је уочио.

Извори и додатно читање