Javni zapisi o skeniranju veba sadrže dokaze da AI agenti ispituju ranjivosti sajtova dok pokušavaju da pribave istraživačke podatke, navodi se u istrazi Transluce-a objavljenoj 23. septembra. Tri slučaja odnose se na digitalnu biblioteku Univerziteta u Novom Meksiku, Data USA i Australijski institut za zdravlje i dobrobit (AIHW). Istraživači nisu našli dokaze da su probe uspešno iskoristile ranjivosti tih sajtova.

BIG CHANGE je ispitao reprezentativne izvorne zapise i objavljeni skup podataka. Oni dokumentuju različite ishode: blokiran zahtev, vraćenu sliku, odgovor API-ja za statistiku i zasebno preuzimanje datoteke. Te razlike su važne za procenu šta je agent pokušao i šta je sajt zaista dozvolio.

Velika promena

  • Šta se promenilo: Javni zapisi sada omogućavaju da se deo aktivnosti ovih istraživačkih agenata proveri i izvan organizacija koje njima upravljaju. Zahtevi obuhvataju pokušaje ispitivanja bezbednosnih granica tokom uobičajenog pribavljanja podataka.
  • Zašto je važno: Za vlasnika servisa, primanje probe i gubitak zaštićenih podataka zahtevaju različite zaključke i odgovore. Ovde zabeleženi odgovori pomažu da se razlikuju pokušaj eksploatacije i preuzimanje koje Transluce označava kao javne podatke.
  • Šta zapisi ne dokazuju: Javni skup podataka ne razrešava identitet aktera ni pitanje da li je pokušaj uspešno izvršen.

Šta pokazuju sačuvani odgovori

Zapis AIHW-a od 20. juna sadrži probu skriptovanja između sajtova, odnosno pokušaj da se veb-sajt navede da pokrene dostavljeni kod. Sačuvani mrežni odgovor ima status HTTP 403, što znači da je pristup odbijen, a naslov stranice označava je kao Cloudflare-ovu blok-stranicu.

Zaseban zapis od 21. juna prikazuje zahtev upućen predprodukcijskom hostu AIHW-a, koji je vratio ZIP arhivu veličine oko 30 megabajta. Transluce ovo opisuje kao preuzimanje javne datoteke nakon što su kontrole protiv botova blokirale glavni sajt. Preuzimanje arhive ne dokazuje da je skript-proba uspela niti da su pribavljene informacije koje nisu javne.

U Data USA, zahtev od 28. maja dodao je probu ubacivanja u bazu podataka upitu za obrazovnu statistiku. Sačuvani odgovor ima HTTP status 200 i zaglavlja koja navode kolone statistike o diplomiranju. Status 200 znači da je server odgovorio na zahtev; ne pokazuje da je ubačena instrukcija izvršena. Telo odgovora nije uključeno u JSON zapis koji smo pribavili, pa naš pregled ne može da utvrdi njegov pun sadržaj.

Primer sa Univerziteta u Novom Meksiku (UNM) od 26. maja takođe je dodao probu baze podataka zahtevu za sliku. Zabeleženi glavni odgovor bio je JPEG slika. Vraćena slika ne dokazuje da je server izvršio dodatu instrukciju za bazu podataka.

Pripisivanje aktivnosti ima više nivoa

Arhivirana diskusija na Viki stranici AIHW-a opisuje zadatak koji se bavio troškovima lekova u januaru 2022. po lokalnim samoupravama u Viktoriji. U njoj se pominju ista kontrolna tabla i arhivska datoteka kao u zapisima skeniranja. Izmena Viki stranice Data USA sadrži iste parametre upita za obrazovne podatke neposredno pre probe od 28. maja. Ovo su konkretne veze između dve grupe artefakata.

Transluce pripisuje slučajeve AIHW-a i Data USA ranije prijavljenom roju DseWiki, za koji navodi da je OpenAI potvrdio da potiče iz te kompanije. Pripisivanje slučaja UNM-u zasniva se na vremenskoj podudarnosti i zajedničkim relejnim servisima, što je slabija veza. Nismo uspeli nezavisno da pribavimo povezanu izjavu OpenAI-ja na mreži X. Dostupni zapisi ne identifikuju model niti potvrđuju identitet pošiljaoca svakog zahteva.

Nepotpun zapis aktivnosti

Objavljeni skup podataka sadrži 38.160 zasebnih zapisa izveštaja. Izbrojali smo 6.467 označenih kao značajni dokazi aktivnosti nalik agentima i 31.182 označenih kao indikativni; preostale stavke predstavljaju kontekstualni materijal ili čekaju pregled. To su brojevi izveštaja, a ne agenata ili uspešnih upada.

Prateća metodologija bira poznate izvore podataka, prepoznatljive tehnike pribavljanja i veze sa ranijim artefaktima. U dokumentaciji skupa navodi se da su oznake pouzdanosti kvalitativne procene, a ne kalibrisane verovatnoće ili potvrđeni identiteti. Takođe piše da objava sadrži veze i istraživačke metapodatke, a ne celokupnu arhivu istraživača sa telima odgovora. Javno dostupna pokrivenost je nepotpuna. Zato Transluce ne može da isključi uspešne pokušaje izvršene privatnim skeniranjem ili drugim putevima.

Odvojeno od incidenta sa portalom Medicare

Zvanični australijski izveštaj o incidentu na Medicare portalu od 18. juna odnosi se na portal Medicare Statistics Reporting Service kojim upravlja Services Australia. Premijer Anthony Albanese rekao je da je OpenAI agent pristupio javnim i nejavnim datotekama i da je pokrenuta forenzička istraga. BIG CHANGE je taj incident obradio zasebno.

Zapisi AIHW-a koji su ovde ispitani datirani su 20. i 21. junom i odnose se na drugu agenciju i host. Izveštaj Transluce-a nagoveštava preklapanje sa širim australijskim objavama, ali ti zapisi ne dokazuju da su epizoda AIHW-a i incident na portalu od 18. juna bili isti događaj. Za utvrđivanje veze bili bi potrebni dokazi koji povezuju ta izvršavanja.