Britanska Kolumbija je 21. septembra 2026. objavila tužbu protiv OpenAI-ja, podnetu zajedno sa školskim odborom Peace River South nakon pucnjave u školi u Tumbler Ridge-u. Pokrajina traži utvrđivanje odgovornosti za oporavak zajednice i jače zaštitne mere. Njeno saopštenje predstavlja stav vlade, ali ne dokazuje odgovornost kompanije. Saopštenje pokrajine
Čitaocima koji procenjuju bezbednost AI-ja korisno je da pitaju kako organizacija postupa sa informacijama koje je već označila. Model može da prepozna zabrinjavajući sadržaj, ali ljudi koji vode uslugu i dalje moraju da odluče šta on znači, koja je radnja opravdana i ko ima ovlašćenje da je preduzme. Te odluke treba ispitivati zajedno sa odgovorima modela.
Šta se suštinski menja
- Šta se promenilo: Pokrajina i školski odbor traže odštetu i promene bezbednosnih praksi OpenAI-ja u novom građanskom postupku.
- Zašto je važno: Otkrivanje zabrinjavajuće aktivnosti ostavlja otvorene važne odluke o ljudskoj proveri, daljem pristupu usluzi i obaveštavanju nadležnih organa. Za svaku odluku potreban je jasno određen odgovorni akter i obrazloživa osnova.
- Na šta treba obratiti pažnju: Dokazi o tim odlukama, načinu na koji sud razmatra tvrdnje i pitanju da li predloženi nadzor može da proceni propuštenu opasnost i istovremeno zaštiti ljude od neopravdanog zadiranja u privatnost.
Šta dokumenta potvrđuju
U tužbi pred saveznim sudom u Severnoj Kaliforniji kao tužioci se navode pokrajina i školski odbor Distrikta br. 59, a kao tuženi Sam Altman i pravna lica OpenAI-ja. U tužbi se navode propusti u prosleđivanju pretnji i bezbednosti proizvoda, a traže se odšteta i sudska zabrana. U napomeni 2 piše da evidencija razgovora tek treba da bude predata. Tvrdnje o internim odlukama i mogućnosti sprečavanja događaja zato zahtevaju dokaze; ova tužba nije sudska presuda. Podneta tužba
Raniji prikaz OpenAI-ja daje odvojenu polaznu tačku sa konkretnim datumom. U pismu kanadskom ministru za veštačku inteligenciju od 26. februara kompanija je navela da su automatsko otkrivanje i ljudska provera doveli do zabrane naloga u junu 2025. Prema njenim navodima, tada dostupne informacije nisu ispunjavale uslove za prosleđivanje policiji. U pismu je navedeno da bi kasnije pooštreni protokol doveo do prosleđivanja tog naloga i priznato da je drugi nalog pronađen tek nakon objavljivanja identiteta napadača. To su saopštenja kompanije, a ne nezavisno provereni nalazi o delotvornosti uvedenih izmena. Pismo iz februara
Reuters je izvestio da je OpenAI ponovio posvećenost saradnji sa nadležnim organima i nastavku bezbednosnog rada. Reuters
Prikaz iz februara prethodi novoj tužbi. Ne treba ga smatrati detaljnim odgovorom na tvrdnje iz tužbe. Isto tako, tvrdnja da bi kasniji protokol doveo do drugačije odluke ne može da utvrdi šta bi se dogodilo posle te odluke. Za procenu odgovornosti potrebno je ispitati dokaze koji su bili dostupni u datom trenutku i posledice mogućih odluka.
Otkrivanje, mere za nalog i prosleđivanje odgovaraju na različita pitanja
Saopštenje OpenAI-ja o bezbednosti zajednice od 28. aprila opisuje automatsko otkrivanje, a zatim kontekstualnu ljudsku procenu. Mogući ishodi uključuju odbacivanje upozorenja, dodatnu istragu i mere protiv naloga. Opisani su i žalbeni postupci i mere protiv naloga koji se ponavljaju. Na stranici piše da se razgovori koji ukazuju na neposredan i verodostojan rizik od štete po druge prijavljuju policiji. Ovo je javno objavljen postupak kompanije, a ne dokaz o tome kako je obrađen određeni slučaj. Politika bezbednosti zajednice
Razdvajanjem ovih koraka može se utvrditi koji bi dokazi bili korisni. Sistem za otkrivanje odgovara na pitanje početne provere: da li ovaj materijal zahteva pažnju? Sam rezultat ne može da razreši procenu o nekoj osobi. Ljudska procena treba da ispita kontekst i neizvesnost, uz dovoljno vremena i ovlašćenja da ospori početno upozorenje. Evidencija treba da sačuva razlog promene procene, uključujući i slučajeve kada su dodatne informacije umanjile zabrinutost zbog naizgled ozbiljnog signala.
Mere protiv naloga odnose se na pristup usluzi. Odluka o suspenziji naloga ne razrešava pitanje da li informacije treba da napuste kompaniju. Ni nedostatak osnova za prosleđivanje spoljnim organima nužno ne opravdava nastavak pristupa prema pravilima usluge. Ako se te odluke tretiraju zasebno, za svaku se mogu tražiti posebni dokazi i obrazloženje.
Zamislimo hipotetičku proveru u kojoj se zaposleni slažu da je nalog prekršio pravilo usluge, ali ne mogu da se dogovore da li postoji verodostojna spoljna opasnost. Korisna evidencija pokazala bi njihovo neslaganje, ko ga je razrešio i kakvo je obrazloženje primenjeno. Jedna oznaka, poput „preduzeta radnja”, sakrila bi gotovo sve što revizoru treba za procenu.
Prosleđivanje uključuje još jednu instituciju, sa sopstvenim ovlašćenjima i odgovornostima. Kompanija bi trebalo da objasni koje je informacije podelila, zašto je to bilo opravdano i kako je potvrdila da ih je primio odgovarajući primalac. Slanje informacija ne garantuje određeni odgovor niti sprečava određeni ishod. Pri proceni predaje predmeta nadležnima ta ograničenja treba jasno navesti.
Unapređenje jednog koraka može ostaviti drugi problem nerešenim. Bolje početno otkrivanje malo će značiti ako hitni pregledi ostanu nedodeljeni ili recenzenti ne mogu da dođu do osobe ovlašćene za postupanje. Promena politike zahteva odgovarajuću promenu mogućnosti zaposlenih da po njoj postupaju.
Revizija mora imati uvid u odluke i posledice
U tužbi se traže bezbednosne kontrole podložne reviziji i kvartalne provere usklađenosti koje bi sprovodio nezavisni nadzornik. To su predložene mere, a ne sudski naložene izmene. Tražene mere, strana 38
Postoji utvrđen okvir za upravljanje koji omogućava proveru donošenja odluka. NIST-ov dobrovoljni Okvir za upravljanje rizikom AI-ja iz 2023. zahteva dokumentovanje odgovornosti i komunikacije, odgovornost rukovodilaca za odluke o riziku i jasno određene uloge ljudskog nadzora. Njegove odredbe o merenju obuhvataju procenu osoba izvan timova za neposredni razvoj i proveru da li kontrole i dalje funkcionišu. Okvir predstavlja smernice, a ne presudu u ovom slučaju niti potvrdu neke kompanije. NIST AI RMF
Smatramo da bi delotvorna revizija morala da obuhvati put od zahteva za proveru do rešenja. To uključuje kašnjenja, nerešena neslaganja i slučajeve zaključene bez postupanja. Provera samo završenih prosleđivanja propustila bi odluke zbog kojih su informacije ostale u kompaniji. Provera samo neuspeha otkrivenih nakon štete dala bi iskrivljenu sliku svakodnevnih procena.
Revizor bi takođe morao da razlikuje pravila koja su važila u vreme odluke od kasnijih izmena. U suprotnom bi kompanija mogla delovati usklađeno samo zato što je objavila novu politiku, a da nije pokazala da su zaposleni obučeni, da su potrebni alati postojali ili da je neko proverio da li promena funkcioniše. Korisna naknadna provera traži datirane dokaze da je utvrđeni problem otklonjen.
Nalazi provere mogli bi da otkriju nejasna uputstva ili nedostatak osoblja, što se može ispraviti pre sledećeg teškog slučaja. Mogli bi i da potvrde da su zaposleni, uprkos neizvesnosti, razumno prosudili. Nadzor je uverljiviji kada može da stigne do bilo kog od ta dva zaključka i objasni dokaze na kojima se zasniva.
Nezavisnost zahteva praktična ovlašćenja. Procenitelj koji vidi samo odabrane primere ili zbirne brojke ne može da rekonstruiše sporne odluke. Pristup relevantnim zapisima, mogućnost prijavljivanja nerešenih pitanja i utvrđen postupak za uvođenje korektivnih mera važniji su od zvučne titule. I za te aranžmane bile bi potrebne zaštita privatnosti i ograničenja načina korišćenja osetljivih zapisa.
Više prijavljivanja može stvoriti drugačiji bezbednosni problem
Sistem koji se nagrađuje za veći broj prijava ima očigledan način da poboljša svoje brojke: da prijavljuje više ljudi. To može dovesti do nepotrebnog otkrivanja podataka i skrenuti pažnju sa ozbiljnijih signala. Broj prijava meri aktivnost; za procenu njihovog kvaliteta potrebni su dokazi o razlozima za njihovo podnošenje i kasnije otkrivenim greškama.
I suprotna ciljna vrednost može da zavede. Niska stopa poništavanja odluka može značiti tačne odluke ili nemogućnost ljudi da ih delotvorno ospore. Kratko prosečno vreme provere može da sakrije mali broj izuzetno dugih slučajeva. Pre nego što rukovodioci i spoljni recenzenti neku metriku prihvate kao dokaz bezbednosti, treba da pitaju šta ona izostavlja.
Privatnost je sastavni deo ove procene. Zapis o proveri može sadržati duboko lične informacije o osobi za koju se na kraju utvrdi da ne predstavlja relevantnu pretnju. Čuvanje dovoljno dokaza za ispitivanje odluke ne opravdava pristup svakog zaposlenog ni neograničeno zadržavanje svih povezanih razgovora. Svrha evidencije, dozvoljeni pristup i rok čuvanja treba da budu izričiti, uz odgovarajuće očuvanje podataka kada to nalažu zakonske obaveze.
Postoji i razlika između javnog objašnjenja sistema i izlaganja pojedinačnog zapisa neke osobe. Zbirni podaci o kašnjenjima provere, ispravljenim odlukama i promenama pravila mogli bi da pomognu javnom nadzoru. Detaljan pristup mogao bi da bude ograničen na ovlašćene procenitelje. I pri objavljivanju zbirnih podataka potreban je oprez kada bi mali uzorci ili neuobičajene okolnosti mogli da otkriju nečiji identitet.
Želeli bismo i da nadzor ispita nejednake greške. Ako se uporediv sadržaj različito tretira u različitim jezicima ili kontekstima, opšta brojka tačnosti može da sakrije problem. To je predlog pitanja za procenu, a ne tvrdnja da je u ovom slučaju dokazan takav obrazac.
Kako bi izgledao uverljiv sledeći korak
Tokom sudskog postupka čitaoci treba da razlikuju nove tvrdnje od predočenih dokaza i odluka koje je sud zaista doneo. Zahtev za zaštitnom merom govori šta tužilac traži. Posebno je pitanje da li je ta mera opravdana, dovoljno precizna ili propisana zakonom.
Za industriju bi koristan napredak bio vidljiv u izmenama postupaka sa jasnim datumima, nedvosmislenoj odgovornosti za teške odluke i dokazima da su izmene stigle do svakodnevnog rada. Kompanije treba da objasne obuhvat i ograničenja svake nezavisne procene. Donosioci politika treba da ispitaju troškove preteranog postupanja zajedno sa posledicama nepreduzimanja radnje.
Prilika je u tome da se bezbednosni rad lakše ispituje i ispravlja. Rizik je da javni pritisak dovede do šireg nadzora ili dodatne papirologije, bez boljih odluka. Čitaoci mogu postaviti konkretno pitanje o svakoj najavljenoj reformi: koji bi dokaz pokazao da ona unapređuje prosuđivanje, uključujući slučajeve kada je uzdržavanje od postupanja opravdan ishod?
