Rukovodioci istraživanja OpenAI-ja javno su 9. oktobra odgovorili na pismo troje bivših istraživača bezbednosti u objavi na X nalogu redakcije. Agencija Associated Press i Reuters prenose da je kompanija rekla kako je interna istraga utvrdila kršenja pravila o rukovanju osetljivim informacijama i opisala „značajan gubitak poverenja“ koji prevazilazi pismo. OpenAI je negirao da su otkazi bili posledica iznošenja bezbednosnih zabrinutosti. U objavi je navedeno i da se finalizuju ugovori sa spoljnim proceniteljima bezbednosti, uz najavu detalja u narednim nedeljama. Kompanija nije navela konkretno ponašanje ni pravilo koje je navodno prekršeno.

Velika promena

  • Šta se promenilo: Javni odgovor OpenAI-ja sada povezuje njegovo objašnjenje otkaza sa planom za finalizaciju ugovora sa spoljnim proceniteljima bezbednosti i ponovnom javnom potvrdom da je mogućnost nadzora modela obaveza čitave industrije.
  • Zašto je važno: Spor istraživača tiče se i njihovog tretmana i saradnje sa spoljnim bezbednosnim grupama. Obaveza OpenAI-ja daje ovom drugom pitanju konkretan naredni korak, dok uslovi, pristup i obim rada procenitelja ostaju nepoznati.
  • Šta pratiti: OpenAI je rekao da će detalji uslediti u narednim nedeljama. Oni mogu pokazati da li će nezavisni procenitelji dobiti trajan pristup koji su istraživači tražili i kako zaposleni mogu da dele informacije uz zaštitu poverljivog materijala.

Ovo je datirani nastavak izveštaja BIG CHANGE-a o pismu istraživača. U prvobitnom pismu nadzornim telima OpenAI-ja opisali su tri različite situacije. Tomek Korbak je rekao da mu je usmeno rečeno da je njegov otkaz povezan s načinom na koji je komunicirao sa organizacijom METR, neprofitnom grupom koja je procenjivala incident OpenAI-ja sa Hugging Face-om. Mikita Balesni je rekao da je njegov rad sa spoljnim grupama na mogućnosti nadzora bio usklađen s njegovom linijom izveštavanja i da je uklonio osetljive pojedinosti pre deljenja materijala. Jasmine Wang je rekla da joj je zbog zapošljavanja bio delegiran pristup imejlu rukovodioca, da je zatražila od IT-a da ga ukloni i da je prijavila slučajan klik na osetljivu poruku. Ovo su iskazi istraživača, a ne nezavisno utvrđeni nalazi.

Objava OpenAI-ja odgovara na dva centralna zahteva iz pisma. U celovitom tekstu koji je preneo The Indian Express navodi se da kompanija finalizuje ugovore sa spoljnim proceniteljima bezbednosti i ostaje posvećena uključivanju spoljnih recenzenata. Takođe se kaže da OpenAI smatra kako očuvanje mogućnosti nadzora najnaprednijih modela zahteva angažman cele industrije i da nastavlja ulaganja u taj rad. To su izjave kompanije o planovima i prioritetima; objava ne imenuje procenitelje, ne određuje njihov pristup niti objavljuje uslove ugovora.

U vezi sa otkazima, OpenAI je rekao da je istraga utvrdila kršenje pravila o rukovanju informacijama i da odluke nisu donete zbog kritika bezbednosti. Međutim, javna objava ne navodi informacije, konkretno pravilo ni dokaze koji potkrepljuju zaključak. Associated Press je izvestio da OpenAI neće dati više pojedinosti o razlozima otkaza. Reuters je izvestio da kompanija nije otkrila navodna kršenja. Nijedna redakcija nije objavila istražni spis niti nezavisno utvrdila čiji je iskaz tačan.

Spor oko zaposlenja takođe ne rešava zasebnu tehničku raspravu o mogućnosti nadzora. Istraživači tvrde da se sposobnost praćenja najnaprednijih modela pogoršava; OpenAI kaže da se slaže da je nadzor važan i da nastavlja ulaganja. Odgovor od 9. oktobra ne donosi nova merenja ni rezultate procene.

Izvori i dodatna literatura