Rukovodioci istraživanja OpenAI-ja javno su 9. oktobra odgovorili na pismo troje bivših istraživača bezbednosti u OpenAI Newsroom post on X. Associated Press i Reuters izveštavaju da je kompanija saopštila kako je interna istraga našla kršenje pravila o rukovanju osetljivim informacijama i opisala „značajan gubitak poverenja“ koji prevazilazi sadržaj pisma. OpenAI je negirao da su otkazi bili zbog iznošenja bezbednosnih zabrinutosti. U objavi se takođe kaže da se finalizuju ugovori sa spoljnim proceniteljima bezbednosti i da će detalji uslediti narednih nedelja. Kompanija nije navela konkretno ponašanje ni pravilo na koje se slučaj odnosi.

Velika promena

  • Šta se promenilo: Javni odgovor OpenAI-ja sada povezuje njegovo objašnjenje otkaza sa planom da finalizuje ugovore sa nezavisnim proceniteljima bezbednosti i javnom potvrdom da je mogućnost praćenja modela obaveza cele industrije.
  • Zašto je važno:Spor istraživača odnosi se i na njihov tretman i na rad sa spoljnim bezbednosnim grupama. Obećanje OpenAI-ja daje konkretan naredni korak za drugo pitanje, dok uslovi, pristup i obim rada procenitelja ostaju nepoznati.
  • Šta pratiti:OpenAI je najavio da će detalji uslediti narednih nedelja. Oni mogu pokazati da li će nezavisni procenitelji dobiti trajni pristup koji su istraživači tražili i kako će osoblje deliti informacije uz zaštitu poverljivog materijala.

Ovo je vremenski označen nastavak izveštaja BIG CHANGE-a o pismu istraživača. U svom originalnom pismu nadzornim telima OpenAI-ja, opisali su tri različite situacije. Tomek Korbak je rekao da mu je usmeno saopšteno kako je otkaz povezan sa načinom na koji je komunicirao sa METR-om, neprofitnom organizacijom koja je učestvovala u proceni incidenta OpenAI-ja sa Hugging Face-om. Mikita Balesni je rekao da je njegov rad na mogućnosti praćenja sa spoljnim grupama bio usklađen sa linijom izveštavanja i da je uklonio osetljive detalje pre deljenja materijala. Jasmine Wang je rekla da joj je za potrebe zapošljavanja bio delegiran pristup mejlu rukovodioca, da je zatražila od IT-ja da ga ukloni i da je prijavila slučajan klik na osetljivu poruku. To su iskazi istraživača, a ne nezavisno utvrđeni nalazi.

Objava OpenAI-ja odgovara na dva ključna zahteva iz pisma. Pun tekst koji je preneo The Indian Express navodi da je kompanija finalizovala ugovore sa spoljnim proceniteljima bezbednosti i da ostaje posvećena uključivanju spoljnih recenzenata. Takođe kaže da se OpenAI slaže da očuvanje mogućnosti praćenja najnaprednijih modela zahteva obavezu cele industrije i da nastavlja ulaganja u taj rad. To su izjave kompanije o planovima i prioritetima; objava ne imenuje procenitelje, ne navodi njihov pristup niti objavljuje uslove ugovora.

Povodom otkaza, OpenAI je rekao da je istraga utvrdila kršenje pravila o rukovanju informacijama i da odluke nisu bile zbog kritike bezbednosti. Međutim, javna objava ne navodi informacije, konkretno pravilo ni dokaze koji potkrepljuju zaključak. Associated Press je izvestio da OpenAI neće dati dodatne pojedinosti o razlozima otpuštanja istraživača. Reuters je izvestio da kompanija nije otkrila navodne prekršaje. Nijedan izvor ne objavljuje istražni spis niti nezavisno utvrđuje čiji je iskaz tačan.

Spor oko zaposlenja ne rešava ni zasebnu tehničku raspravu o mogućnosti praćenja modela. Istraživači kažu da ta sposobnost za najnaprednije modele slabi; OpenAI kaže da se slaže da je važna i da nastavlja ulaganja. Odgovor od 9. oktobra ne donosi nova merenja ni rezultate evaluacije.

Izvori i dodatna literatura