Pampublikong tumugon ang mga pinuno ng pananaliksik ng OpenAI noong Oktubre 9 sa liham ng tatlong dating safety researcher sa isang OpenAI Newsroom post on X. Ang Associated Press at Reuters ay nag-ulat na sinabi ng kumpanya na may nakitang paglabag sa mga patakaran sa paghawak ng sensitibong impormasyon ang panloob na imbestigasyon, at inilarawan nito ang “malaking paglabag sa tiwala” na lampas sa nilalaman ng liham. Itinanggi ng OpenAI na dahil sa pagtataas ng mga alalahanin sa kaligtasan ang mga pagtanggal sa trabaho. Sinabi rin ng post na tinatapos ang mga kontrata sa mga third-party safety assessor at darating ang detalye sa mga susunod na linggo. Hindi tinukoy ng kumpanya ang partikular na kilos o patakarang sangkot.

Ang malaking pagbabago

  • Ano ang nagbago: Ipinares na ngayon ng pampublikong tugon ng OpenAI ang paliwanag nito sa mga pagtanggal sa trabaho sa planong tapusin ang mga kontrata sa third-party safety assessor at sa muling pagpapatibay na pang-industriyang pangako ang monitorability ng mga modelo.
  • Bakit mahalaga:Tungkol ang alitan ng mga researcher kapwa sa pagtrato sa kanila at sa trabaho nila kasama ang mga panlabas na safety group. Nagbibigay ang pangako ng OpenAI ng konkretong susunod na hakbang para sa ikalawang usapin, ngunit hindi pa alam ang mga tuntunin, access at saklaw ng assessor work.
  • Ano ang susubaybayan:Sinabi ng OpenAI na darating ang detalye sa mga susunod na linggo. Ipapakita ng mga iyon kung makakakuha ang mga independent assessor ng tuloy-tuloy na access na hiniling ng mga researcher at kung paano maibabahagi ng mga kawani ang impormasyon habang pinoprotektahan ang kumpidensiyal na materyal.

Karugtong ito na may petsa ng ulat ng BIG CHANGE tungkol sa liham ng mga researcher. Sa kanilang orihinal na liham sa mga oversight body ng OpenAI, inilarawan nila ang tatlong magkakaibang sitwasyon. Sinabi ni Tomek Korbak na pasalita siyang sinabihang may kaugnayan ang pagtanggal sa trabaho sa paraan ng pakikipag-usap niya sa METR, ang nonprofit na tumulong magsuri sa insidente ng OpenAI sa Hugging Face. Sinabi ni Mikita Balesni na iniugnay sa kaniyang reporting line ang trabaho niya sa monitorability kasama ang mga panlabas na grupo at inalis niya ang sensitibong detalye bago magbahagi ng materyal. Sinabi ni Jasmine Wang na ipinagkatiwala sa kaniya para sa recruitment ang access sa email ng isang executive, hiniling niyang alisin ito ng IT, at iniulat niyang aksidenteng na-click niya ang sensitibong mensahe. Mga salaysay ito ng mga researcher, hindi mga natuklasang hiwalay na napatunayan.

Tinutugunan ng post ng OpenAI ang dalawa sa mga pangunahing kahilingan ng liham. Ang buong tekstong inilathala ng The Indian Express ay nagsasabing isinasapinal ng kumpanya ang mga kontrata sa third-party safety assessor at nananatiling nakatuon sa pagsasama ng mga panlabas na reviewer. Sinasabi rin nitong sinasang-ayunan ng OpenAI na kailangan ng pang-industriyang pangako upang mapanatili ang monitorability ng frontier model at patuloy itong mamumuhunan dito. Mga pahayag ito tungkol sa plano at prayoridad; hindi pinangalanan ng post ang mga assessor, ang access nila o ang mga tuntunin ng kontrata.

Tungkol sa mga pagtanggal, sinabi ng OpenAI na nakakita ang imbestigasyon ng paglabag sa patakaran sa paghawak ng impormasyon at hindi dahil sa pagpuna sa kaligtasan ang pasya nito. Ngunit hindi tinutukoy ng pampublikong post ang impormasyon, tuntunin o ebidensiyang sumuporta sa konklusyon. Iniulat ng Associated Press na hindi magbibigay ang OpenAI ng dagdag na detalye kung bakit tinanggal ang mga researcher. Iniulat ng Reuters na hindi isiniwalat ng kumpanya ang sinasabing mga paglabag. Walang naglathala ng file ng imbestigasyon o malayang nagtatag kung aling salaysay ang tama.

Hindi rin nilulutas ng alitan sa trabaho ang hiwalay na teknikal na debate tungkol sa monitorability. Sinasabi ng mga researcher na humihina ang kakayahang subaybayan ang mga frontier model; sinasabi ng OpenAI na sumasang-ayon itong mahalaga ang monitorability at patuloy itong mamumuhunan. Walang bagong sukat o resulta ng pagsusuri sa tugon noong Oktubre 9.

Mga pinagmulan at karagdagang babasahin