Pimpinan riset OpenAI menanggapi secara terbuka pada 9 Oktober surat dari tiga mantan peneliti keselamatan melalui OpenAI Newsroom post on X. Associated Press dan Reuters melaporkan bahwa perusahaan mengatakan penyelidikan internal menemukan pelanggaran kebijakan penanganan informasi sensitif dan menyebut ada “keretakan kepercayaan yang signifikan” di luar isi surat. OpenAI membantah pemecatan itu terkait penyampaian kekhawatiran keselamatan. Unggahan tersebut juga mengatakan kontrak dengan penilai keselamatan pihak ketiga sedang dirampungkan dan rinciannya akan menyusul dalam beberapa pekan. Perusahaan tidak menyebut tindakan atau kebijakan spesifik yang dipersoalkan.

Perubahan utama

  • Apa yang berubah: Jawaban publik OpenAI kini memasangkan penjelasan tentang pemecatan dengan rencana merampungkan kontrak penilai keselamatan pihak ketiga dan penegasan bahwa kemampuan memantau model merupakan komitmen seluruh industri.
  • Mengapa penting:Perselisihan para peneliti mencakup perlakuan terhadap mereka dan pekerjaan mereka bersama kelompok keselamatan eksternal. Komitmen OpenAI memberi langkah konkret berikutnya untuk persoalan kedua, tetapi syarat, akses, dan cakupan kerja penilai belum diketahui.
  • Yang perlu dipantau:OpenAI mengatakan rincian akan diberikan dalam beberapa pekan mendatang. Rincian itu dapat menunjukkan apakah penilai independen mendapat akses berkelanjutan yang diminta para peneliti dan bagaimana staf dapat berbagi informasi sambil melindungi materi rahasia.

Ini adalah kelanjutan bertanggal dari laporan BIG CHANGE tentang surat para peneliti. Dalam surat asli mereka kepada badan pengawas OpenAI, mereka menggambarkan tiga situasi berbeda. Tomek Korbak mengatakan ia diberi tahu secara lisan bahwa pemecatannya terkait cara ia berkomunikasi dengan METR, organisasi nirlaba yang terlibat menilai insiden OpenAI dengan Hugging Face. Mikita Balesni mengatakan pekerjaannya tentang kemampuan pemantauan bersama kelompok eksternal dikoordinasikan dengan jalur pelaporannya dan ia menghapus rincian sensitif sebelum berbagi materi. Jasmine Wang mengatakan akses ke email seorang eksekutif telah didelegasikan kepadanya untuk perekrutan, ia meminta TI menghapus akses itu, dan ia melaporkan klik yang tidak disengaja pada pesan sensitif. Ini adalah keterangan para peneliti, bukan temuan yang ditetapkan secara independen.

Unggahan OpenAI menanggapi dua permintaan utama dalam surat tersebut. Teks lengkap yang dimuat ulang oleh The Indian Express mengatakan perusahaan sedang merampungkan kontrak dengan penilai keselamatan pihak ketiga dan tetap berkomitmen melibatkan peninjau eksternal. Teks itu juga menyebut OpenAI setuju bahwa menjaga kemampuan memantau model terdepan memerlukan komitmen seluruh industri dan perusahaan akan terus berinvestasi. Ini adalah pernyataan perusahaan tentang rencana dan prioritas; unggahan tidak menyebut nama penilai, akses mereka, atau syarat kontrak.

Mengenai pemecatan, OpenAI mengatakan penyelidikan menemukan pelanggaran kebijakan penanganan informasi dan keputusan itu bukan karena kritik keselamatan. Namun unggahan publik tidak menyebut informasi, aturan spesifik, atau bukti yang mendukung kesimpulannya. Associated Press melaporkan OpenAI tidak akan memberi rincian lebih lanjut tentang alasan para peneliti dipecat. Reuters melaporkan perusahaan tidak mengungkap dugaan pelanggaran. Tidak satu pun menerbitkan berkas penyelidikan atau menetapkan secara independen keterangan mana yang benar.

Perselisihan pekerjaan itu juga tidak menyelesaikan perdebatan teknis terpisah tentang kemampuan pemantauan. Para peneliti mengatakan kemampuan memantau model terdepan sedang menurun; OpenAI mengatakan sepakat kemampuan itu penting dan akan terus berinvestasi. Tanggapan 9 Oktober tidak memuat pengukuran atau hasil evaluasi baru.

Sumber dan bacaan lanjutan