Sam Altman dari OpenAI dan Dario Amodei dari Anthropic secara terpisah memberikan pengarahan kepada Dewan Keamanan PBB pada 23 September tentang risiko dari AI yang kemampuannya terus meningkat. Keduanya meminta pemerintah bekerja sama dalam pengujian dan pelaporan. Usulan mereka berbeda cakupannya, dan pembahasan Dewan itu sendiri tidak menetapkan aturan AI baru.
Perubahan besar
Pimpinan dua perusahaan pembuat model AI canggih membawa usulan keselamatan spesifik ke pertemuan Dewan Keamanan tentang keamanan internasional. Altman menyerukan standar nasional dan internasional yang kompatibel untuk mengukur kemampuan, menilai perlindungan, dan mempertahankan pengawasan manusia. Amodei mengusulkan kesepakatan yang lebih sempit, dimulai dengan larangan penggunaan AI untuk membuat senjata biologis, disertai sistem verifikasi dan pengujian bersama untuk risiko penyalahgunaan serta hilangnya kendali. Ini adalah permintaan dari pembicara undangan. Pemerintah perlu menyetujuinya sebelum ada tindakan Dewan.
Titik temu dalam usulan
Dalam transkrip pertemuan otomatis PBB, Altman meminta pelaporan insiden segera dan jalur komunikasi aman antara pemerintah, operator infrastruktur, dan pakar teknis untuk berbagi kerentanan. Ia mengatakan standar perlu mengakomodasi model terbuka dan tertutup, pengembang baru, serta laboratorium mapan, sementara setiap pemerintah memutuskan penerapannya dalam hukum nasional.
Amodei juga meminta standar pengujian internasional dan pemberitahuan tentang insiden yang penting bagi keamanan global. Ia menambahkan sistem agar negara dapat melihat kemampuan model terdepan dan memverifikasi komitmen. Ia mengulangi janji Anthropic untuk menempatkan evaluator eksternal di dalam perusahaan dan mengatakan perusahaan akan memperlambat peluncuran sebanyak yang diperlukan demi keselamatan. Ini adalah komitmen dan usulan Anthropic, bukan temuan independen bahwa perlindungannya berhasil.
Keduanya meminta pengujian yang dapat dibandingkan dan pengungkapan insiden serius. Amodei menempatkan larangan senjata biologis yang diusulkan dan verifikasi antarnegara sebagai inti usulannya kepada Dewan. Altman menekankan standar yang dapat dimasukkan pemerintah ke dalam sistem hukum mereka sendiri. Tidak satu pun usulan disertai kesepakatan anggota Dewan tentang penegakan.
Pemerintah berbeda pandangan tentang peran Dewan
Prancis menyelenggarakan sidang tersebut, yang juga menghadirkan Yoshua Bengio, ketua bersama panel ilmiah PBB, dan Clément Delangue, CEO Hugging Face. Sidang ini mengikuti perdebatan AI sebelumnya di Dewan, termasuk pengarahan pertama semacam itu pada Juli 2023.
Pernyataan para anggota menunjukkan jarak antara kekhawatiran bersama dan kebijakan bersama. Pernyataan Latvia yang diterbitkan mendukung penjajakan kelompok ahli informal Dewan. Dalam transkrip PBB, perwakilan AS menentang struktur tata kelola global baru dan sebaliknya mendorong peningkatan kapasitas nasional serta berbagi praktik terbaik. Itu adalah posisi yang disampaikan dalam pertemuan, bukan keputusan Dewan.
Transkrip PBB yang tersedia mencatat pertemuan ditutup setelah pernyataan para pembicara. Transkrip itu tidak mencatat pengesahan resolusi AI atau pernyataan presiden Dewan. Halamannya memperingatkan bahwa teks pidato dibuat melalui pengenalan otomatis dan bukan catatan resmi PBB.
