Edisi Markdown

AI-translated from English; not yet reviewed by a fluent editor.

# Altman dan Amodei meminta Dewan Keamanan PBB menetapkan standar keselamatan AI

> Pimpinan OpenAI dan Anthropic mengusulkan pengujian AI, pelaporan insiden, dan kerja sama internasional dalam pengarahan Dewan Keamanan. Transkrip mencatat tidak ada aturan baru dari Dewan.

By BIG CHANGE Editorial

Published: 2026-09-24T00:57:59.558Z
Updated: 2026-09-24T00:57:59.558Z
Canonical: https://bigchange.ai/blog/un-security-council-ai-safety-briefings

![Conceptual charcoal illustration of the unoccupied UN Security Council chamber, showing its horseshoe-shaped delegation table and surrounding seats.](https://bigchange.ai/api/media/file/un-security-council-chamber-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE.

Sam Altman dari OpenAI dan Dario Amodei dari Anthropic secara terpisah memberikan pengarahan kepada Dewan Keamanan PBB pada 23 September tentang risiko dari AI yang kemampuannya terus meningkat. Keduanya meminta pemerintah bekerja sama dalam pengujian dan pelaporan. Usulan mereka berbeda cakupannya, dan pembahasan Dewan itu sendiri tidak menetapkan aturan AI baru.

## Perubahan besar

Pimpinan dua perusahaan pembuat model AI canggih membawa usulan keselamatan spesifik ke pertemuan Dewan Keamanan tentang keamanan internasional. Altman menyerukan standar nasional dan internasional yang kompatibel untuk mengukur kemampuan, menilai perlindungan, dan mempertahankan pengawasan manusia. Amodei mengusulkan kesepakatan yang lebih sempit, dimulai dengan larangan penggunaan AI untuk membuat senjata biologis, disertai sistem verifikasi dan pengujian bersama untuk risiko penyalahgunaan serta hilangnya kendali. Ini adalah permintaan dari pembicara undangan. Pemerintah perlu menyetujuinya sebelum ada tindakan Dewan.

## Titik temu dalam usulan

Dalam [transkrip pertemuan otomatis PBB](https://transcripts.un.org/en/sc/10228), Altman meminta pelaporan insiden segera dan jalur komunikasi aman antara pemerintah, operator infrastruktur, dan pakar teknis untuk berbagi kerentanan. Ia mengatakan standar perlu mengakomodasi model terbuka dan tertutup, pengembang baru, serta laboratorium mapan, sementara setiap pemerintah memutuskan penerapannya dalam hukum nasional.

Amodei juga meminta standar pengujian internasional dan pemberitahuan tentang insiden yang penting bagi keamanan global. Ia menambahkan sistem agar negara dapat melihat kemampuan model terdepan dan memverifikasi komitmen. Ia mengulangi janji Anthropic untuk menempatkan evaluator eksternal di dalam perusahaan dan mengatakan perusahaan akan memperlambat peluncuran sebanyak yang diperlukan demi keselamatan. Ini adalah komitmen dan usulan Anthropic, bukan temuan independen bahwa perlindungannya berhasil.

Keduanya meminta pengujian yang dapat dibandingkan dan pengungkapan insiden serius. Amodei menempatkan larangan senjata biologis yang diusulkan dan verifikasi antarnegara sebagai inti usulannya kepada Dewan. Altman menekankan standar yang dapat dimasukkan pemerintah ke dalam sistem hukum mereka sendiri. Tidak satu pun usulan disertai kesepakatan anggota Dewan tentang penegakan.

## Pemerintah berbeda pandangan tentang peran Dewan

Prancis menyelenggarakan sidang tersebut, yang juga menghadirkan Yoshua Bengio, ketua bersama panel ilmiah PBB, dan Clément Delangue, CEO Hugging Face. Sidang ini mengikuti perdebatan AI sebelumnya di Dewan, termasuk [pengarahan pertama semacam itu pada Juli 2023](https://press.un.org/en/2023/sc15359.doc.htm).

Pernyataan para anggota menunjukkan jarak antara kekhawatiran bersama dan kebijakan bersama. [Pernyataan Latvia yang diterbitkan](https://www2.mfa.gov.lv/en/newyork/news/74033-statement-by-h-e-sanita-pavluta-deslandes-unsc-briefing-on-artificial-intelligence) mendukung penjajakan kelompok ahli informal Dewan. Dalam transkrip PBB, perwakilan AS menentang struktur tata kelola global baru dan sebaliknya mendorong peningkatan kapasitas nasional serta berbagi praktik terbaik. Itu adalah posisi yang disampaikan dalam pertemuan, bukan keputusan Dewan.

Transkrip PBB yang tersedia mencatat pertemuan ditutup setelah pernyataan para pembicara. Transkrip itu tidak mencatat pengesahan resolusi AI atau pernyataan presiden Dewan. Halamannya memperingatkan bahwa teks pidato dibuat melalui pengenalan otomatis dan bukan catatan resmi PBB.

## Sources

- [Dewan Keamanan PBB, sidang ke-10228: kecerdasan buatan dan keamanan internasional](https://transcripts.un.org/en/sc/10228) — Transkrip otomatis bertanda waktu untuk pengarahan terpisah para CEO, intervensi anggota, dan penutupan sidang. PBB secara eksplisit menyatakan bahwa ini bukan catatan resmi. Transkrip tidak mencatat pengesahan resolusi AI atau pernyataan presiden; catatan resmi sidang belum ditemukan.
- [Latvia: Pernyataan pada pengarahan Dewan Keamanan tentang kecerdasan buatan](https://www2.mfa.gov.lv/en/newyork/news/74033-statement-by-h-e-sanita-pavluta-deslandes-unsc-briefing-on-artificial-intelligence) — Pernyataan resmi anggota yang diterbitkan 24 September untuk sidang 23 September. Menyebut empat pembicara dan mengusulkan penjajakan kelompok ahli informal Dewan; ini adalah posisi Latvia, bukan keputusan Dewan.
- [Liputan Pertemuan PBB: debat pertama Dewan Keamanan mengenai risiko dan manfaat AI](https://press.un.org/en/2023/sc15359.doc.htm) — Liputan resmi PBB yang terindeks tentang debat AI Dewan pada Juli 2023, digunakan hanya untuk menetapkan bahwa sidang terdahulu pernah berlangsung. Catatan resmi sementara terkait juga mengonfirmasi pembahasan sebelumnya.