OpenAI 執行長 Sam Altman 與 Anthropic 執行長 Dario Amodei 於 9 月 23 日分別向聯合國安理會簡報日益強大的 AI 所帶來的風險。兩人都呼籲各國政府在測試與通報方面合作，但提案範圍不同；安理會的討論本身並未制定新的 AI 規則。
重大變化
兩家開發先進 AI 模型的公司領導人，將具體安全提案帶入一場討論國際安全的安理會會議。Altman 呼籲制定相互相容的國家與國際標準，用來衡量能力、評估防護措施並維持人類監督。Amodei 則提出範圍較窄的協議，主張先禁止使用 AI 製造生物武器，並建立驗證制度，以及針對濫用與失控風險的共同測試。這些是受邀簡報者提出的要求；任何安理會行動仍須由各國政府達成共識。
兩項提案的交集
在 聯合國自動產生的會議逐字稿中，Altman 要求及時通報事故，並由各國政府、基礎設施營運者及技術專家建立安全管道，分享弱點。他表示，標準應適用於開放與封閉模型、新興開發者及成熟實驗室，同時由各國政府決定如何將標準納入本國法律。
Amodei 也呼籲制定國際測試標準，並通報對全球安全具有重大影響的事故。他另提出一套制度，讓各國了解前沿模型的能力並驗證相關承諾。他重申 Anthropic 承諾讓外部評估人員進駐公司內部，並表示如有必要，公司會放慢模型發布速度以確保安全。這些是 Anthropic 的承諾與提案，並非獨立證據證明其防護措施有效。
兩人都要求採用可比較的測試，並揭露重大事故。Amodei 在安理會簡報中，將擬議的生物武器禁令及國家間驗證置於核心。Altman 則強調，各國可透過自身法律制度採納的標準。兩項提案都未附帶安理會成員就執行方式達成的協議。
各國對安理會角色看法不一
法國召集此次會議；聯合國科學小組共同主席 Yoshua Bengio 及 Hugging Face 執行長 Clément Delangue 也在會中發言。此前安理會曾討論 AI，包括 2023 年 7 月首次舉行的相關簡報。
各會員國的發言顯示，共同關切不代表已形成一致政策。拉脫維亞發布的聲明支持探討成立非正式安理會專家小組。依聯合國逐字稿，美國代表反對建立新的全球治理架構，並主張強化各國能力及分享最佳實務。這些是會議中表達的立場，並非安理會決議。
現有聯合國逐字稿記載，各位發言者陳述後會議即告結束。逐字稿未記載安理會通過 AI 決議或主席聲明。網頁提醒，演講文字由自動語音辨識產生，並非聯合國正式紀錄。
