OpenAI 的 Sam Altman 和 Anthropic 的 Dario Amodei 于 9 月 23 日分别向联合国安理会作简报，讨论能力日益增强的 AI 所带来的风险。两人都要求各国政府在测试和报告方面开展合作。他们的建议范围不同，而安理会的讨论本身并未制定新的 AI 规则。
重大变化
两家先进 AI 模型开发公司的负责人在一次关于国际安全的安理会会议上提出了具体安全建议。Altman 呼吁制定相互兼容的国家和国际标准，用于衡量模型能力、评估防护措施并确保人类监督。Amodei 提议先从范围更窄的协议入手，禁止使用 AI 制造生物武器，并建立核查机制和共同测试，以评估滥用及失控风险。这些是受邀简报者提出的建议。任何安理会行动都需要各国政府达成一致。
建议的共同点
在联合国自动生成的会议文字记录中，Altman 要求及时报告事故，并在政府、基础设施运营者和技术专家之间建立安全渠道以共享漏洞。他表示，标准应适用于开放和封闭模型、新兴开发者与成熟实验室，同时由各国政府决定如何将其纳入本国法律。
Amodei 也寻求制定国际测试标准，并要求通报对全球安全有重大影响的事故。他还提出建立一套制度，使各国能够了解前沿模型的能力并核查相关承诺。他重申 Anthropic 愿意让外部评估人员进入公司，并表示为确保安全，公司会在必要时尽可能放慢模型发布。这些是 Anthropic 的承诺和建议，并非其防护措施有效的独立证据。
两人都要求进行可比测试，并披露严重事故。Amodei 将拟议的生物武器禁令和国家间核查机制作为其在安理会倡议的核心。Altman 强调制定各国政府可通过本国法律体系采纳的标准。两项建议都没有配套的安理会成员国执法协议。
各国政府对安理会职责有不同看法
法国召集了此次会议，联合国科学小组联合主席 Yoshua Bengio 和 Hugging Face 首席执行官 Clément Delangue 也作了发言。此前安理会曾讨论 AI，包括2023 年 7 月的首次相关简报会。
各成员国的发言显示，虽然各方都表达了关切，但在共同政策上仍有分歧。拉脱维亚公布的立场声明支持探讨成立安理会非正式专家组。根据联合国会议记录，美国代表反对建立新的全球治理机构，而是主张增强各国自身能力并分享最佳实践。这些是会议上表达的立场，并非安理会决定。
现有联合国文字记录记载，发言结束后会议闭幕。记录中没有显示安理会通过 AI 决议或主席声明。页面提醒，发言文字由自动语音识别生成，并非联合国正式记录。
