OpenAIのサム・アルトマン氏とAnthropicのダリオ・アモデイ氏は9月23日、能力が高まるAIのリスクについて、それぞれ国連安全保障理事会で説明した。両氏は政府に対し、試験や報告をめぐる協力を求めた。提案の範囲は異なり、安保理での議論自体が新たなAI規則を定めたわけではない。

大きな変化

先端AIモデルを開発する2社のトップが、国際安全保障を扱う安保理会合で具体的な安全策を提案した。アルトマン氏は、能力の測定、安全策の評価、人間による監督の維持に向けて、各国で互換性のある国内・国際基準を求めた。アモデイ氏は、AIを使った生物兵器製造の禁止から始める、より限定的な合意を提案し、検証制度と悪用・制御不能リスクの共通試験も求めた。これは招かれた説明者からの提案である。安保理として行動するには、各国政府の合意が必要となる。

両者の提案が重なる点

国連が自動生成した会合記録でアルトマン氏は、迅速な事故報告と、脆弱性を共有するための政府、インフラ事業者、技術専門家の間の安全な連絡手段を求めた。オープンモデルとクローズドモデル、新興開発者と既存研究所の双方に対応できる基準が必要だと述べる一方、各政府が国内法でどう利用するかを決めるべきだとした。アモデイ氏も、国際的な試験基準と、国際安全保障上重大な事故の通知を求めた。さらに各国が最先端モデルの能力を把握し、約束を検証できる仕組みを提案した。Anthropicの約束として、外部評価者を社内に受け入れ、安全上必要なだけリリースを遅らせる方針も改めて表明した。これらは同社による約束と提案であり、安全策が有効だという独立した検証結果ではない。

両氏は、比較可能な試験と重大事故の開示を求めた。アモデイ氏は、生物兵器の禁止案と国家間の検証を安保理への提案の中心に据えた。アルトマン氏は、各国政府がそれぞれの法制度に取り込める基準を強調した。いずれの提案についても、安保理加盟国の間で執行に関する合意は成立していない。

各国政府の見解は安保理の役割をめぐって異なる

フランスが会合を招集し、国連科学パネルの共同議長ヨシュア・ベンジオ氏とHugging Faceのクレマン・ドラング氏も説明した。これは過去の安保理におけるAI討議に続くもので、

2023年7月には初のAI説明会が開かれている。が開かれている。

加盟国の発言からは、懸念を共有することと共通の政策を持つことの隔たりが浮き彫りになった。ラトビアの公表済み見解は、安保理の非公式専門家グループの設置を検討することに賛同した。国連の会合記録によると、米国代表は新たな世界的統治機構に反対し、各国の能力向上とベストプラクティスの共有を促した。これらは会合で表明された各国の立場であり、安保理の決定ではない。

閲覧できる国連の会合記録では、各発言の後に会合が閉会したとされる。AIに関する決議や議長声明が採択された記録はない。また、このページに掲載された発言テキストは自動音声認識によるもので、公式の国連記録ではないと注意書きがある。