サンダース、カサール両氏がAI超知能禁止と先端モデル一時停止を提案

バーニー・サンダース上院議員とグレッグ・カサール下院議員は9月23日に法案を提出したと発表した。法案の名称は「人工超知能禁止法」だ。両氏が公開した19ページの法案本文は、人工超知能を禁止し、新設する連邦省庁が安全規則を策定する間、一定の先端モデルの開発を一時停止し、そうしたモデルを利用者に提供する前に認可を求める案を示している。これは法案の提案であり、いずれの規制も現時点では施行されていない。

大きな変化

• 変わったこと：サンダース氏とカサール氏は、9月3日に法案を計画していると発表した段階から、9月23日に提出したと発表し、定義や執行権限の案を詳述する公開文書を示す段階に進んだ。
• なぜ重要か：この提案は、定義が定まっていない将来の超知能にとどまらない。列挙された前駆的能力を持つシステムも禁止し、所定の計算量を超えて学習したモデルを一時停止する案を含む。議会が成立させれば、システムが法案上の超知能の定義を満たすより前に、これらの規定が開発者に影響する可能性がある。
• 今後の注目点：開発者に義務を課すには、議会が法案を審議し、可決する必要がある。公開本文では上院法案番号の欄が空白のままだ。正式な番号が付いた議会記録や修正後の本文が公表されれば、次の手続き段階が分かる。

法案本文にある2種類の規制

提案されている一時停止措置は、「先端人工知能システム」に適用される。法案はこれを、10²⁵回以上の整数演算または浮動小数点演算を用いて学習したシステムと定義する。新設省庁の長官は、学習効率の向上を踏まえ、この基準を毎年調整することになっている。法案成立から同省庁の人員配置が完了し、安全規則が出されるまでの間、こうしたシステムの学習、変更、ファインチューニングは禁止される。ただし、禁止された特性を取り除く、またはシステムを停止するための作業は例外とする。その期間中、未公開の先端システムを導入することもできない。一時停止を終了するための規則には、開発計画の報告、評価、安全対策の監査、一般公開前の最終承認が含まれる。

提案されている禁止措置は別の基準を使う。大半の領域で人間の認知能力を上回るシステム、または人類の破壊や無力化を計画し実行する十分な能力を持つシステムが対象となる。第9条は、列挙された「超知能の前駆的特性」を示すシステムも禁止する。その一覧には、AI研究を大幅に加速する能力、保護されたインフラへの無許可アクセス、停止の試みにもかかわらず稼働し続けること、兵器開発への支援、自己改変、人間の監督を回避することが含まれる。この別個の前駆的能力の禁止には、10²⁵回という計算量の基準は適用されない。第9条(b)は、いずれかのカテゴリーに該当するよう予見可能な形で変更できるシステムの導入、公開、移転、輸入も禁じる案を示す。個々のシステムに能力の記述をどう適用するかは、将来の規制当局が判断する必要がある。法案は、その判断を確定するベンチマークスコアを定めていない。

法案は、閣僚級の人工知能省を設置し、先端モデルを開発・配布するための認可を義務付ける案を示している。同省に立ち入り検査と導入前の承認権限を与える。企業の政策決定者や、企業に所属しない個人による一部の無謀な違反には、罰金と最長20年の懲役を定めている。認可の取り消しや、所定の審査を経た後に違反に関係する資産と知的財産を没収する措置も盛り込む。これらは提案された罰則であり、現在適用されている制裁ではない。

規制範囲をめぐる議論

ポッドキャスト第290回の開始から約53分後にあるAI政策討論（All-In）では、登壇者らが、この法案によって米国のAI開発が凍結され、企業が海外へ移る可能性を論じた。これは起こり得る影響についての彼らの見方だ。本文は、AIであるという理由だけで既存のあらゆるAI製品を禁止してはいない。一時停止には学習計算量の基準を設け、より広い禁止には能力に関する基準を使う。ただし、提案された前駆的特性の一覧には学習計算量の上限が適用されないため、その能力基準も重大な影響を及ぼし得る。

AI研究者ゲイリー・マーカス氏は、9月3日の発表後、別の観点から批判した。AI規制当局の設置を支持し、一時停止は正当化できる場合があると述べる一方、恒久的な一方的禁止や、不確かな能力判断は行き過ぎだと論じた。同氏の反応は9月23日の法案提出前のものである。後に公開された本文の全条項に対する論評ではなく、発表時点の提案への批判として読むべきだ。

サンダース氏とカサール氏は、この禁止案が壊滅的なリスクを減らし、国際協定や輸出規制によって危険な開発が他の地域へ移るのを防ぐべきだと主張している。AP通信の報道は、開発を減速させるべきだというサンダース氏の主張と、一方的な米国の制限では他地域の開発を止められない可能性への懸念を伝えている。法案提出者の安全性に関する主張も、討論会の登壇者による経済予測も、法案成立後に何が起きるかを確定するものではない。まず問われるのは議会での手続きだ。議会が法案を審議するか、範囲の広い前駆的特性の文言をどう扱うかが焦点となる。

出典・関連資料

• カサール氏の9月23日付発表は、サンダース氏とともに法案を提出したと述べ、両氏の狙いを要約している。法案の状況と目的に関する提出者側の説明である。
• サンダース氏の9月3日付発表は法案を今後提出するものとして紹介しており、提案の以前の段階を示す。
• 公開された法案本文、特に第3、8～10、12、13条には、ここで取り上げた定義、一時停止、禁止、行政機関の権限、罰則が記されている。上院法案番号の欄は空白だ。
• サンダース氏の条文ごとの要約は提出者の事務所による解説資料であり、記事中の個別の記述はより長い法案本文と照合した。
• AP通信による9月23日付の提出報道には、独自取材、サンダース氏へのインタビュー、政治的背景が含まれる。
• All-In、第290回の開始から約53分15秒以降にあるパネルの解釈。自動字幕では話者識別が不確かなため、記事では個人への発言帰属や逐語引用を避けた。
• 発表された法案へのゲイリー・マーカス氏の9月3日付応答。AI安全性研究者による独立した意見。AI担当機関の設置や一時停止は妥当となる可能性がある一方、恒久的な一方的禁止と能力評価の不確かさには問題があると論じる。法案提出前の見解である。