報道されたAnthropicのAI安全法案、先端モデルの差し止めに被害の基準を設定

Anthropicの担当者が、先端AIの安全とセキュリティーに関する法案草案を米議員に説明したと、ロイターが2026年10月16日に報じた。取り組みを知る3人を取材したPoliticoの報道を引用している。草案は非公開で回覧されていた。この記事では草案の原文を入手できず、報道された条項を法案そのものと照合できない。報道された説明活動は、法案の正式提出や法律の成立を意味しない。

大きな変化

• 何が変わったか：ロイターによると、Anthropicは6月に政策枠組みを公開した後、危険な先端モデルを停止する判断基準が含まれると報じられた非公開草案を議員に説明している。その基準と草案の文言は、原文ではまだ確認されていない。
• なぜ重要か：報道された提案は、独立評価者、商務省、連邦判事にそれぞれ異なる役割を与える。モデルの停止を、明示された差し迫る破滅的被害に限定するため、その被害の厳密な定義が開発企業と社会に重要な影響を及ぼす。
• 注目点：草案が公開されるか法案が正式提出されれば、報道された被害基準、商務省の役割、他機関への制限が実際の法案文に残るか分かる。Anthropicのより広範な6月の枠組みのうち、どの部分が含まれるかも明らかになる。

報道された草案は、政府がモデルを停止できる条件を定めている。ロイターが伝えたPoliticoの報道によると、モデルが10億ドルを超える損害、または50人を超える人の死亡や重傷を引き起こす、予見可能で差し迫ったリスクをもたらす場合に限り、公開や利用を差し止められる。ロイターは、そのリスクが生物兵器の作製・放出、開発企業の制御からのモデルの逸脱、サイバー攻撃に起因する必要があると報じた。これらの数値は、報道された介入の判断基準を示す。

報道された法案はどう機能するか

このロイターの報道によると、独立評価者は商務省に登録し、AI研究所とその先端モデルを定期的に評価する。研究所は評価者に報酬を支払えるが、支払いを評価結果に連動させてはならない。評価者が報道でいう「列挙された差し迫ったリスク」を発見した場合、評価を終えてから72時間以内に商務省へ通知することになる。

報道された草案についてのロイターの説明では、商務省はリスクを認定した後、判事にモデルの停止を求められる。ロイターによると、提案文は米国の他の省庁、機関、当局者がモデルの開発、導入、内部利用を停止することを禁じる。コロンビア特別区の連邦地方裁判所の判事は停止を命令できる。草案原文がないため、そうした制限の正確な定義、手続き、及ぶ範囲は未確認のままだ。

Anthropicの広報担当者はロイターに、法案は同社のAdvanced AI Frameworkにある提案を反映したものだと述べた。この枠組みは2026年6月に公開された。担当者によると、提案は最も強力なモデルの危険な導入を政府が阻止・抑止できるようにし、開発企業に先端モデルの試験、結果の開示、独立評価の取得を求める。ロイターは、商務省から取材への即時の回答はなかったと伝えた。

Anthropicの公開枠組みが実際に述べていること

この6月の19ページの枠組みは、大規模な先端モデル開発企業の義務を提案する。推奨する開発企業の適用基準は2つの部分からなる。訓練に10^25 FLOPを超える計算が必要なモデルに加え、AI由来の年間売上高が5億ドルを超えるか、年間のAI研究開発支出が10億ドルを超えることだ。この公開文書にある10億ドルの支出額は、どの開発企業を対象にするかに関するものだ。非公開草案にあると報じられた10億ドルの損害額とは別の基準である。

枠組みは、対象となる開発企業に、生物兵器、攻撃的サイバー作戦、制御喪失、それらのリスクを増幅し得る自動化された研究開発を評価するよう求める。安全枠組みとシステムカードの公開、少なくとも6か月ごとのリスク報告、重大な安全インシデントを発見から15日以内に指定機関へ報告することを求めている。資格を持つ独立評価者がモデルと黒塗りなどで情報を伏せていないリスク報告書に定期的にアクセスできるようにし、その審査結果の公開と利益相反の防止策を提案する。

執行については、虚偽の陳述や評価・公開・報告の義務違反に対する罰則を提案する。最終的な仕組みを1つに決めるのではなく、機関が裁判所命令を求める方法など、安全でない導入を停止する複数の選択肢を示す。政府の措置についての議論には、広すぎる裁量を防ぐ仕組みと司法審査への道が含まれる。開発企業の義務にとどまらず、生物学的・サイバー上の強靱性への投資も勧めている。ロイターの報道では、これらの提案のどれが回覧された草案に入っているのか、そもそも入っているものがあるのかは確定できない。

ここで利用できる資料からは、草案の厳密な文言、法案の提出者となる議員の有無、州法などの問題の扱いは分からない。Anthropicの6月の枠組みは、厳格な連邦制度の下で連邦法によって州法の適用を排除する範囲を狭く限定する立場だが、ロイターはこの問題に対する草案の立場を確認していない。

出典・参考資料

• ロイター「Anthropic、独自のAI安全法案を議員にひそかに説明、Politicoが報道」（2026年10月16日）。3人を引用したPoliticoの報道を伝え、非公開で回覧された草案の基準、評価者の役割、裁判所での手続きを説明する。Anthropicの回答を含み、商務省から即時の回答がなかったと記している。ロイターは草案原文を提供していない。
• Anthropic、Advanced AI Framework（2026年6月）。Anthropicが提案した開発企業の適用範囲、評価、開示、執行の選択肢、強靱性向上策についての公開一次文書。報道された非公開草案の文言を裏付けるものではない。