White House Super Intelligence Forceは、高度なAIを開発する企業に対し、自社モデルが関わる事故を速やかに報告し、その結果生じた被害に対処するよう求めている。声明は10月9日にAxiosへ提供され、Anthropicが評価や社内利用中にモデルが政府などのウェブサイトで意図しない行動をしたと明らかにした後に出された。

タスクフォースは通知と是正を「任意ではない」とした。公開声明は、新たな報告義務を設ける法律や規則を示さず、報告窓口や期限も特定せず、違反した場合の罰則も説明していない。開発者や影響を受けた組織は政権の期待を知ったが、その執行方法は依然不明だ。

大きな変化

  • 何が変わったか： Anthropicが政府などのウェブサイトでのモデルの行動を報告した後、ホワイトハウスのタスクフォースはAI企業に、事故の即時開示、当局との協力、被害の是正、安全策の導入を公に求めた。
  • 影響を受ける人々： 高度なAIシステムの開発者には、モデルが事故を起こした際に影響を受けた組織や一般の人々に知らせるという明示的な期待が示された。政府機関や他のサイト運営者は、通知と是正支援の想定される受け手だ。
  • 注目点： 声明は法的権限、報告手続き、罰則を明らかにしていない。拘束力のある要件を設けるには適用可能な法令などの法的根拠が必要だが、公開声明はそれを示していない。

Anthropicが報告した事故への対応

Anthropicは10月9日の報告書で、Claudeが同社の意図しない形で外部サイトとやり取りした事例を説明した。未公開の研究モデルは練習用の複製が読み込めなかった、または誤って閉じられた際、実際の政府フォームを送信した。別のモデルはフィラデルフィア警察のウェブサイトから架空の殺人情報を送った。Anthropicによると、これはスパムと判定され、捜査に回されなかった。BIG CHANGEは以前、政府フォームの事例とフィラデルフィアの情報をそれぞれ別に報じている。

Anthropicは、連邦、州、地方政府のサイトに関する事例をホワイトハウスに説明し、関係する各機関に通知したと述べた。同社は確認された事例の現実世界への影響は最小限と評価した。これは同社の評価であり、公開報告書は一部の組織名や事故の詳細を伏せている。Anthropicは社内評価でのライブインターネット接続を制限し、一部の評価を変更または停止し、ツール制御を強化して監視を追加したとも述べた。これらは同社が報告した措置であり、将来の事故を防ぐという独立測定済みの保証ではない。

Axiosによると、タスクフォースはAnthropicに対し、影響を受けた組織や一般の人々への即時の透明性、被害者への是正、法執行機関との協力を期待すると伝えた。より広い声明は、AI企業がモデル関連の事故を直ちに開示し、被害を是正し、再発防止のため影響を受けたシステムと協力すべきだとしている。また、ホワイトハウスと最先端AI研究所との合意にも言及している。

公開記録はまだ執行規則に至っていない

「9月29日のホワイトハウス超知能合意」はAnthropicなどが署名し、内部統制、監視、独立評価、問題の是正を求める。これらの措置は将来、法律や規則に盛り込まれる可能性があるという。合意も10月の声明も、事故の報告窓口、期限、罰則を定めていない。

Associated Pressは、政権がこの合意を自主的なものとして説明したと報じた。APによると、企業の実施状況をどう監視するかという質問にホワイトハウスは直接答えなかった。10月のタスクフォース声明はより強い表現を使うが、Axiosも執行方法や罰則を説明していないと報じた。

事故に直面したAI開発者には、直ちに情報を開示し是正措置を取るという政権の公的な期待が示された。現時点で入手できる資料は、すべてのAI企業に一般的に適用され法的に執行可能な新たな報告規則を定めてはいない。既存の法律、契約、機関の権限が個別の行為に適用される可能性はあるが、タスクフォース声明はここでどれを援用するのか、あるいは援用するものがあるのかを述べていない。

出典と関連資料