Jack Reed、Mark Warner、Chris Coons各上院議員は、米国の情報機関や軍事作戦で報告されたAIの失敗を、監察総監が調査するよう求めている。議員らの9月21日の発表は、報告済みおよび未報告の可能性がある事例を制限なく調査できるよう求めた。

大きな変化

  • 何が変わったか：提案された調査は、武力行使を決める前に、司令官へ届く情報の中でAIがどう使われているかを検証する。
  • なぜ重要か：人間が指揮を執ることだけでは、判断の根拠となる情報が正確かどうかは分からない。兵士や民間人にとって重要な違いだ。
  • 今後の注目点：調査結果に加えて、政府機関が政権の試験要件をどう適用しているかを示す証拠に注目したい。文書化された信頼性ルールだけでは、特定のシステムが実際にどう動いたかは分からない。

要請のきっかけ

上院議員は、Minabへの攻撃に古い地理空間データが使われたとする報道と、作戦中止に至った軍事的阻止行動の前に、情報分析でAI生成の誤情報が使われた可能性に関する報道を挙げている。書簡は根本原因の分析を求めるものだが、監察総監による調査の開始を発表したものではなく、AIが原因だとも立証していない。

Minabの事例は、2月28日にイランの小学校を攻撃した事件に関するものだ。AP通信による7月1日の再構成では、少なくとも1発の米国ミサイルが学校に着弾し、子ども100人以上が死亡したと報じた。APは映像、オープンソースの証拠、聞き取りに基づいている。APの再構成からは、いずれかのAIシステムが攻撃に関与したかどうかは分からない。

ホワイトハウスは現在も試験を義務付けている

Trump大統領の6月5日付国家安全保障AI覚書は、従来の国家安全保障覚書第25号に置き換わり、AI導入の加速を指示している。同時に、試験、評価、妥当性確認、検証も義務付ける。第2(c)節は、信頼でき、制御可能なシステムを明示的に求めている。

同じ文書は、自律型兵器に関する指針の更新と、国家安全保障システムにおけるAIを規定する方針について、90日以内の期限を設けている。覚書自体は、政府機関がその手続きを完了したかどうかを示すものではない。

第2(d)節は、プライバシーと市民的自由に関する義務について、司令官および政府機関の責任者に別途責任を負わせている。

6月の指令は学校への攻撃より後に出された。現在の要件は示しているが、2月にどの規則が適用されていたかは調査で明らかにする必要がある。