參議員 Jack Reed、Mark Warner 與 Chris Coons 希望監察長調查美國情報及軍事行動中傳出的 AI 失誤。他們的9 月 21 日聲明要求不受限制地查閱已報告及可能尚未公開的個案。
重大變化
- 有哪些改變：這項調查提議會追查 AI 如何影響情報機關交給指揮官的資訊，而且發生在任何動用武力的決定之前。
- 為何重要：由人類指揮，並不能證明決策所依據的資訊可靠。這項區別對軍人與平民都很重要。
- 後續觀察重點：留意各機關如何執行政府的測試要求，以及調查是否公布任何結果。書面可靠性規定無法說明特定系統實際表現如何。
調查要求的起因
參議員援引了幾項報導：米納布空襲使用的地理空間資料過時，以及一次後來取消的軍事攔截行動，其情報可能包含 AI 生成的錯誤內容。參議員在信中要求分析根本原因，但未宣布監察長已展開調查，也未證明 AI 是原因。
米納布事件涉及 2 月 28 日對伊朗一所小學的攻擊。美聯社 7 月 1 日的重建報導指出至少有一枚美國飛彈擊中該校，造成 100 多名兒童喪生。美聯社根據影片、開放來源證據及訪談進行重建；該報導無法證明有哪一個 AI 系統參與攻擊，或是否有系統參與。
白宮仍要求進行測試
川普總統的6 月 5 日國家安全 AI 備忘錄取代先前的《國家安全備忘錄 25》，並要求加速採用 AI。同時也要求進行測試、評估、驗證與確認。第 2(c) 節明確要求系統可靠且可控。
同一份文件訂出 90 天期限，要求更新自主武器指引及制定適用於國家安全系統中 AI 的政策。備忘錄本身無法證明各機關是否完成這些工作。
第 2(d) 節另要求指揮官及機關首長對其中的隱私與公民自由義務負責。
6 月指令晚於校園遭攻擊事件。它列出現行要求；調查人員仍須釐清 2 月當時適用哪些規定。
