参议员杰克·里德、马克·沃纳和克里斯·库恩斯希望监察长调查美国情报和军事行动中报告的 AI 失误。他们在9 月 21 日发布的声明中要求,不受限制地查阅已报告和可能尚未报告的案例。

重大变化

  • 变化内容:拟议审查将追踪 AI 如何影响军事指挥官收到的情报,并审视在任何使用武力的决定作出之前所发生的环节。
  • 为何重要:由人类指挥,并不能说明决策所依据的信息可靠。对于军人和平民而言,这一区别都很重要。
  • 关注事项:关注各机构如何落实政府的测试要求,以及任何调查结果。书面的可靠性规定无法说明某个具体系统在实际运行中的表现。

调查请求缘何提出

参议员在信中提到,有报道称米纳卜空袭所用地理空间数据已经过时;另一起未遂军事拦截行动的情报中,可能出现 AI 生成的虚假信息。他们要求查明根本原因,但这封信并未宣布监察长已启动调查,也没有认定事件由 AI 导致。

米纳卜事件涉及 2 月 28 日发生的一起袭击,目标是伊朗一所小学。美联社 7 月 1 日的重建报道称,至少一枚美国导弹击中该校,造成 100 多名儿童死亡。美联社依据视频、开源证据和访谈开展了调查。该报道并未确定是否有任何 AI 系统促成了这次袭击。

白宫仍要求开展测试

特朗普总统6 月 5 日发布的国家安全 AI 备忘录取代了此前的《国家安全备忘录 25》,并要求加快采用 AI;同时也要求开展测试、评估、验证和确认。第 2(c) 节明确要求系统可靠且可控。

同一文件为更新自主武器指导意见,以及制定有关 AI 在国家安全系统中应用的政策,设定了 90 天期限。备忘录本身并不能说明各机构是否已完成这些工作。

第 2(d) 节另行规定,指挥官和机构负责人须为该备忘录中的隐私与公民自由义务负责。

6 月发布的指令晚于学校遇袭事件。它规定了当前要求;哪些规则适用于 2 月的事件,则须由调查人员查明。