Os senadores Jack Reed, Mark Warner e Chris Coons querem que os inspetores-gerais investiguem falhas de IA comunicadas em operações de informações e militares dos EUA. O seu comunicado de 21 de setembro pede acesso irrestrito a casos relatados e a outros que possam não ter sido comunicados.

A grande mudança

  • O que mudou: A supervisão proposta acompanharia a utilização da IA na informação recebida pelos comandantes, antes de qualquer decisão de recorrer à força.
  • Porque é importante: O facto de o comando ser humano não esclarece se a informação que sustenta uma decisão é fiável. Essa distinção é importante tanto para militares como para civis.
  • O que acompanhar: Acompanhe as provas sobre a forma como as agências aplicam os requisitos de teste da administração, juntamente com eventuais conclusões do inquérito. Uma regra escrita sobre fiabilidade não demonstra o desempenho de um sistema específico.

O que motivou o pedido

Os senadores citam notícias sobre dados geoespaciais desatualizados no ataque a Minab e possíveis informações falsas geradas por IA antes de uma operação de interdição militar que acabou por ser abortada. A carta pede uma análise das causas de raiz; não anuncia um inquérito dos inspetores-gerais nem demonstra que a IA tenha causado os acontecimentos.

O caso de Minab diz respeito ao ataque de 28 de fevereiro a uma escola primária iraniana. A reconstrução da AP, publicada a 1 de julho relatou que pelo menos um míssil dos EUA atingiu a escola, matando mais de 100 crianças. A AP baseou-se em vídeos, provas de fontes abertas e entrevistas. A reconstrução da AP não determina que sistema de IA, se algum, contribuiu para o ataque.

A Casa Branca continua a exigir testes

O memorando de segurança nacional sobre IA do presidente Trump, de 5 de junho, substitui o memorando anterior de segurança nacional número 25 e determina uma adoção mais rápida. Exige também testes, avaliação, validação e verificação. A secção 2(c) exige expressamente sistemas fiáveis e controláveis.

O mesmo documento fixa prazos de 90 dias para atualizar as orientações sobre armas autónomas e uma política que regule a utilização de IA em sistemas de segurança nacional. O memorando, por si só, não demonstra se as agências cumpriram essas etapas.

A secção 2(d) responsabiliza separadamente os comandantes e os dirigentes das agências pelo cumprimento das obrigações de privacidade e liberdades civis nele previstas.

A diretiva de junho é posterior ao ataque à escola. Define requisitos atuais; cabe aos investigadores determinar que regras se aplicavam em fevereiro.