Os senadores Jack Reed, Mark Warner e Chris Coons querem que os inspetores-gerais investiguem falhas de IA relatadas na inteligência e em operações militares dos Estados Unidos. O comunicado de 21 de setembro pede acesso irrestrito a casos relatados e a outros que talvez não tenham sido divulgados.

A grande mudança

  • O que mudou: A fiscalização proposta acompanharia a IA até as informações de inteligência recebidas pelos comandantes, antes de qualquer decisão de usar a força.
  • Por que isso importa: O comando humano não resolve a questão de saber se as informações por trás de uma decisão são confiáveis. Essa distinção importa para militares e civis.
  • O que observar: Evidências de como as agências aplicam os requisitos de teste do governo, além de eventuais conclusões das investigações. Uma regra escrita de confiabilidade não mostra como um sistema específico se comportou.

O que motivou o pedido

Os senadores citam relatos de dados geoespaciais desatualizados no ataque a Minab e de possíveis informações falsas geradas por IA na inteligência que antecedeu uma operação de interceptação militar abortada. A carta pede uma análise das causas; não anuncia uma investigação dos inspetores-gerais nem comprova que a IA tenha causado os problemas.

O caso de Minab diz respeito ao ataque de 28 de fevereiro a uma escola primária iraniana. A reconstrução da AP, publicada em 1º de julho, informou que pelo menos um míssil dos Estados Unidos atingiu a escola, matando mais de 100 crianças. A AP se baseou em vídeos, evidências de fontes abertas e entrevistas. Sua reconstrução não determina qual sistema de IA, se algum, contribuiu para o ataque.

A Casa Branca ainda exige testes

O memorando de segurança nacional sobre IA de 5 de junho do presidente Trump substitui o memorando anterior de segurança nacional 25 e determina uma adoção mais rápida da IA. Também exige testes, avaliação, validação e verificação. A seção 2(c) pede explicitamente sistemas confiáveis e controláveis.

O mesmo documento estabelece prazos de 90 dias para atualizar as diretrizes sobre armas autônomas e criar uma política para o uso de IA em sistemas de segurança nacional. O memorando, por si só, não mostra se as agências cumpriram essas etapas.

Separadamente, a seção 2(d) responsabiliza comandantes e chefes de agências pelo cumprimento das obrigações de privacidade e liberdades civis.

A diretriz de junho é posterior ao ataque à escola. Ela define os requisitos atuais; cabe aos investigadores determinar quais regras estavam em vigor em fevereiro.