Los senadores Jack Reed, Mark Warner y Chris Coons quieren que los inspectores generales investiguen fallos de IA denunciados en operaciones de inteligencia y militares de Estados Unidos. Su comunicado del 21 de septiembre pide acceso sin restricciones a los casos denunciados y a otros que quizá no se hayan hecho públicos.

El gran cambio

  • Qué cambió: El escrutinio propuesto examinaría el papel de la IA en la inteligencia que reciben los mandos militares antes de decidir si emplean la fuerza.
  • Por qué importa: Que el mando siga en manos humanas no garantiza que sea fiable la información en la que se basa una decisión. Esta distinción importa tanto a los soldados como a los civiles.
  • Qué observar: Habrá que ver pruebas sobre cómo aplican las agencias los requisitos de prueba de la Administración, además de las conclusiones de cualquier investigación. Una norma escrita sobre fiabilidad no demuestra cómo funcionó un sistema concreto.

Qué motivó la petición

Los senadores citan informes sobre datos geoespaciales desactualizados en el ataque de Minab y posibles falsedades generadas por IA en la inteligencia que precedió a una operación de interdicción militar abortada. Su carta pide un análisis de las causas fundamentales; no anuncia una investigación de los inspectores generales ni demuestra que la IA causara los hechos.

El caso de Minab se refiere al ataque del 28 de febrero contra una escuela primaria iraní. La reconstrucción de AP del 1 de julio informó de que al menos un misil estadounidense alcanzó la escuela y mató a más de 100 niños. AP se basó en vídeos, pruebas de fuentes abiertas y entrevistas. Su reconstrucción no determina qué sistema de IA, si es que alguno, contribuyó al ataque.

La Casa Blanca sigue exigiendo pruebas

El memorando de seguridad nacional sobre IA del 5 de junio del presidente Trump sustituye al Memorando de Seguridad Nacional 25 y ordena acelerar la adopción de la IA. También exige pruebas, evaluación, validación y verificación. La sección 2(c) pide expresamente sistemas fiables y controlables.

El mismo documento fija plazos de 90 días para actualizar las directrices sobre armas autónomas y establecer una política para el uso de IA en sistemas de seguridad nacional. El memorando no demuestra que las agencias hayan cumplido esos pasos.

La sección 2(d) también hace responsables a los mandos y responsables de las agencias del cumplimiento de las obligaciones de privacidad y libertades civiles.

La directiva de junio es posterior al ataque a la escuela. Establece los requisitos vigentes; los investigadores tendrán que determinar qué normas se aplicaban en febrero.