Сенаторы Джек Рид, Марк Уорнер и Крис Кунс требуют, чтобы генеральные инспекторы расследовали сообщения об ошибках ИИ в разведывательной деятельности США и военных операциях. В опубликованном сообщении от 21 сентября содержится призыв предоставить неограниченный доступ к известным и потенциально нераскрытым случаям.

Главное изменение

  • Что изменилось: Предлагаемая проверка должна проследить использование ИИ вплоть до разведданных, которые получают командующие, прежде чем принимать решение о применении силы.
  • Почему это важно: Наличие человека, принимающего командное решение, ещё не гарантирует достоверность информации, на которой это решение основано. Это важно для военнослужащих и гражданских лиц.
  • За чем следить: Следует следить за тем, как ведомства исполняют требования администрации к тестированию, а также за выводами расследования. Письменное правило надёжности не показывает, как сработала конкретная система.

Что стало поводом для запроса

Сенаторы ссылаются на сообщения об устаревших геопространственных данных при ударе по Минабу и о возможных ложных сведениях, созданных ИИ, в разведданных перед отменённой военной операцией по перехвату. В письме они требуют выяснить первопричины; оно не объявляет о расследовании генерального инспектора и не доказывает, что причиной стал ИИ.

Дело Минаба касается удара 28 февраля по начальной школе в Иране. В реконструкции AP от 1 июля сообщалось, что по меньшей мере одна американская ракета попала в школу, в результате чего погибли более 100 детей. AP использовало видео, данные из открытых источников и интервью. Реконструкция AP не устанавливает, участвовала ли в ударе какая-либо система ИИ.

Белый дом по-прежнему требует тестирования

Меморандум президента Трампа по ИИ в сфере национальной безопасности от 5 июня заменяет прежний меморандум о национальной безопасности № 25 и предписывает ускорить внедрение. При этом он требует тестирования, оценки, валидации и верификации. В разделе 2(c) прямо говорится о необходимости надёжных и контролируемых систем.

Тот же документ устанавливает 90-дневный срок для обновления правил об автономном оружии и политики использования ИИ в системах национальной безопасности. Сам меморандум не показывает, выполнили ли ведомства эти требования.

Раздел 2(d) отдельно возлагает на командующих и руководителей ведомств ответственность за соблюдение требований о защите частной жизни и гражданских свобод.

Июньская директива принята после удара по школе. Она устанавливает действующие требования; следователям предстоит определить, какие правила действовали в феврале.