Сенатори Џек Рид, Марк Ворнер и Крис Кунс желе да генерални инспектори истраже пријављене пропусте вештачке интелигенције у америчким обавештајним и војним операцијама. Њихово саопштење од 21. септембра тражи неограничен приступ пријављеним, али и потенцијално непријављеним случајевима.

Суштинска промена

  • Шта се променило: Предложени надзор пратио би вештачку интелигенцију до обавештајних података које добијају војни команданти, пре било какве одлуке о употреби силе.
  • Зашто је важно: То што људи доносе командне одлуке не доказује да су информације на којима се оне заснивају тачне. Та разлика је важна за војнике и цивиле.
  • На шта обратити пажњу: Проверите доказе о томе како агенције примењују захтеве администрације за тестирање, као и евентуалне налазе истрага. Писано правило о поузданости не показује како је одређени систем радио.

Шта је подстакло захтев

Сенатори наводе извештаје о застарелим геопросторним подацима у удару на Минаб и могућим неистинама које је генерисала вештачка интелигенција у обавештајним подацима пре обустављене војне операције пресретања. У њиховом писму тражи се анализа основних узрока; оно не најављује истрагу генералног инспектора нити доказује да је вештачка интелигенција изазвала пропусте.

Случај Минаб односи се на напад 28. фебруара на иранску основну школу. Реконструкција агенције AP од 1. јула објавила је да је најмање једна америчка ракета погодила школу и убила више од 100 деце. AP се ослонио на видео-снимке, јавно доступне доказе и интервјуе. Реконструкција AP-а не утврђује који је систем вештачке интелигенције, ако га је уопште било, допринео нападу.

Бела кућа и даље захтева тестирање

Национални безбедносни меморандум о вештачкој интелигенцији председника Трампа од 5. јуна замењује претходни Национални безбедносни меморандум 25 и налаже брже усвајање технологије. Истовремено захтева тестирање, евалуацију, валидацију и верификацију. Одељак 2(c) изричито захтева поуздане системе којима се може управљати.

Исти документ поставља рок од 90 дана за ажуриране смернице о аутономном оружју и политику која уређује примену вештачке интелигенције у системима националне безбедности. Сам меморандум не показује да ли су агенције испуниле те обавезе.

Одељак 2(d) засебно позива команданте и руководиоце агенција на одговорност за обавезе у погледу приватности и грађанских слобода.

Јунска директива донета је после напада на школу. Она утврђује важеће захтеве; истражитељи морају да утврде која су правила важила у фебруару.