Senatori Jack Reed, Mark Warner i Chris Coons žele da glavni inspektori istraže prijavljene greške AI-ja u obaveštajnom radu i vojnim operacijama SAD-a. U njihovom saopštenju od 21. septembra traži se neograničen pristup prijavljenim i potencijalno neprijavljenim slučajevima.

Najvažnija promena

  • Šta se menja: Predloženi nadzor pratio bi AI do obaveštajnih podataka koje dobijaju komandanti, pre donošenja odluke o upotrebi sile.
  • Zašto je važno: Ljudska komanda sama po sebi ne dokazuje da su podaci na kojima se odluka zasniva pouzdani. Ta razlika važna je i za vojnike i za civile.
  • Na šta obratiti pažnju: Pratite dokaze o tome kako agencije primenjuju zahteve administracije za testiranje, zajedno sa nalazima istrage. Pisano pravilo o pouzdanosti ne pokazuje kako se konkretan sistem ponašao.

Šta je podstaklo zahtev

Senatori se pozivaju na izveštaje o zastarelim geoprostornim podacima u napadu na Minab i mogućim lažnim informacijama koje je generisala AI u obaveštajnim podacima pre obustavljene vojne operacije presretanja. U njihovom pismu traži se analiza osnovnih uzroka; ono ne najavljuje istragu glavnog inspektora niti utvrđuje da je AI izazvala incidente.

Slučaj Minab odnosi se na napad 28. februara na iransku osnovnu školu. Rekonstrukcija agencije AP od 1. jula navela je da je školu pogodila najmanje jedna američka raketa i da je ubijeno više od 100 dece. AP se oslonio na snimke, dokaze iz otvorenih izvora i razgovore. Rekonstrukcija agencije AP ne utvrđuje koji je sistem AI-ja, ako ijedan, doprineo napadu.

Bela kuća i dalje zahteva testiranje

Memorandum predsednika Trumpa o AI-ju za nacionalnu bezbednost, od 5. juna zamenjuje prethodni Nacionalni bezbednosni memorandum 25 i nalaže brže usvajanje AI-ja. Istovremeno zahteva testiranje, evaluaciju, validaciju i verifikaciju. Odeljak 2(c) izričito zahteva pouzdane sisteme kojima se može upravljati.

Isti dokument propisuje rokove od 90 dana za ažurirana uputstva o autonomnom oružju i politiku kojom se uređuje upotreba AI-ja u sistemima nacionalne bezbednosti. Sam memorandum ne pokazuje da li su agencije ispunile te korake.

Odeljak 2(d) zasebno poziva komandante i rukovodioce agencija na odgovornost za obaveze u pogledu privatnosti i građanskih sloboda.

Junska direktiva doneta je posle napada na školu. Ona utvrđuje sadašnje zahteve; istražitelji moraju da ustanove koja su pravila važila u februaru.