Senator Jack Reed, Mark Warner, dan Chris Coons ingin para inspektur jenderal menyelidiki laporan kegagalan AI dalam intelijen dan operasi militer AS. Rilis mereka pada 21 September menyerukan akses tanpa pembatasan terhadap kasus yang telah dilaporkan dan yang mungkin belum dilaporkan.

Perubahan besar

  • Yang berubah: Usulan pemeriksaan itu akan menelusuri penggunaan AI hingga intelijen yang diterima para komandan, sebelum keputusan apa pun untuk menggunakan kekuatan militer.
  • Mengapa ini penting: Adanya komando manusia tidak memastikan bahwa informasi yang mendasari keputusan tersebut benar. Pembedaan itu penting bagi prajurit maupun warga sipil.
  • Yang perlu dipantau: Bukti tentang cara badan-badan pemerintah menerapkan persyaratan pengujian pemerintahan, beserta temuan penyelidikan jika ada. Aturan keandalan tertulis tidak menunjukkan kinerja suatu sistem tertentu.

Apa yang mendorong permintaan ini

Para senator mengutip laporan tentang data geospasial usang dalam serangan di Minab dan kemungkinan adanya informasi palsu yang dihasilkan AI dalam intelijen sebelum operasi pencegatan militer yang dibatalkan. Surat mereka meminta analisis akar masalah; surat itu tidak mengumumkan penyelidikan inspektur jenderal atau membuktikan bahwa AI menyebabkan peristiwa tersebut.

Kasus Minab menyangkut serangan pada 28 Februari terhadap sebuah sekolah dasar di Iran. Rekonstruksi AP pada 1 Juli melaporkan bahwa setidaknya satu rudal AS menghantam sekolah itu dan menewaskan lebih dari 100 anak. AP menggunakan video, bukti sumber terbuka, dan wawancara. Rekonstruksi AP tidak memastikan sistem AI mana, jika ada, yang turut berkontribusi terhadap serangan tersebut.

Gedung Putih tetap mewajibkan pengujian

Presiden Trump menerbitkan memorandum keamanan nasional tentang AI pada 5 Juni menggantikan Memorandum Keamanan Nasional 25 sebelumnya dan mengarahkan percepatan adopsi. Memorandum itu juga mewajibkan pengujian, evaluasi, validasi, dan verifikasi. Bagian 2(c) secara tegas menuntut sistem yang andal dan dapat dikendalikan.

Dokumen yang sama menetapkan tenggat 90 hari untuk memperbarui panduan senjata otonom dan kebijakan yang mengatur penggunaan AI dalam sistem keamanan nasional. Memorandum itu sendiri tidak menunjukkan apakah badan-badan pemerintah telah menyelesaikan langkah-langkah tersebut.

Bagian 2(d) secara terpisah meminta para komandan dan kepala badan bertanggung jawab atas kewajiban privasi dan kebebasan sipil di dalamnya.

Arahan bulan Juni terbit setelah serangan terhadap sekolah tersebut. Arahan itu menetapkan persyaratan yang berlaku saat ini; penyelidik perlu memastikan aturan mana yang berlaku pada Februari.