अमेरिकी गुप्तचर आणि लष्करी कारवायांतील नोंदवलेल्या AI अपयशांची महानिरीक्षकांनी चौकशी करावी, अशी सिनेटर Jack Reed, Mark Warner आणि Chris Coons यांची मागणी आहे. त्यांच्या २१ सप्टेंबरच्या निवेदनात नोंदवलेल्या आणि कदाचित नोंद न झालेल्या प्रकरणांचा निर्बंधांशिवाय प्रवेश मागितला आहे.

मोठा बदल

  • काय बदलले: प्रस्तावित छाननीत बळाचा वापर करण्याचा कोणताही निर्णय होण्यापूर्वी कमांडरना मिळणाऱ्या गुप्तचर माहितीत AI कुठे वापरले जाते, याचाही मागोवा घेतला जाईल.
  • हे का महत्त्वाचे: निर्णय घेण्याचा अधिकार माणसाकडे आहे, यावरून त्या निर्णयामागची माहिती योग्य आहे असे ठरत नाही. सैनिक आणि नागरिकांसाठी हा फरक महत्त्वाचा आहे.
  • कशाकडे लक्ष द्यावे: प्रशासनाच्या चाचणी-अटी संस्था कशा लागू करतात याचा पुरावा आणि तपासाचे निष्कर्ष यांकडे लक्ष द्या. लेखी विश्वासार्हता-नियमावरून एखादी विशिष्ट प्रणाली कशी कामगिरी करते, हे कळत नाही.

मागणीचे कारण काय

सिनेटर मिनाबवरील हल्ल्यात कालबाह्य भौगोलिक माहिती वापरल्याच्या आणि रद्द झालेल्या लष्करी अडवणुकीआधीच्या गुप्तचर माहितीत AI-निर्मित खोट्या दाव्यांची शक्यता असल्याच्या वृत्तांचा उल्लेख करतात. त्यांच्या पत्रात मूळ कारणांचे विश्लेषण मागितले आहे; महानिरीक्षकांची चौकशी जाहीर केलेली नाही किंवा AI मुळेच असे घडले हे स्थापित केलेले नाही.

मिनाब प्रकरण २८ फेब्रुवारी रोजी इराणमधील प्राथमिक शाळेवर झालेल्या हल्ल्याशी संबंधित आहे. AP च्या १ जुलैच्या पुनर्रचनेत किमान एका अमेरिकी क्षेपणास्त्राचा शाळेला फटका बसला आणि १०० हून अधिक मुले मारली गेली, असे वृत्त दिले. AP ने व्हिडिओ, मुक्त-स्रोत पुरावे आणि मुलाखतींच्या आधारे ही पुनर्रचना केली. या हल्ल्यात कोणती AI प्रणाली सहभागी झाली होती का, हे AP ची पुनर्रचना स्थापित करत नाही.

व्हाइट हाऊसकडून चाचणीची अट कायम

राष्ट्राध्यक्ष Trump यांच्या ५ जूनच्या राष्ट्रीय-सुरक्षा AI ज्ञापनाने आधीचे National Security Memorandum 25 बदलले आणि जलद अवलंबनाचे निर्देश दिले. त्यात चाचणी, मूल्यमापन, प्रमाणीकरण आणि पडताळणीचीही अट आहे. कलम 2(c) मध्ये प्रणाली विश्वासार्ह आणि नियंत्रणयोग्य असाव्यात, अशी स्पष्ट मागणी आहे.

याच दस्तऐवजात स्वायत्त शस्त्रास्त्रांसाठी अद्ययावत मार्गदर्शन आणि राष्ट्रीय-सुरक्षा प्रणालींमध्ये AI वापरण्याचे धोरण यांसाठी स्वतंत्र ९० दिवसांची मुदत दिली आहे. संस्था ही पावले पूर्ण करतात का, हे ज्ञापन स्वतः दाखवत नाही.

कलम 2(d) गोपनीयता आणि नागरी स्वातंत्र्यांसंबंधीच्या जबाबदाऱ्यांसाठी कमांडर आणि संस्थाप्रमुखांना स्वतंत्रपणे जबाबदार धरते.

जूनचा निर्देश शाळेवरील हल्ल्यानंतरचा आहे. तो सध्याच्या अटी सांगतो; फेब्रुवारीमध्ये कोणते नियम लागू होते, हे तपासकांनी ठरवावे.