OpenAI के सैम ऑल्टमैन और Anthropic के डारियो एमोडेई ने 23 सितंबर को बढ़ती क्षमता वाले AI से जुड़े जोखिमों पर संयुक्त राष्ट्र सुरक्षा परिषद को अलग-अलग जानकारी दी। दोनों ने सरकारों से परीक्षण और रिपोर्टिंग पर सहयोग करने को कहा। उनके प्रस्तावों का दायरा अलग था और परिषद की चर्चा से अपने आप कोई नया AI नियम स्थापित नहीं हुआ।

बड़ा बदलाव

उन्नत AI मॉडल बनाने वाली दो कंपनियों के प्रमुखों ने अंतरराष्ट्रीय सुरक्षा से जुड़ी सुरक्षा परिषद की बैठक में सुरक्षा के खास प्रस्ताव रखे। ऑल्टमैन ने क्षमताएं मापने, सुरक्षा उपायों का आकलन करने और मानवीय निगरानी बनाए रखने के लिए परस्पर अनुकूल राष्ट्रीय तथा अंतरराष्ट्रीय मानकों की मांग की। एमोडेई ने अधिक सीमित समझौते सुझाए: शुरुआत जैविक हथियार बनाने में AI के इस्तेमाल पर रोक से हो, साथ में सत्यापन प्रणालियां और दुरुपयोग तथा नियंत्रण खोने के जोखिमों के लिए साझा परीक्षण हों। ये आमंत्रित वक्ताओं के अनुरोध थे। परिषद की किसी कार्रवाई पर सरकारों को सहमत होना होगा।

प्रस्ताव कहां मेल खाते हैं

संयुक्त राष्ट्र के स्वचालित रूप से तैयार बैठक प्रतिलेख में ऑल्टमैन ने घटनाओं की जल्द रिपोर्टिंग और सरकारों, बुनियादी ढांचा संचालकों तथा तकनीकी विशेषज्ञों के बीच कमजोरियों की जानकारी साझा करने के लिए सुरक्षित माध्यम मांगे। उन्होंने कहा कि मानक खुले और बंद मॉडल, नए डेवलपर और स्थापित प्रयोगशालाओं के अनुकूल होने चाहिए, जबकि हर सरकार तय करे कि अपने कानून में उनका उपयोग कैसे करना है।

एमोडेई ने भी अंतरराष्ट्रीय परीक्षण मानकों और वैश्विक सुरक्षा के लिए महत्वपूर्ण घटनाओं की सूचना देने की मांग की। उन्होंने एक ऐसी प्रणाली का प्रस्ताव रखा जिससे देश अग्रणी मॉडलों की क्षमताएं देख सकें और प्रतिबद्धताओं का सत्यापन कर सकें। उन्होंने Anthropic की उस प्रतिज्ञा को दोहराया कि कंपनी बाहरी मूल्यांकनकर्ताओं को अपने भीतर काम करने देगी और सुरक्षा के लिए जरूरत पड़ने पर रिलीज़ धीमी करेगी। ये Anthropic की प्रतिबद्धताएं और प्रस्ताव हैं; इस बात के स्वतंत्र निष्कर्ष नहीं कि उसके सुरक्षा उपाय कारगर हैं।

दोनों ने तुलनीय परीक्षणों और गंभीर घटनाओं के खुलासे की मांग की। एमोडेई ने सुरक्षा परिषद में अपने प्रस्ताव के केंद्र में जैविक हथियारों पर रोक और देशों के बीच सत्यापन को रखा। ऑल्टमैन ने ऐसे मानकों पर जोर दिया जिन्हें सरकारें अपनी कानूनी प्रणालियों के जरिए अपना सकें। किसी भी प्रस्ताव के साथ परिषद के सदस्यों में उसे लागू करने को लेकर समझौता नहीं था।

सुरक्षा परिषद की भूमिका पर सरकारों के विचार अलग हैं

फ्रांस ने इस बैठक का आयोजन किया। इसमें संयुक्त राष्ट्र के वैज्ञानिक पैनल के सह-अध्यक्ष योशुआ बेंगियो और Hugging Face के मुख्य कार्यकारी क्लेमेंट डेलांग भी बोले। यह परिषद में AI पर हुई पहले की चर्चाओं के बाद हुई, जिनमें जुलाई 2023 की पहली ऐसी ब्रीफिंग भी शामिल थी।

सदस्यों के बयानों से साझा चिंता और साझा नीति के बीच का अंतर सामने आया। लातविया के प्रकाशित बयान ने परिषद के अनौपचारिक विशेषज्ञ समूह पर विचार करने का समर्थन किया। संयुक्त राष्ट्र के प्रतिलेख में अमेरिकी प्रतिनिधि ने नए वैश्विक शासन ढांचे का विरोध किया और इसके बजाय राष्ट्रीय क्षमता तथा सर्वोत्तम तरीकों को साझा करने का आग्रह किया। ये बैठक में व्यक्त किए गए रुख हैं, सुरक्षा परिषद का निर्णय नहीं।

उपलब्ध संयुक्त राष्ट्र प्रतिलेख में वक्ताओं के बयान के बाद बैठक समाप्त होने का उल्लेख है। उसमें AI संबंधी प्रस्ताव या अध्यक्षीय वक्तव्य अपनाए जाने की बात नहीं है। पृष्ठ चेतावनी देता है कि भाषणों का पाठ स्वचालित पहचान से बना है और संयुक्त राष्ट्र का आधिकारिक अभिलेख नहीं है।