सीनेटर Bernie Sanders और प्रतिनिधि Greg Casar ने 23 सितंबर को कहा कि उन्होंने Ban Artificial Superintelligence Act पेश किया है। उनका प्रकाशित 19-पृष्ठीय विधेयक-पाठ कृत्रिम सुपरइंटेलिजेंस पर प्रतिबंध लगाने, नए संघीय विभाग द्वारा सुरक्षा नियम लिखे जाने तक कुछ उन्नत मॉडलों के विकास पर रोक लगाने और उन मॉडलों को उपयोगकर्ताओं तक पहुँचाने से पहले मंज़ूरी लेने का प्रस्ताव रखता है। यह विधायी प्रस्ताव है। इसके किसी प्रतिबंध को लागू नहीं किया गया है।

बड़ा बदलाव

  • क्या बदला: Sanders और Casar ने 3 सितंबर को नियोजित कानून की घोषणा से आगे बढ़कर 23 सितंबर को बताया कि विधेयक पेश कर दिया गया है। इसके सार्वजनिक पाठ में प्रस्तावित परिभाषाएँ और प्रवर्तन-अधिकार दिए गए हैं।
  • यह क्यों मायने रखता है: यह प्रस्ताव किसी भविष्य की अस्पष्ट सुपरइंटेलिजेंस तक सीमित नहीं है। इसमें सूचीबद्ध पूर्ववर्ती क्षमताओं वाले सिस्टमों पर प्रतिबंध और एक तय संगणना-सीमा से अधिक प्रशिक्षण पाए मॉडलों पर अस्थायी रोक भी शामिल है। यदि कांग्रेस इस पाठ को कानून बनाती है, तो ये प्रावधान किसी सिस्टम के विधेयक में दी गई सुपरइंटेलिजेंस की परिभाषा पर खरा उतरने से काफी पहले डेवलपरों को प्रभावित कर सकते हैं।
  • अब किन बातों पर नज़र रखें: डेवलपरों पर दायित्व लागू करने से पहले कांग्रेस को यह उपाय आगे बढ़ाकर पारित करना होगा। सार्वजनिक पाठ में सीनेट विधेयक संख्या का स्थान अब भी खाली है; क्रमांकित संसदीय रिकॉर्ड और संशोधित पाठ से उसका अगला औपचारिक चरण स्पष्ट होगा।

पाठ में दो अलग-अलग तरह के प्रतिबंध

प्रस्तावित अस्थायी रोक “उन्नत कृत्रिम बुद्धिमत्ता प्रणाली” पर लागू होगी, जिसकी परिभाषा में कम-से-कम 10²⁵ पूर्णांक या फ्लोटिंग-पॉइंट संक्रियाओं से प्रशिक्षित सिस्टम शामिल है। भावी विभाग का सचिव प्रशिक्षण की बेहतर दक्षता को देखते हुए हर साल यह सीमा बदलेगा। कानून बनने से लेकर विभाग में पूरा स्टाफ आने और सुरक्षा नियम जारी होने तक ऐसे सिस्टमों को प्रशिक्षित, संशोधित या fine-tune नहीं किया जा सकेगा—सिवाय निषिद्ध विशेषताएँ हटाने या सिस्टम बंद करने के लिए। इस अवधि में जारी न किए गए उन्नत सिस्टम तैनात नहीं किए जा सकेंगे। रोक समाप्त करने वाले नियमों में विकास-योजना की रिपोर्टें, मूल्यांकन, सुरक्षा-प्रथाओं का ऑडिट और सार्वजनिक रूप से जारी करने से पहले अंतिम मंज़ूरी शामिल होगी।

प्रस्तावित प्रतिबंध के लिए अलग कसौटी है। इसमें ऐसे सिस्टम आते हैं जो अधिकांश क्षेत्रों में मानवीय संज्ञानात्मक प्रदर्शन से आगे हों, या जिनमें मानवता को नष्ट अथवा शक्तिहीन करने की योजना बनाने और उसे अंजाम देने की पर्याप्त क्षमता हो। धारा 9 ऐसे सिस्टमों पर भी प्रतिबंध लगाती है जिनमें सूचीबद्ध “सुपरइंटेलिजेंस की पूर्ववर्ती विशेषताओं” में से कोई दिखाई दे। सूची में AI अनुसंधान को बहुत तेज़ करना, सुरक्षित ढाँचे तक अनधिकृत पहुँच, बंद करने की कोशिशों के बावजूद चलते रहना, हथियार विकसित करने में सहायता, स्वयं में बदलाव और मानवीय निगरानी से बचना शामिल है। इस अलग पूर्ववर्ती-क्षमता प्रतिबंध पर पाठ 10²⁵ संक्रियाओं की सीमा लागू नहीं करता। धारा 9(b) उन सिस्टमों को तैनात करने, जारी करने, हस्तांतरित करने या आयात करने पर भी रोक लगाती है जिन्हें इन दोनों श्रेणियों में से किसी के लिए पूर्वानुमेय रूप से बदला जा सकता हो। किसी खास सिस्टम पर ये क्षमता-विवरण कैसे लागू होंगे, यह भावी नियामक को तय करना होगा; विधेयक ऐसे बेंचमार्क स्कोर नहीं देता जो इन निर्णयों को अंतिम रूप से तय कर दें।

मसौदे के तहत कैबिनेट स्तर पर कृत्रिम बुद्धिमत्ता विभाग बनेगा और उन्नत मॉडल विकसित करने या वितरित करने के लिए चार्टर लेना होगा। विभाग को निरीक्षण और तैनाती-पूर्व मंज़ूरी देने का अधिकार मिलेगा। कंपनी के नीति-निर्माताओं या असंबद्ध व्यक्तियों द्वारा किए गए कुछ लापरवाहीपूर्ण उल्लंघनों के लिए मसौदे में जुर्माने और 20 वर्ष तक की जेल का प्रावधान है। इसमें चार्टर रद्द करने तथा तय समीक्षा के बाद उल्लंघन से जुड़ी संपत्ति और बौद्धिक संपदा जब्त करने का प्रावधान भी है। ये प्रस्तावित दंड हैं, अभी लागू प्रतिबंध नहीं।

दायरे को लेकर विवाद

इस AI नीति की चर्चा, जो एपिसोड 290 में लगभग 53वें मिनट पर हुई, All-In के पैनल सदस्यों ने तर्क दिया कि यह उपाय अमेरिका में AI विकास रोक सकता है और कंपनियों को विदेश भेज सकता है। यह संभावित असर के बारे में उनका आकलन है। पाठ केवल AI होने के कारण हर मौजूदा उत्पाद पर प्रतिबंध नहीं लगाता; वह अस्थायी रोक के लिए प्रशिक्षण-सीमा और व्यापक प्रतिबंध के लिए क्षमता-कसौटियाँ तय करता है। ये कसौटियाँ फिर भी महत्वपूर्ण हैं, क्योंकि प्रस्तावित पूर्ववर्ती-क्षमता सूची उस प्रशिक्षण-सीमा से बँधी नहीं है।

AI शोधकर्ता Gary Marcus ने 3 सितंबर की घोषणा के बाद आलोचना का अलग रास्ता अपनाया। उन्होंने AI नियामक के विचार का समर्थन किया और कहा कि अस्थायी रोक का बचाव किया जा सकता है, लेकिन उनका तर्क था कि एकतरफ़ा स्थायी प्रतिबंध और अनिश्चित क्षमता-आकलन बहुत आगे चले जाते हैं। उनकी प्रतिक्रिया 23 सितंबर को विधेयक पेश होने से पहले की है; इसलिए उसे घोषित प्रस्ताव की आलोचना के रूप में पढ़ना चाहिए, बाद में प्रकाशित पाठ की हर पंक्ति की समीक्षा के रूप में नहीं।

Sanders और Casar कहते हैं कि प्रतिबंध से विनाशकारी जोखिम कम होंगे और अंतरराष्ट्रीय समझौते तथा निर्यात नियंत्रण यह रोकेंगे कि खतरनाक विकास कहीं और स्थानांतरित हो जाए। Associated Press की रिपोर्ट में विकास धीमा करने के पक्ष में Sanders के तर्क और इस चिंता का ज़िक्र है कि अमेरिका की एकतरफ़ा सीमाओं से दूसरे देशों में विकास पर असर नहीं पड़ेगा। विधेयक के प्रभाव को लेकर न तो प्रायोजकों के सुरक्षा-दावे और न ही पैनल के आर्थिक अनुमान साबित करते हैं कि कानून बनने पर क्या होगा। पहली व्यावहारिक कसौटी विधायी होगी: क्या कांग्रेस प्रस्ताव पर विचार करती है और पूर्ववर्ती-क्षमताओं की असामान्य रूप से व्यापक भाषा का समाधान कैसे करती है।

स्रोत और आगे पढ़ें

  • Casar की 23 सितंबर की घोषणा में कहा गया है कि उन्होंने और Sanders ने विधेयक पेश किया और इसके उद्देश्यों का सार दिया गया है। यह प्रस्ताव की स्थिति और उद्देश्य के बारे में उसके प्रायोजकों का विवरण है।
  • Sanders की 3 सितंबर की घोषणा में कानून को भविष्य में पेश किए जाने वाला बताया गया था; इससे प्रस्ताव का पहले वाला चरण स्पष्ट होता है।
  • प्रकाशित विधेयक-पाठ, खासकर धाराएँ 3, 8–10, 12 और 13, यहाँ वर्णित परिभाषाएँ, रोक, प्रतिबंध, एजेंसी के अधिकार और दंड देती हैं। इसमें सीनेट विधेयक संख्या वाला स्थान खाली है।
  • Sanders का धारा-दर-धारा सारांश प्रायोजक के कार्यालय की ओर से पढ़ने में मदद देने वाला दस्तावेज़ है; लेख के विशिष्ट दावों का मिलान लंबे विधेयक-पाठ से किया गया।
  • Associated Press की 23 सितंबर की रिपोर्ट में स्वतंत्र रिपोर्टिंग, Sanders का साक्षात्कार और राजनीतिक संदर्भ शामिल हैं।
  • All-In, एपिसोड 290 में पैनल की आलोचनात्मक चर्चा है। पैनल की भविष्यवाणियाँ राय के रूप में बताई गई हैं, विधेयक के असर के बारे में स्थापित नतीजों के रूप में नहीं।
  • प्रस्ताव पर Gary Marcus की 3 सितंबर की प्रतिक्रिया AI-सुरक्षा समर्थक की एक अलग आलोचनात्मक राय देती है। यह पहले की घोषणा पर प्रतिक्रिया है।