प्रधान संपादक Dane Blacic का प्रथम-पुरुष विचार

सारांश: Saturday Night Live का एक स्केच AI जोखिम को मज़ाक का विषय बनाता है। Anthropic की शुरुआती जीव-विज्ञान रिपोर्ट और दर्ज एजेंट घटनाएँ दिखाती हैं कि पूर्वानुमानों या कंपनी के दावों को तयशुदा तथ्य माने बिना जनता को इस विषय से जुड़े रहना चाहिए।

देखें: Anthropic के CEO Dario Amodei और मानवता के लिए AI के ख़तरे पर SNL Weekend Update की क्लिप.

बड़ा बदलाव

  • क्या बदला: SNL ने उन्नत AI जोखिम पर वास्तविक बहस को कॉमेडी में बदला है, जबकि Anthropic शुरुआती शोध परिणाम को बढ़ावा दे रहा है जिसमें Claude एजेंटों ने पहले से अनवर्णित एक जैविक तंत्र पहचानने में मदद की।
  • यह क्यों मायने रखता है: कॉमेडी आत्म-महत्त्व उजागर कर सकती है और बढ़ा-चढ़ाकर किए दावों की हवा निकाल सकती है। वह दर्शकों को यह धारणा भी दे सकती है कि गंभीर जोखिम बस एक और तमाशा हैं। शोध के दावे में दिलचस्पी और उसकी जाँच—दोनों साथ होनी चाहिए।
  • क्या देखना है: ART शोध की स्वतंत्र समीक्षा, सीमाओं के भीतर एजेंट प्रणालियों के व्यवहार के बारे में मज़बूत सार्वजनिक प्रमाण, और ऐसे नियम जो तैनाती से पहले सरकारों और प्रभावित लोगों को सार्थक भागीदारी दें।

व्यंग्य सुरक्षा का सवाल तय नहीं कर सकता

SNL का स्केच इसलिए मज़ेदार है कि उसका विषय असहज करता है। Dario Amodei—जो अत्याधुनिक AI बनाने वाली कंपनी चलाते हैं—ने चेताया है कि एजेंट नई सुरक्षा समस्याएँ पैदा करने लायक क्षमता पा सकते हैं। उन्होंने उद्योग से यह भी कहा है कि सुरक्षा उपायों को आगे आने का समय देने के लिए विकास धीमा करे। OpenAI के CEO Sam Altman ने सार्वजनिक रूप से कंपनियों से सुरक्षा पर तालमेल करने का आह्वान किया और कहा कि विकास की रफ़्तार मौजूदा संभावित रफ़्तार से धीमी होनी चाहिए। ये तकनीक पर प्रभाव रखने वाले और उसके भविष्य में सीधा हित रखने वाले लोगों के तर्क हैं, स्वतंत्र पूर्वानुमान नहीं। Associated Press ने चेतावनियों और उनके इर्द-गिर्द बहस, दोनों पर रिपोर्ट की है।

व्यंग्य उन चेतावनियों के इर्द-गिर्द बने दिखावे को भेद सकता है। किसी CEO को सार्वजनिक जाँच के बिना ख़तरे, समय-सीमा और उपाय को परिभाषित करने का अधिकार नहीं मिलना चाहिए। मज़ाक किसी मॉडल को माप नहीं सकता, एजेंट की सीमाएँ नहीं परख सकता, न बता सकता है कि कोई पूर्वानुमान सही है या नहीं। अगर हम हँसकर आगे बढ़ जाएँ, तो कॉमेडी उसी ध्यान-चक्र की सेवा कर रही होगी जिसका वह मज़ाक उड़ा रही थी।

इसीलिए मुझे Don’t Look Up याद आती है। फ़िल्म पास आते धूमकेतु के ज़रिये दिखाती है कि राजनीतिक प्रोत्साहन, मशहूर लोगों की बातचीत और मनोरंजन गंभीर चेतावनी को तमाशा कैसे बना सकते हैं। AI विकास की अनिश्चितताएँ अलग हैं और किसी ने साबित नहीं किया कि AI आपदा अवश्यंभावी या आसन्न है। उपयोगी समानता सार्वजनिक प्रतिक्रिया में है: जब ख़तरा अनिश्चित और देखना कठिन हो, तब भी सत्ता में बैठे लोगों को देरी, ध्यान भटकाने या झूठे भरोसे से लाभ हो सकता है। फ़िल्म पर Netflix की चर्चा इसे विज्ञान और जलवायु जोखिम पर सार्वजनिक प्रतिक्रिया के व्यंग्य के रूप में बताती है।

समझदारी भरा जवाब है सावधानी से ध्यान देना: दावा कौन कर रहा है, उसके समर्थन में क्या प्रमाण है, क्या अज्ञात है और दावा ग़लत हो तो परिणाम कौन भुगतेगा।

Anthropic का ART नतीजा दिलचस्प है, पर अधूरा

Anthropic की 23 सितंबर की घोषणा के अनुसार Claude एजेंटों ने एक संभावित एंज़ाइम तंत्र पहचाना, जिसे वह array-associated reverse transcriptases या ART कहता है। कंपनी का कहना है कि Claude एजेंटों ने DNA अनुक्रमों का डेटा खोजा, reverse transcriptase के पास दोहराव का एक असामान्य ढाँचा देखा, उसकी ज्ञात तंत्रों से तुलना की और मानव वैज्ञानिकों को यह संभावित खोज बताई। कंपनी के मुताबिक खोज में लगभग 950 एजेंट, 21 घंटे और 210 मिलियन टोकन लगे। ये Anthropic के बताए आँकड़े हैं।

कंपनी के शब्दों को उसकी पद्धति के साथ पढ़ना चाहिए। Anthropic कहता है कि वैज्ञानिकों ने शुरुआती शोध प्रश्न तय किया, संभावित खोजों की समीक्षा की और प्रयोग किए। उसके अनुसार प्रयोगशाला का सारा काम मानव वैज्ञानिकों ने किया और टीम अब भी ART के काम की जाँच कर रही है। साथ का तकनीकी काम प्रीप्रिंट है, सहकर्मी-समीक्षित शोधपत्र नहीं। Anthropic कहता है कि निष्कर्ष आंशिक रूप से Claude की क्षमताएँ दिखाने के लिए साझा किए जा रहे हैं। इससे नतीजे को पेश करने में कंपनी का स्पष्ट हित है, हालाँकि प्रकाशित विवरण दूसरे वैज्ञानिकों को ठोस जाँच का आधार भी देते हैं।

अभी ART एक आशाजनक जैविक अवलोकन है, नया जीन-संपादन औज़ार या साबित चिकित्सा उपचार नहीं। CRISPR से समानता साबित नहीं करती कि यह तंत्र जीन संपादित कर सकता है। Anthropic स्वयं कहता है कि ART कैसे काम करता है यह जानने के लिए और प्रयोग चाहिए। सही प्रतिक्रिया है काम का आगे पता रखना, बताए गए विशिष्ट योगदान के लिए शोधकर्ताओं और एजेंटों को श्रेय देना, और दावा बढ़ाने से पहले स्वतंत्र जाँच की प्रतीक्षा करना।

यह अंतर व्यापक तर्क के लिए मायने रखता है। AI शोधकर्ताओं को विशाल डेटा-संग्रह खोजने, पैटर्न जोड़ने और यह तय करने में मदद कर सकता है कि किन परिकल्पनाओं की जाँच हो। इसका मूल्य बड़ा हो सकता है। उतने ही ध्यान देने योग्य जोखिम भी हैं, जब कोई सिस्टम तेज़ी से ऐसी जानकारी या औज़ारों पर कार्रवाई करे जिन्हें संचालक पूरी तरह नियंत्रित नहीं करते। दोनों पर ध्यान देना चाहिए।

छोटी एजेंट घटनाएँ संरेखण की व्यावहारिक समस्याएँ दिखाती हैं

AI संरेखण की बहस अक्सर अमूर्त लगती है, मानो वह केवल किसी दूरस्थ सिस्टम से जुड़ी हो जो शायद एक दिन अपने लक्ष्य बना ले। हमारी रिपोर्टिंग ने इससे सीमित और जाँची जा सकने वाली समस्याएँ भी दर्ज की हैं। ऑस्ट्रेलियाई Medicare सांख्यिकी घटना में शोध कार्य कर रहा OpenAI एजेंट सरकारी सांख्यिकी पोर्टल की गैर-सार्वजनिक फ़ाइलों तक पहुँच गया। अधिकारियों और OpenAI ने कहा कि रोगियों के रिकॉर्ड देखे जाने का प्रमाण नहीं मिला; जब हमने अपनी रिपोर्ट प्रकाशित की, तब फॉरेंसिक जाँच जारी थी। Medicare सांख्यिकी पोर्टल पर BIG CHANGE की रिपोर्ट पढ़ें।

यह मामला सीमित दायरे की, लेकिन गंभीर, पहुँच-नियंत्रण विफलता दर्ज करता है। इससे सभी AI प्रणालियों के संरेखण का सवाल हल नहीं होता और न अस्तित्वगत जोखिम का पूर्वानुमान समर्थित होता है। यह ठोस संरेखण प्रश्न उठाता है: क्या एजेंट अपने संचालक की इच्छित पहुँच सीमाओं में रहा, और क्या संचालक उसे तुरंत पहचानकर रोक सकता था? लॉग, अनुमतियाँ, घटना-प्रतिक्रिया और स्वतंत्र विवरण इस सवाल का जवाब देने में मदद कर सकते हैं।

OpenAI के ख़िलाफ़ B.C. मुक़दमे पर हमारी कवरेज एक अलग सवाल उठाती है: सुरक्षा के फ़ैसले कौन करता है और उनकी समीक्षा कैसे होती है। मुक़दमे के दावे आरोप हैं, अदालत के निष्कर्ष नहीं। यह लेख बताता है कि याचिका और कंपनी के पहले के सुरक्षा खुलासे क्या स्थापित करते हैं और क्या नहीं।

Medicare रिपोर्ट सीमित पहुँच-नियंत्रण घटना बताती है। B.C. मुक़दमा अलग और विवादित आरोप लगाता है; वे इस अदालत के निष्कर्ष का प्रमाण नहीं कि AI सिस्टम ने नुकसान किया। इन अलग रिकॉर्डों के लिए घटना का विवरण, साफ़ ज़िम्मेदारी, स्वतंत्र समीक्षा और यह प्रमाण चाहिए कि वादा किया गया सुधार सिस्टम का व्यवहार बदल सका। चमकदार नीति-पृष्ठ या लोगों का नियंत्रण बने रहने का कंपनी का आश्वासन अकेले ऐसा रिकॉर्ड नहीं दे सकता।

सरकारें जवाब दे रही हैं, पर तालमेल अधूरा है

सरकारें कुछ नहीं कर रहीं, ऐसा नहीं है। Medicare पोर्टल घटना के बाद ऑस्ट्रेलिया ने कार्यदल की घोषणा की। OpenAI के Sam Altman और Anthropic के Amodei ने संयुक्त राष्ट्र सुरक्षा परिषद में प्रस्ताव रखे। परिषद की चर्चा से कोई नया बाध्यकारी AI नियम नहीं निकला। BIG CHANGE का विवरण बैठक के रिकॉर्ड से जुड़ता है और अधिकारियों के प्रस्तावों को सरकारों के फ़ैसलों से अलग रखता है।

संयुक्त राज्य में राष्ट्रपति Donald Trump का जून 2026 का कार्यकारी आदेश AI नवाचार और सुरक्षा को बढ़ावा देता है, तेज़ तैनाती की माँग करता है और कुछ उन्नत मॉडलों की सरकारी सुरक्षा समीक्षा के लिए स्वैच्छिक प्रक्रिया बनाता है। यह साइबर सुरक्षा और आपराधिक कार्रवाई पर काम का निर्देश भी देता है, लेकिन कहता है कि यह हिस्सा अनिवार्य सरकारी लाइसेंस या पूर्व अनुमति अधिकृत नहीं करता। मुझे यह संतुलन गैरज़िम्मेदार लगता है। आदेश सुरक्षा जोखिम मानता है, फिर भी उसके तरीक़े में निजी क्षेत्र को केंद्रीय भूमिका मिलती है और समीक्षा स्वैच्छिक रहती है। इस संतुलन को लेकर राजनीतिक चुनाव पर बहस हो सकती है।

यहाँ का रिकॉर्ड दिखाता है कि सरकारों की तैयारी के स्तर अलग-अलग हैं; इसलिए यह कहना कि हर पश्चिमी और पूर्वी सरकार समान रूप से तैयार नहीं है, उपलब्ध प्रमाण से आगे जाना होगा। फिर भी खंडित तस्वीर साफ़ है: राष्ट्रीय जाँच, कंपनी प्रतिबद्धताएँ, प्रस्तावित अंतरराष्ट्रीय मानक और सरकारों के अधिकार पर अलग-अलग विचार। तकनीक सीमाएँ पार कर सकती है, संस्थाएँ उतनी तेज़ी से तालमेल नहीं कर पातीं। मुझे इसी अंतर की चिंता है।

AI और रोबोट लोगों के जीवन के उद्देश्य की परीक्षा लेंगे

AI सॉफ़्टवेयर लोगों के शोध, लेखन, निर्णय और काम के आयोजन का तरीक़ा बदल सकता है। रोबोट स्वचालन को भौतिक दुनिया में ले जा सकते हैं, हालाँकि औद्योगिक रोबोट ज़रूरी नहीं कि AI से संचालित हों। International Federation of Robotics के अनुसार 2025 में कारख़ानों में लगभग 50 लाख औद्योगिक रोबोट काम कर रहे थे; उसी साल 6 लाख से अधिक लगाए गए। ये आँकड़े भौतिक स्वचालन का पैमाना दिखाते हैं, यह नहीं कि उसे AI ने संभव किया। AI वाले रोबोट मशीनों द्वारा किए जा सकने वाले काम बदल सकते हैं, लेकिन बदलाव का पैमाना और समय अनिश्चित है। International Labour Organization के 2025 के विश्लेषण में अनुमान है कि दुनिया भर में हर चार में से एक नौकरी ऐसे पेशे में है जिस पर जनरेटिव AI का कुछ असर पड़ सकता है; संस्था स्पष्ट करती है कि संभावित असर का अर्थ नौकरी जाना नहीं है। ILO यहाँ अपना अनुमान और उसकी सीमाएँ बताता है।

हमें यह दिखावा नहीं करना चाहिए कि तैयारी का रास्ता किसी को पता ही नहीं। हमें मानना चाहिए कि कोई पूर्वानुमान किसी परिवार, कर्मचारी या समुदाय को ठीक-ठीक नहीं बता सकता कि उनका जीवन कैसा होगा। लोगों को इन फ़ैसलों में बोलने का अधिकार चाहिए: क्या स्वचालित होगा, सिस्टम का मालिक कौन होगा, लाभ कहाँ जाएँगे और सिस्टम विफल हो तो क्या होगा। अगर जवाब हमेशा “बाज़ार तय करेगा” है, तो सबसे कम शक्ति वाले लोग सबसे ज़्यादा अनिश्चितता उठाएँगे।

“तुम्हारे पास कुछ नहीं होगा और तुम खुश रहोगे” वाक्यांश ऑनलाइन अक्सर किसी तकनीकी कारोबारी से जोड़ा जाता है, लेकिन मुझे प्रमाण नहीं मिला कि यह Larry Fink के शब्द हैं। यह पंक्ति 2016 में World Economic Forum के लिए डेनिश राजनीतिज्ञ Ida Auken द्वारा लिखे गए 2030 के जीवन के एक काल्पनिक प्रथम-पुरुष विचार से जुड़ी है। संग्रहित पृष्ठ कहता है कि विचार उन्हीं के हैं, फ़ोरम के नहीं। Fink ने एक अलग, प्रासंगिक तर्क दिया है: 2026 के सालाना पत्र में BlackRock के CEO ने लिखा कि व्यापक स्वामित्व न बढ़ा तो AI धन-असमानता बढ़ा सकता है, और काम आय, उद्देश्य तथा गरिमा देता है। उनका पत्र उन कंपनियों और परिसंपत्तियों के मालिकों पर केंद्रित है जिन्हें AI के लाभ मिलते हैं; वह “कुछ अपना मत रखो” वाले नारे का समर्थन नहीं करता। मैं भी चिंतित हूँ कि लोगों को उनके जीवन बदलने वाली प्रणालियों में सार्थक हिस्सेदारी चाहिए; साथ ही मेरा मानना है कि उद्देश्य और मानवीय जुड़ाव का महत्व वित्तीय स्वामित्व से आगे जाता है।

मेरे लिए ख़ुशी न सदस्यता के ज़रिये दी जा सकती है, न इस गिनती से मापी जा सकती है कि किसी के कितने काम मशीन ने कम किए। लोगों को उद्देश्य, अर्थपूर्ण काम या योगदान और टिकाऊ रिश्ते चाहिए। मेरे अपने जीवन-दृष्टिकोण में परिवार केंद्रीय है। लोग कई तरह के पारिवारिक ढाँचों में और उनके बाहर भी संतुष्टि पाते हैं। AI लोगों को एक-दूसरे की देखभाल के लिए समय दे सकता है। वह ध्यान खींच सकता है, आजीविका अस्थिर कर सकता है या रिश्तों को किसी और के नियंत्रण वाले सिस्टम पर अधिक निर्भर बना सकता है। हमें नहीं पता कि कौन-सी दिशा हावी होगी। नतीजा कंपनियों, सरकारों और समुदायों के चुनाव पर निर्भर करेगा।

मुझे चिंता है कि हमारा समाज साझा योजना बनाने से तेज़ी से टूटन की ओर बढ़ रहा है। यह मेरा आकलन है, मापा हुआ पूर्वानुमान नहीं। इसीलिए मैं चाहता हूँ कि अगली घटना घोटाला बने, अगली चेतावनी मज़ाक बने या अगली तकनीक सवाल उठाना कठिन बना दे—उससे पहले लोग परवाह करें।

SNL की क्लिप देखना सार्थक है। मज़ाक के पीछे के प्रमाण भी। हास्य कठिन विषय का सामना करने में मदद कर सकता है, लेकिन निगरानी का काम नहीं कर सकता। हमें पूछते रहना होगा कि ये सिस्टम क्या कर सकते हैं, सीमा पार होने पर ज़िम्मेदार कौन है और क्या बदलाव इंसानी जीवन को अधिक सुरक्षित, जुड़ा हुआ और उद्देश्यपूर्ण बनाते हैं।

जनता को आवाज़ दें

अगर आप शक्तिशाली AI के विकास और तैनाती में अपनी बात रखना चाहते हैं, तो यह चिंता उन लोगों तक पहुँचाएँ जो कार्रवाई कर सकते हैं। Pacing the Frontier का बयान अमेरिकी सरकार से अग्रणी AI विकास की गति को सोच-समझकर तय करने के साधनों पर अंतरराष्ट्रीय काम का समर्थन माँगता है। हस्ताक्षरकर्ता अग्रणी AI कंपनियों के कर्मचारी हैं; यह सभी के लिए खुली सार्वजनिक प्रतिज्ञा नहीं है।

अगर आप संयुक्त राज्य में हैं, तो AI at a Safe Pace और Act on AI निर्वाचित प्रतिनिधियों से संपर्क करने के लिए अभियान के साधन देते हैं। पारदर्शी, स्वतंत्र निगरानी और प्रभावित कर्मचारियों तथा समुदायों की सार्थक भूमिका की माँग करें। अमेरिका से बाहर अपनी चुनी हुई सरकार या संबंधित सार्वजनिक परामर्श में यही चिंता रखें। इन अभियानों से लोग अपनी राय बता सकते हैं; हस्ताक्षर या संदेश नीति बदलने की गारंटी नहीं। मैं चाहता हूँ कि इन फ़ैसलों के साथ जीने वाले लोगों की बात तब सुनी जाए, जब सिस्टम को नियंत्रित करना कठिन न हुआ हो।

  • Pacing the Frontier, कर्मचारी बयान बयान अमेरिकी सरकार से स्वचालित अग्रणी-AI विकास की गति सोच-समझकर तय करने के तकनीकी और शासन-संबंधी साधनों पर अंतरराष्ट्रीय काम का समर्थन माँगता है। हस्ताक्षरकर्ता अग्रणी AI कंपनियों के कर्मचारी हैं; यह हर पाठक के लिए खुली सार्वजनिक प्रतिज्ञा नहीं।
  • AI at a Safe Pace ऐसा अभियान जो अमेरिकी पाठकों को उन्नत AI की विकास-गति पर निर्वाचित प्रतिनिधियों से संपर्क करने में मदद करता है; यह सरकारी सेवा नहीं है।
  • Act on AI ऐसा अभियान जो अमेरिकी पाठकों को AI नीति पर प्रतिनिधियों से संपर्क करने का रास्ता देता है; फ़ोन कॉल के प्रभाव के उसके दावे अभियान के अपने हैं।

स्रोत और आगे पढ़ें