Anthropic का कहना है कि उसने गैर-लाभकारी संस्था METR के छह कर्मचारियों को AI जोखिमों का आकलन करने के लिए अपने आंतरिक सिस्टम तक पहुँच देना शुरू किया है। इस व्यवस्था से छोटी बाहरी टीम को कंपनी के काम की उतनी नज़दीकी जानकारी मिलती है, जितनी किसी मॉडल के सार्वजनिक विमोचन या जोखिम रिपोर्ट से नहीं मिलेगी। फिर भी टीम को कौन-सी जानकारी मिलेगी, यह Anthropic तय करती है और METR के प्रकाशित विश्लेषण से निर्धारित सामग्री हटाने को कह सकती है।

Anthropic ने 15 अक्टूबर को इस सहयोग की घोषणा की और 16 अक्टूबर को अपना बयान अपडेट किया, ताकि प्रकाशन की मौजूदा शर्तें स्पष्ट हों। घोषणा पहुँच की व्यवस्था बताती है, Anthropic के जोखिमों पर METR का पूरा हो चुका आकलन नहीं। पाठकों के लिए इसका महत्व इस पर निर्भर करेगा कि METR क्या जाँच पाती है और उसकी अंतिम रिपोर्ट सीमाओं के बारे में क्या समझा पाती है।

बड़ा बदलाव

  • क्या बदला: Anthropic का कहना है कि METR के छह कर्मचारियों को कंपनी का हार्डवेयर, दफ़्तर की जगह और आंतरिक टूल की ऐसी पहुँच मिली है, जो उसकी अपनी जोखिम-आकलन टीमों के लगभग बराबर है। METR से Anthropic के जोखिम स्तरों, घटनाओं या तौर-तरीकों पर विश्लेषण प्रकाशित करने की अपेक्षा है।
  • यह क्यों महत्वपूर्ण है: संभव है कि बाहरी मूल्यांकनकर्ता ऐसी आंतरिक जानकारी जाँच सके जो जनता को नहीं दिखती। METR की अंतिम रिपोर्ट पहुँच और जानकारी हटाने की अहम सीमाएँ भी बता सकती है, जिससे पाठक निष्कर्षों को परख सकेंगे।
  • किन बातों पर नज़र रखें: Anthropic का कहना है कि वह METR के प्रकाशन को वीटो नहीं कर सकती, लेकिन पहले से तय श्रेणियों के तहत जानकारी हटाने की माँग कर सकती है और अंतिम फ़ैसला भी उसी का है कि कौन-सी जानकारी उनमें आती है। इस अंदर तैनात टीम के आकलन का कोई परिणाम घोषणा से स्थापित नहीं होता।

छह मूल्यांकनकर्ताओं को किस चीज़ की पहुँच है

Anthropic का कहना है कि उसने METR के छह कर्मचारियों को कंपनी का हार्डवेयर, दफ़्तर की जगह और आंतरिक टूल व सिस्टम तक ऐसी पहुँच दी है जो उसकी जोखिम-आकलन टीमों के ‘लगभग बराबर’ है। कंपनी अपने कर्मचारियों को उनसे प्रासंगिक जानकारी वैसे ही साझा करने के लिए प्रोत्साहित करती है जैसे AI के लक्ष्य-संरेखण जोखिम पर काम कर रहे किसी सहकर्मी से करते। ग्राहक डेटा, वकील–मुवक्किल संवाद की गोपनीयता के विशेषाधिकार से सुरक्षित जानकारी और मॉडल की संरचनाएँ बाहर रखी गई श्रेणियों के उदाहरण हैं। कंपनी का कहना है कि बेहद प्रासंगिक होने पर संरचना की जानकारी कभी-कभी स्पष्ट आंतरिक मंज़ूरी के बाद साझा की जा सकती है।

यह पहुँच का विस्तृत वर्णन है, लेकिन टीम द्वारा वास्तव में इस्तेमाल किए गए हर डेटासेट, सिस्टम या साक्षात्कार की सूची नहीं। Anthropic का बयान कहता है कि टीम क़ानूनी तौर पर लागू किए जा सकने वाले समझौतों के तहत काम करती है और Anthropic की अन्य परियोजनाओं के शोधकर्ताओं सहित METR के दूसरे कर्मचारी इस काम से अलग रखे गए हैं। BIG CHANGE ने सार्वजनिक बयान देखे हैं; हमने समझौते या आंतरिक सिस्टम की जाँच नहीं की।

METR का नियंत्रण खोने के जोखिम के आकलन का 14 अक्टूबर का प्रस्ताव बताता है कि उसे अत्याधुनिक AI विकसित करने वालों से किस तरह के साक्ष्य चाहिए। इसमें तीन सवाल हैं: क्या आंतरिक AI एजेंट गंभीर नुकसान पहुँचाने वाले कदम उठा सकते हैं, क्या निगरानी उन्हें पकड़कर रोक पाएगी और क्या AI-संचालित शोध क्षमताओं को इतनी तेज़ी से बढ़ा सकता है कि सुरक्षा उपाय पीछे रह जाएँ। इसके लिए METR मॉडल चेकपॉइंट, आंतरिक बातचीत के प्रतिलेख, निगरानी सिस्टम और शोध की प्रगति के मापों तक संभावित पहुँच का वर्णन करती है। यह अलग-अलग डेवलपरों के लिए प्रस्ताव है, इस सहयोग में Anthropic द्वारा दी गई सामग्री की सूची नहीं।

प्रकाशन के अधिकार और उनकी सीमाएँ

Anthropic का कहना है कि METR जोखिम स्तरों, घटनाओं या कंपनी के तौर-तरीकों का विश्लेषण उसके वीटो के बिना प्रकाशित कर सकती है। कंपनी पहले से तय श्रेणियों की जानकारी हटाने को कह सकती है। 16 अक्टूबर के स्पष्टीकरण में जोड़ा गया है कि जानकारी उन श्रेणियों में आती है या नहीं, इसका अंतिम फ़ैसला Anthropic करती है। वहीं METR को मिली पहुँच और जानकारी के बारे में कुछ बयान देने का अधिकार बना रहता है। इसलिए निष्कर्ष प्रकाशित करने का अधिकार और संवेदनशील विवरणों पर कंपनी का नियंत्रण साथ-साथ मौजूद हैं।

METR की AI कंपनियों के साथ काम करने की नीति कहती है कि रिपोर्ट में काम का दायरा और अवधि, निष्कर्षों पर असर डालने वाली पहुँच की सीमाएँ, अहम जानकारी हटाए जाने और नतीजे को प्रभावित करने वाले दबावों का खुलासा होना चाहिए। METR का कहना है कि कंपनी द्वारा उसके निष्कर्षों के लिए अहम जानकारी हटाने पर वह हटाई गई सामग्री का सारांश तैयार करने का लक्ष्य रखती है। ये METR की बताई प्रथाएँ और लक्ष्य हैं; नई आंतरिक टीम की रिपोर्ट में ये कैसे लागू होंगे, इसकी जनता अभी जाँच नहीं कर सकती।

METR यह भी मानती है कि स्वैच्छिक आकलन कंपनियों द्वारा पहुँच देने और प्रकाशन की अनुमति देने पर निर्भर हैं। उसका कहना है कि कंपनियाँ पहुँच रोक सकती हैं या सामग्री ऐसे हटा सकती हैं कि जनता तक पहुँचने वाले साक्ष्य प्रभावित हों। 14 अक्टूबर का प्रस्ताव कहता है कि यह काम नियंत्रण खोने के तकनीकी सवालों पर केंद्रित होगा, न कि सुरक्षा व्यवस्था, संगठनात्मक प्रशासन या अनुपालन का ऑडिट होगा। METR का कहना है कि इससे जुड़ा विज्ञान अभी भरोसे के साथ यह आश्वासन नहीं दे सकता कि विकास सुरक्षित है।

अन्य मूल्यांकनकर्ताओं के लिए Anthropic तीन-स्तरीय तरीका बताती है। METR की व्यवस्था तीसरे स्तर की है, जिसमें कर्मचारियों जैसी पहुँच और प्रकाशन के अधिकार हैं। पहले के स्तरों में जाँच का दायरा छोटा या प्रकाशन के अधिकार अधिक सीमित होते हैं। ये वर्णन Anthropic की योजनाएँ और सहयोग की मौजूदा शर्तें बताते हैं, इस बात के साक्ष्य नहीं कि हर साझेदार को METR जैसी पहुँच मिली है।

इस व्यवस्था की सार्वजनिक कसौटी METR की रिपोर्ट होगी: उसने जोखिम से जुड़े किन सवालों की जाँच की, कौन-से आंतरिक साक्ष्य देख पाई और किन सीमाओं या जानकारी हटाए जाने का वर्णन कर सकती है। मौजूदा बयान Anthropic की घोषित शर्तें और METR का प्रकाशित तरीका स्थापित करते हैं। वे Anthropic की सुरक्षा या अंदर तैनात टीम के आकलन की प्रभावशीलता के बारे में कोई निष्कर्ष स्थापित नहीं करते।

स्रोत और आगे पढ़ें