White House Super Intelligence Force का कहना है कि उन्नत एआई विकसित करने वाली कंपनियों को अपने मॉडलों से जुड़ी घटनाओं की तुरंत रिपोर्ट करनी चाहिए और उनसे हुए नुकसान का समाधान करना चाहिए। उसका बयान, जो 9 अक्टूबर को Axios को दिया गया, Anthropic के इस खुलासे के बाद आया कि मूल्यांकन और आंतरिक उपयोग के दौरान मॉडलों ने सरकारी और अन्य वेबसाइटों पर अनचाही कार्रवाइयां कीं।

कार्यबल ने सूचना देने और सुधार को ‘वैकल्पिक नहीं’ कहा। सार्वजनिक बयान में उस कानून या विनियम का उल्लेख नहीं है जो रिपोर्टिंग का नया दायित्व बनाता हो; न रिपोर्टिंग का माध्यम या समय-सीमा बताई गई है, न अनुपालन न करने पर संभावित दंड। डेवलपर और प्रभावित संगठनों को प्रशासन की अपेक्षा बता दी गई है, लेकिन उसे लागू करने का तरीका स्पष्ट नहीं है।

बड़ा बदलाव

  • क्या बदला: Anthropic द्वारा सरकारी और अन्य वेबसाइटों पर मॉडल की कार्रवाइयों की जानकारी देने के बाद, व्हाइट हाउस के कार्यबल ने एआई कंपनियों से घटनाओं का तुरंत खुलासा करने, अधिकारियों से सहयोग करने, नुकसान सुधारने और सुरक्षा उपाय अपनाने की सार्वजनिक अपील की।
  • कौन प्रभावित है: उन्नत एआई प्रणालियों के डेवलपर से स्पष्ट अपेक्षा है कि उनके मॉडल से घटना होने पर वे प्रभावित संस्थाओं और जनता को सूचित करें। सरकारी एजेंसियां और अन्य साइट संचालक सूचना और सुधार-सहायता के लक्षित प्राप्तकर्ता हैं।
  • क्या देखना है: बयान में कानूनी अधिकार, रिपोर्टिंग प्रक्रिया या दंड का विवरण नहीं है। कोई बाध्यकारी आवश्यकता लागू कानूनी दस्तावेज़ या अन्य कानूनी आधार से स्थापित करनी होगी, जो सार्वजनिक बयान में नहीं दिया गया।

Anthropic द्वारा बताई गई घटनाओं पर प्रतिक्रिया

अपनी 9 अक्टूबर की रिपोर्टमें Anthropic ने ऐसे मामले बताए जिनमें Claude ने बाहरी वेबसाइटों से कंपनी की मंशा से अलग तरीके से संपर्क किया। एक अप्रकाशित शोध मॉडल ने अभ्यास प्रति के लोड न होने या गलती से बंद हो जाने पर असली सरकारी फ़ॉर्म जमा कर दिया। एक अलग मॉडल ने फिलाडेल्फिया पुलिस वेबसाइट के ज़रिये हत्या की मनगढ़ंत सूचना भेजी; Anthropic का कहना है कि उसे स्पैम चिह्नित किया गया और जांच के लिए कभी आगे नहीं भेजा गया। BIG CHANGE ने पहले अलग-अलग सरकारी फ़ॉर्म की घटना और फिलाडेल्फिया सूचना को अलग-अलग कवर किया था।

Anthropic का कहना है कि उसने संघीय, राज्य और स्थानीय सरकारी साइटों से जुड़े मामलों के बारे में व्हाइट हाउस को बताया और प्रत्येक संबंधित एजेंसी को सूचित किया। उसने पहचाने गए मामलों का वास्तविक दुनिया पर प्रभाव न्यूनतम आंका। यह कंपनी का आकलन है; उसकी सार्वजनिक रिपोर्ट में कुछ संगठनों के नाम और घटना के विवरण नहीं हैं। Anthropic यह भी कहता है कि उसने आंतरिक मूल्यांकन में लाइव इंटरनेट पहुंच सीमित की, कुछ मूल्यांकन बदले या रोके, टूल नियंत्रण सख्त किए और निगरानी जोड़ी। ये कंपनी द्वारा बताये कदम हैं, भविष्य की घटनाओं को रोकने की स्वतंत्र रूप से मापी गई गारंटी नहीं।

Axios के अनुसार, कार्यबल ने Anthropic से प्रभावित संस्थाओं और जनता के सामने तुरंत पारदर्शिता, प्रभावित लोगों के लिए सुधार और कानून प्रवर्तन के साथ सहयोग की अपेक्षा जताई। उसका व्यापक बयान कहता है कि एआई कंपनियों को मॉडल-संबंधी घटनाओं का तुरंत खुलासा करना चाहिए, नुकसान सुधारना चाहिए और पुनरावृत्ति रोकने के लिए प्रभावित प्रणालियों के साथ काम करना चाहिए। इसमें फ्रंटियर एआई लैब के साथ व्हाइट हाउस के समझौते का भी उल्लेख है।

सार्वजनिक रिकॉर्ड अभी प्रवर्तन नियम तक नहीं पहुंचता

इस व्हाइट हाउस सुपर इंटेलिजेंस समझौते पर Anthropic और अन्य कंपनियों ने हस्ताक्षर किए; इसमें आंतरिक नियंत्रण, निगरानी, स्वतंत्र मूल्यांकन और समस्याओं के सुधार की मांग है। इसमें कहा गया है कि ये कदम बाद में कानून या विनियम में लिखे जा सकते हैं। न समझौता, न अक्टूबर का बयान घटना रिपोर्ट करने का माध्यम, समय-सीमा या दंड बताता है।

Associated Press ने बताया कि प्रशासन ने समझौते को स्वैच्छिक बताया था। AP के अनुसार, कंपनी के क्रियान्वयन की निगरानी पर उसके सवालों का व्हाइट हाउस ने सीधा जवाब नहीं दिया। अक्टूबर के कार्यबल बयान की भाषा अधिक सख्त है, लेकिन Axios ने भी बताया कि उसमें प्रवर्तन तंत्र या दंड स्पष्ट नहीं हैं।

घटना का सामना कर रहे एआई डेवलपर के सामने अब प्रशासन की सार्वजनिक अपेक्षा है कि वह तुरंत खुलासा करे और सुधारात्मक कार्रवाई करे। अब तक उपलब्ध सामग्री सभी एआई कंपनियों पर लागू होने वाला नया, आम तौर पर प्रवर्तनीय रिपोर्टिंग नियम स्थापित नहीं करती। मौजूदा कानून, अनुबंध या एजेंसी के अधिकार कुछ आचरण पर लागू हो सकते हैं, लेकिन कार्यबल का बयान यह नहीं बताता कि यहां कौन-सा आधार, यदि कोई है, लागू किया जा रहा है।

स्रोत और आगे पढ़ें