जुड़े खातों में काम करने वाला AI एजेंट डेटा बदल सकता है या व्यावसायिक प्रक्रियाएँ शुरू कर सकता है। विक्रेता चुनने से पहले व्यवसाय का ज़िम्मेदार व्यक्ति और सुरक्षा समीक्षक एक प्रस्तावित कार्यप्रवाह के नियंत्रणों की संगठन की लिखित ज़रूरतों से तुलना कर सकते हैं। परिणाम तारीख वाला प्रमाण रिकॉर्ड है। जिस सवाल का जवाब नहीं मिला, वह खुला रहेगा; उत्पाद का दावा भर यह नहीं दिखाता कि कार्रवाई रोक दी जाएगी। यह तरीका NIST AI Risk Management Framework Playbook और OWASP के AI Agent Security Cheat Sheet पर आधारित है; इनमें से किसी ने उम्मीदवार विक्रेता का मूल्यांकन नहीं किया।
मुख्य बदलाव
- क्या बदला: एजेंट खरीदने में व्यावसायिक प्रणालियों में कार्रवाइयाँ सौंपना शामिल हो सकता है। खरीदार को जानना चाहिए कि कौन एजेंट से कार्रवाई करवा सकता है, किस पर और किसकी मंज़ूरी से।
- यह क्यों महत्वपूर्ण है: खरीदार हर प्रस्तावित कार्रवाई को नाम वाले नियंत्रण और उसके प्रमाण से जोड़ सकता है। इससे व्यवसाय के ज़िम्मेदार व्यक्ति और सुरक्षा समीक्षक को पहुँच सीमित करने या खरीद रोकने का ठोस आधार मिलता है।
- किन बातों पर ध्यान दें: निर्णय सटीक उत्पाद संस्करण और कार्यप्रवाह के प्रमाण पर निर्भर है। दस्तावेज़ में दिखे नियंत्रण को तय उपयोग के लिए स्वीकार करने से पहले समीक्षक को निगरानी वाला प्रदर्शन चाहिए हो सकता है।
चार ज़रूरी इनपुट जुटाएँ
संगठन का पहले से मौजूद, अनुमोदित लिखित जोखिम प्रोफ़ाइल इस्तेमाल करें। उसमें व्यवसाय का ज़िम्मेदार व्यक्ति, इच्छित परिणाम, अनुमत डेटा और गंतव्य, अनुमत कार्रवाइयाँ, मंज़ूरी का अधिकार, अस्वीकार्य परिणाम और रोकने की शर्तें होनी चाहिए। वह न हो तो आपूर्तिकर्ता का आकलन करने से पहले ज़िम्मेदार लोगों से उसे तय करने को कहें। यह गाइड उनकी ओर से संगठन की जोखिम सहनशीलता तय नहीं कर सकती।
NIST का MANAGE 3.1 मार्गदर्शन संगठन की जोखिम सहनशीलता को तीसरे पक्ष की AI प्रणालियों पर लागू करने और उनके नियंत्रण दर्ज करने को कहता है। Playbook स्वैच्छिक सुझाव देता है, सार्वभौमिक खरीद जाँच-सूची नहीं। नीचे कार्रवाई नियंत्रणों के सवाल OWASP के एजेंट-विशिष्ट सुरक्षा मार्गदर्शन पर भी आधारित हैं। ये ढाँचे उपयोगी सवाल बताते हैं; जवाब आपूर्तिकर्ता के अपने प्रमाणों से मिलने चाहिए।
एक उम्मीदवार विक्रेता और विचाराधीन सटीक उत्पाद व तैनाती संस्करण का नाम लिखें। वर्तमान उत्पाद दस्तावेज़ और वे प्रमाण लें जिन्हें साझा करने का आपूर्तिकर्ता को अधिकार है। सुरक्षा समीक्षक और खरीद प्रमुख को तुलना रिकॉर्ड तक पहुँच दें। संवेदनशील संरचना या प्रमाण की फ़ाइलें अनुमोदित निजी जगह रखें; तालिका में रहस्य कॉपी करने के बजाय उनके लिंक दें।
1. कार्यप्रवाह को ज़रूरतों में बदलें
एजेंट की हर प्रस्तावित कार्रवाई, लक्ष्य प्रणाली और वह डेटा सूचीबद्ध करें जिसे पढ़ना या बदलना है। पढ़ना, लिखना और बाहर दिखाई देने वाली या वापस न की जा सकने वाली कार्रवाइयाँ अलग रखें। हर एक के लिए लिखित जोखिम प्रोफ़ाइल की संबंधित ज़रूरत कॉपी करें: अनुमत पहचान, टूल व लक्ष्य का दायरा, मंज़ूरी, लॉग, डेटा प्रबंधन, रुकावट और बहाली। प्रोफ़ाइल के ज़िम्मेदार व्यक्ति और तारीख को दर्ज करें।
हर ज़रूरत की अलग पंक्ति बनाएँ। इससे अज्ञात बातें विक्रेता के कुल अंक में छिपने के बजाय दिखती हैं। एजेंट किसी खास खाते तक कभी न पहुँचे, इस ज़रूरत की भी उतनी ही पंक्ति चाहिए जितनी किसी अनुमत कार्रवाई की।
2. पता करें कौन कार्य करता है और क्या चल सकता है
पूछें कि कौन व्यक्ति, सेवा खाता या एजेंट पहचान हर कार्रवाई शुरू करती है, क्रेडेंशियल कहाँ हैं और क्या एक एजेंट दूसरे को अनुरोध दे सकता है। वह घटक पहचानें जो कार्रवाई के समय अनुमति जाँचता है। विक्रेता की वास्तविक टूल अनुमतियों की तुलना प्रोफ़ाइल में अनुमत टूल, संचालन, खाते और लक्ष्यों से करें। इस उत्पाद संस्करण पर लागू कॉन्फ़िगरेशन या संरचना प्रमाण माँगें; प्रॉम्प्ट का कथन लागू की गई सीमा का कमज़ोर प्रमाण है।
मंज़ूरी वाली कार्रवाइयों के लिए पूछें कि निष्पादन से पहले समीक्षक क्या देखता है और मंज़ूरी कैसे कार्यकर्ता, सटीक टूल कॉल, लक्ष्य और पैरामीटर से जुड़ी है। जानें कि मंज़ूरी समाप्त, अस्वीकृत, दो बार इस्तेमाल होने या माँगी गई कार्रवाई बदलने पर क्या होता है। पहुँच वापस लेने का तरीका और सक्रिय रन रोक सकने वाला व्यक्ति दर्ज करें। मंज़ूरी स्क्रीन और निष्पादन के समय जाँच अलग सवालों के जवाब हैं; प्रोफ़ाइल दोनों माँगे तो दोनों के प्रमाण लें।
3. डेटा और कार्रवाई के रिकॉर्ड का रास्ता देखें
इनपुट से मॉडल, टूल, बाहरी प्राप्तकर्ता, संग्रहीत प्रतियों और लॉग तक प्रस्तावित रास्ता बनाएँ। पूछें कि हर घटक को कौन-सा डेटा मिलता है, कौन उसे वापस पा सकता है और रखना व मिटाना कैसे काम करता है। प्रोफ़ाइल के लिए महत्वपूर्ण उप-प्रसंस्करणकर्ता या प्रणालियों के बीच हस्तांतरण जोड़ें। गंतव्य या रखने की अवधि का अनुत्तरित सवाल अज्ञात चिह्नित करें; व्यापक नीति कथन से निजता सुरक्षा न मान लें।
संबंधित संस्करण का निष्पादन रिकॉर्ड माँगें। क्या समीक्षक कार्यकर्ता और नीति संस्करण को प्रस्तावित टूल कॉल, मंज़ूरी या अस्वीकृति, सटीक लक्ष्य और परिणाम से जोड़ सकता है? जाँचें कि रिकॉर्ड केवल निर्णय, वास्तविक निष्पादन या दोनों दिखाता है। स्क्रीनशॉट, कॉन्फ़िगरेशन निर्यात और पूरी घटना-श्रृंखला अलग बातें सिद्ध करते हैं। तुलना रोकने वाले छिपाए हिस्से दर्ज करें, लेकिन क्रेडेंशियल और व्यक्तिगत डेटा तालिका में न रखें।
4. विफलता के प्रमाण माँगें
अनुमत कार्रवाई और प्रोफ़ाइल की विफलता स्थितियों के संस्करण-संबंधित प्रमाण लें: अस्वीकृत या समाप्त मंज़ूरी, दायरे के बाहर टूल या लक्ष्य, बाधित निष्पादन और जहाँ लागू हो लॉग या नीति-जाँच की विफलता। दर्ज करें कि क्या, कब, किस नीति और टूल सेटिंग में जाँचा, अपेक्षित परिणाम और देखा परिणाम क्या था। परीक्षण योजना प्रमाण का अनुरोध है, देखा हुआ परिणाम नहीं।
जवाबदेह सुरक्षा समीक्षक तय करता है कि निगरानी वाला प्रदर्शन चाहिए या नहीं और उसका दायरा अधिकृत करता है। अनुमत गैर-उत्पादन इनपुट और खाते इस्तेमाल करें। केवल खरीद तालिका भरने के लिए वास्तविक चालू प्रणालियाँ न जोड़ें। आपूर्तिकर्ता प्रमाण न दे सके तो परीक्षण परिणाम गढ़ने के बजाय कमी और अगला अनुरोध दर्ज करें।
5. निर्णय और खुले काम दर्ज करें
हर पंक्ति में अनुकूल तभी लिखें जब दिए प्रमाण इस संस्करण और कार्यप्रवाह की लिखित ज़रूरत पूरी करते हों। विरोध होने पर कमी या प्रमाण न होने या बहुत कमज़ोर होने पर अज्ञात लिखें। विरोधी रिकॉर्ड और उन्हें सुलझाने वाले व्यक्ति दर्ज करें। फिर व्यवसाय का ज़िम्मेदार व्यक्ति और जवाबदेह सुरक्षा समीक्षक अपना वास्तविक निर्णय दर्ज करें: और प्रमाण माँगना, सीमित पायलट की मंज़ूरी लेना, टालना या अस्वीकार करना। अनुकूल प्रविष्टि प्रमाणों पर निर्णय है, प्रणाली की सुरक्षा की गारंटी या संगठन की खरीद प्रक्रिया का विकल्प नहीं।
रिकॉर्ड में तारीख रखें और कार्यप्रवाह, उत्पाद संस्करण, नीति, जुड़े खाते या डेटा गंतव्य बदलने पर प्रभावित पंक्तियाँ फिर देखें। बाद के पायलट को अपनी अनुमति, सीमाएँ और समीक्षा चाहिए।
लिखित प्रोफ़ाइल की ज़रूरत | विक्रेता के प्रमाण, संस्करण और तारीख | प्रमाण का प्रकार और वह क्या दिखाता है | अनुकूल, कमी या अज्ञात | समीक्षक और अगली कार्रवाई |
|---|---|---|---|---|
[एक कार्रवाई या नियंत्रण की ज़रूरत] | [निजी लिंक या दस्तावेज़ संदर्भ; संस्करण; तारीख] | [दावा, कॉन्फ़िगरेशन, घटना रिकॉर्ड या देखा प्रदर्शन; सीमा] | [एक चुनें और समझाएँ] | [नाम, प्रमाण का अनुरोध या निर्णय] |
रिकॉर्ड का शीर्ष भाग: कार्यप्रवाह और ज़िम्मेदार व्यक्ति; जोखिम प्रोफ़ाइल संस्करण और मंज़ूरी तारीख; उम्मीदवार उत्पाद और तैनाती संस्करण; समीक्षा तारीख; सुरक्षा समीक्षक; खरीद प्रमुख; सीमित पहुँच वाले प्रमाणों की जगह। निर्णय रिकॉर्ड: निर्णय, अनसुलझी पंक्तियाँ, स्वीकार सीमाएँ या पूरक नियंत्रण, जवाबदेह मंज़ूरीदाता और अगली समीक्षा का कारण। ज़िम्मेदार लोगों की वास्तविक समीक्षा तक ये फ़ील्ड खाली रखें।
इन सवालों का आधार बने सार्वजनिक मार्गदर्शन मुफ्त उपलब्ध हैं। तुलना तैयार करने में कर्मचारियों और समीक्षकों का समय लगता है। आपूर्तिकर्ता के प्रमाण, गोपनीय पहुँच और अधिकृत प्रदर्शन से खर्च बढ़ सकता है या जाँच का दायरा घट सकता है; उम्मीदवार से वास्तविक शर्तें लें। यह दस्तावेज़ी अभ्यास विक्रेता का परीक्षण नहीं करता और न कानूनी अनुपालन या सार्वभौमिक खरीद सीमा स्थापित करता है।
स्रोत और आगे पढ़ें
- NIST AI RMF Playbook, Manage संगठन की अपनी जोखिम सहनशीलता को तीसरे पक्ष के AI संसाधनों पर लागू करने, नियंत्रण दर्ज करने और उनका मूल्यांकन करने का समर्थन करता है। वेब पृष्ठ कहता है कि AI RMF 1.0 अपडेट हो रहा है और Playbook उसके बाद होगा; पृष्ठ संशोधन की तारीख नहीं है। यह इस विक्रेता का मूल्यांकन नहीं करता।
- NIST AI RMF Playbook का परिचय सुझावों को स्वैच्छिक बताता है और कहता है कि Playbook पूरी अपनाने वाली सूची नहीं। यहाँ की तालिका पाठक के बताए काम के लिए BIG CHANGE का संकलन है।
- OWASP AI Agent Security Cheat Sheet सीमित टूल, निष्पादन-स्तर अनुमति, कार्रवाई से जुड़ी मंज़ूरी, लॉग, डेटा सुरक्षा और संस्करण-संबंधित सत्यापन प्रमाण बताता है। वर्तमान पृष्ठ पर संस्करण या प्रकाशन तारीख नहीं है। सुझाव प्रमाण की श्रेणियाँ हैं, आपूर्तिकर्ता के उन्हें लागू करने का सबूत नहीं।
