जोडलेल्या खात्यांत कृती करणारा AI एजंट डेटा बदलू शकतो किंवा व्यावसायिक प्रक्रिया सुरू करू शकतो. पुरवठादार निवडण्यापूर्वी व्यवसायाची जबाबदारी असलेली व्यक्ती आणि सुरक्षा परीक्षक एका प्रस्तावित कार्यप्रवाहाची नियंत्रणे संस्थेच्या लिखित आवश्यकतांशी तुलना करू शकतात. परिणाम म्हणजे तारीख असलेली पुराव्यांची नोंद. उत्तर नसलेला प्रश्न उघडा राहतो; उत्पादनाचा दावा एकट्याने कृती थांबेल हे दाखवत नाही. ही पद्धत NIST AI Risk Management Framework Playbook आणि OWASP च्या AI Agent Security Cheat Sheet वर आधारित आहे; दोघांपैकी कोणीही उमेदवार पुरवठादाराचे मूल्यमापन केलेले नाही.
मुख्य बदल
- काय बदलले: एजंट खरेदीमध्ये व्यावसायिक प्रणालींतील कृती सोपवणे समाविष्ट असू शकते. कोण एजंटकडून कृती करवू शकतो, कशावर आणि कोणाच्या मंजुरीने हे खरेदीदाराला समजले पाहिजे.
- हे महत्त्वाचे का: खरेदीदार प्रत्येक प्रस्तावित कृतीला नाव दिलेल्या नियंत्रणाशी आणि त्याच्या पुराव्याशी जोडू शकतो. यामुळे व्यवसायाची जबाबदारी असलेली व्यक्ती व सुरक्षा परीक्षकांना प्रवेश मर्यादित करण्याचा किंवा खरेदी थांबवण्याचा ठोस आधार मिळतो.
- कशाकडे लक्ष द्यावे: निर्णय अचूक उत्पादन आवृत्ती आणि कार्यप्रवाहाच्या पुराव्यांवर अवलंबून असतो. दस्तऐवजात दाखवलेले नियंत्रण इच्छित वापरासाठी स्वीकारण्यापूर्वी परीक्षकाला देखरेखीखाली प्रात्यक्षिक आवश्यक वाटू शकते.
चार आधारभूत गोष्टी जमवा
संस्थेचे मंजूर, आधीपासूनचे लिखित जोखीम प्रोफाइल वापरा. त्यात व्यवसायाची जबाबदारी असलेली व्यक्ती, अपेक्षित परिणाम, अनुमत डेटा व गंतव्ये, अनुमत कृती, मंजुरीचे अधिकार, अस्वीकार्य परिणाम आणि थांबण्याच्या अटी असाव्यात. ते नसल्यास पुरवठादाराचे मूल्यमापन करण्याआधी जबाबदार व्यक्तींना ते ठरवायला सांगा. हे मार्गदर्शन त्यांच्याऐवजी संस्थेची जोखीम सहनशीलता ठरवू शकत नाही.
NIST चे MANAGE 3.1 मार्गदर्शन संस्थेची जोखीम सहनशीलता तृतीय-पक्ष AI प्रणालींना लागू करून त्यांची नियंत्रणे नोंदवायला सांगते. Playbook स्वेच्छेने स्वीकारायच्या सूचना देते, सार्वत्रिक खरेदी तपासणीसूची नव्हे. खालील कृती-नियंत्रण प्रश्न OWASP च्या एजंटविषयक सुरक्षा मार्गदर्शनावरही आधारित आहेत. या चौकटी उपयुक्त प्रश्न सांगतात; उत्तर पुरवठादाराच्या स्वतःच्या पुराव्यांतून मिळायला हवे.
एक उमेदवार पुरवठादार आणि विचाराधीन अचूक उत्पादन व उपयोजन आवृत्ती नमूद करा. अद्ययावत दस्तऐवज आणि पुरवठादाराला शेअर करण्याची परवानगी असलेले पुरावे मिळवा. सुरक्षा परीक्षक व खरेदीप्रमुखाला तुलना-नोंद पाहण्याचा प्रवेश द्या. संवेदनशील रचना किंवा पुराव्यांच्या फाइल्स मंजूर खासगी जागी ठेवा; तक्त्यात गुपिते कॉपी न करता दुवे देता येतात.
1. कार्यप्रवाहाचे आवश्यकतांत रूपांतर करा
एजंटची प्रत्येक प्रस्तावित कृती, लक्ष्य प्रणाली आणि वाचायचा किंवा बदलायचा डेटा लिहा. वाचन, लेखन आणि बाहेर दिसणाऱ्या किंवा मागे न घेता येणाऱ्या कृती वेगळ्या करा. प्रत्येकासाठी लिखित जोखीम प्रोफाइलमधील संबंधित आवश्यकता घ्या: अनुमत ओळख, साधन व लक्ष्याची व्याप्ती, मंजुरी, नोंद, डेटा हाताळणी, व्यत्यय व पुनर्प्राप्ती. प्रोफाइलची जबाबदार व्यक्ती आणि तारीख नोंदवा.
प्रत्येक आवश्यकतेसाठी एक ओळ करा. यामुळे अज्ञात गोष्टी पुरवठादाराच्या एकूण गुणांत लपण्याऐवजी दिसतात. एजंटने एखाद्या खात्यात कधीही प्रवेश करू नये, या आवश्यकतेलाही अनुमत कृतीइतकीच स्वतंत्र ओळ हवी.
2. कोण कृती करते आणि काय चालू शकते ते शोधा
कोणती व्यक्ती, सेवा खाते किंवा एजंट ओळख प्रत्येक कृती सुरू करते, प्रवेशमाहिती कुठे असते आणि एजंट दुसऱ्याला विनंती देऊ शकतो का हे विचारा. प्रत्यक्ष कृतीवेळी परवानगी तपासणारा घटक शोधा. पुरवठादाराच्या खऱ्या साधन-परवानग्या प्रोफाइलमधील अनुमत साधने, कार्ये, खाती व लक्ष्यांशी तुलना करा. या उत्पादन आवृत्तीला लागू कॉन्फिगरेशन किंवा रचनेचे पुरावे मागा; प्रॉम्प्टमधील विधान लागू केलेल्या सीमेचा दुर्बल पुरावा आहे.
मंजुरी लागणाऱ्या कृतींसाठी अंमलबजावणीपूर्वी परीक्षक काय पाहतो आणि मंजुरी कर्ता, अचूक साधन-कॉल, लक्ष्य व पॅरामीटर्सशी कशी जोडली आहे हे विचारा. मंजुरी संपल्यास, नाकारल्यास, दोनदा वापरल्यास किंवा मागितलेली कृती बदलल्यास काय होते ते जाणून घ्या. प्रवेश कसा रद्द करावा आणि सक्रिय चाल कोण थांबवू शकते ते नोंदवा. मंजुरीची स्क्रीन आणि प्रत्यक्ष कृतीवेळची तपासणी वेगवेगळ्या प्रश्नांची उत्तरे देतात; प्रोफाइल दोन्ही मागत असेल तर दोन्हींचे पुरावे घ्या.
3. डेटा आणि कृतीच्या नोंदीचा मागोवा घ्या
इनपुटपासून मॉडेल, साधने, बाह्य प्राप्तकर्ते, साठवलेल्या प्रती व नोंदीपर्यंत प्रस्तावित मार्ग काढा. प्रत्येक घटकाला कोणता डेटा मिळतो, कोण तो मिळवू शकतो आणि ठेवणे व पुसणे कसे होते हे विचारा. प्रोफाइलसाठी महत्त्वाचे उप-प्रक्रियाकार किंवा प्रणालींमधील हस्तांतरण समाविष्ट करा. गंतव्य किंवा साठवणुकीचा उत्तर नसलेला प्रश्न अज्ञात म्हणून नोंदवा; सर्वसाधारण धोरण-विधानावरून गोपनीयतेचे संरक्षण गृहीत धरू नका.
संबंधित आवृत्तीची अंमलबजावणी नोंद मागा. परीक्षक कर्ता आणि धोरण आवृत्तीला प्रस्तावित साधन-कॉल, मंजुरी किंवा नकार, अचूक लक्ष्य व परिणामाशी जोडू शकतो का? नोंद फक्त निर्णय, प्रत्यक्ष कृती की दोन्ही दाखवते ते पाहा. स्क्रीनशॉट, कॉन्फिगरेशन निर्यात आणि संपूर्ण घटनाक्रम वेगवेगळ्या गोष्टी सिद्ध करतात. तुलना अडवणारे लपवलेले भाग नोंदवा; प्रवेशमाहिती व वैयक्तिक डेटा तक्त्यात ठेवू नका.
4. अपयशाचे पुरावे मागा
अनुमत कृती आणि प्रोफाइलला आवश्यक अपयश-मार्गांचे आवृत्तीशी जोडलेले पुरावे मागा: नाकारलेली किंवा संपलेली मंजुरी, व्याप्तीबाहेरचे साधन किंवा लक्ष्य, खंडित कृती आणि लागू असल्यास नोंद किंवा धोरण-तपासणीचे अपयश. काय, केव्हा, कोणत्या धोरण व साधन-सेटिंग्जमध्ये तपासले, अपेक्षित आणि पाहिलेला परिणाम काय होता ते लिहा. चाचणी योजना म्हणजे पुराव्याची मागणी, पाहिलेला परिणाम नव्हे.
जबाबदार सुरक्षा परीक्षक देखरेखीखाली प्रात्यक्षिक आवश्यक आहे का ते ठरवतो आणि त्याची व्याप्ती मंजूर करतो. अनुमत बिगर-उत्पादन इनपुट व खाती वापरा. केवळ खरेदी तक्ता पूर्ण करण्यासाठी प्रत्यक्ष चालू प्रणाली जोडू नका. पुरवठादार पुरावा देऊ शकत नसल्यास चाचणीचा परिणाम कल्पून न लिहिता उणीव व पुढची मागणी नोंदवा.
5. निर्णय आणि उरलेले काम नोंदवा
प्रत्येक ओळीत जुळते असे तेव्हाच लिहा जेव्हा दिलेले पुरावे या आवृत्तीच्या व कार्यप्रवाहाच्या लिखित आवश्यकतेला उत्तर देतात. विरोध असल्यास उणीव किंवा पुरावे नसल्यास वा अतिशय दुर्बल असल्यास अज्ञात लिहा. विरोधी नोंदी व त्या कोणी सोडवायच्या ते नोंदवा. मग व्यवसायाची जबाबदारी असलेली व्यक्ती व जबाबदार सुरक्षा परीक्षक प्रत्यक्ष निर्णय नोंदवतात: अधिक पुरावे मागणे, मर्यादित प्रायोगिक वापराची मंजुरी मागणे, पुढे ढकलणे किंवा नाकारणे. जुळणारी नोंद हा पुराव्यांचा निर्णय आहे, प्रणाली सुरक्षित असल्याची हमी किंवा संस्थेच्या खरेदी प्रक्रियेचा पर्याय नाही.
नोंदीत तारीख ठेवा आणि कार्यप्रवाह, उत्पादन आवृत्ती, धोरण, जोडलेली खाती किंवा डेटा गंतव्ये बदलल्यावर संबंधित ओळी पुन्हा पाहा. नंतरच्या प्रायोगिक वापराला स्वतंत्र परवानगी, मर्यादा आणि पुनरावलोकन लागते.
लिखित प्रोफाइलमधील आवश्यकता | पुरवठादाराचे पुरावे, आवृत्ती आणि तारीख | पुराव्याचा प्रकार आणि तो काय दाखवतो | जुळते, उणीव किंवा अज्ञात | परीक्षक आणि पुढची कृती |
|---|---|---|---|---|
[एक कृती किंवा नियंत्रणाची आवश्यकता] | [खासगी दुवा किंवा दस्तऐवज संदर्भ; आवृत्ती; तारीख] | [दावा, कॉन्फिगरेशन, घटना नोंद किंवा पाहिलेले प्रात्यक्षिक; मर्यादा] | [एक निवडा व स्पष्ट करा] | [नाव, पुराव्याची मागणी किंवा निर्णय] |
नोंदीचा माथा: कार्यप्रवाह आणि जबाबदार व्यक्ती; जोखीम प्रोफाइल आवृत्ती व मंजुरीची तारीख; उमेदवार उत्पादन व उपयोजन आवृत्ती; पुनरावलोकन तारीख; सुरक्षा परीक्षक; खरेदीप्रमुख; मर्यादित प्रवेशाच्या पुराव्यांची जागा. निर्णय नोंद: निर्णय, न सुटलेल्या ओळी, स्वीकारलेल्या मर्यादा किंवा भरपाई करणारी नियंत्रणे, जबाबदार मंजूरकर्ता आणि पुढच्या पुनरावलोकनाचे कारण. जबाबदार व्यक्ती प्रत्यक्ष तपासेपर्यंत ही क्षेत्रे रिकामी ठेवा.
या प्रश्नांसाठी वापरलेले सार्वजनिक मार्गदर्शन मोफत उपलब्ध आहे. तुलना तयार करण्यासाठी कर्मचारी व परीक्षकांचा वेळ लागतो. पुरवठादाराचे पुरावे, गोपनीय प्रवेश व अधिकृत प्रात्यक्षिकाचा खर्च वाढू शकतो किंवा पडताळता येणाऱ्या गोष्टी मर्यादित होऊ शकतात; उमेदवाराकडून खऱ्या अटी घ्या. हा दस्तऐवजी अभ्यास पुरवठादाराची चाचणी करत नाही किंवा कायदेशीर अनुपालन वा सार्वत्रिक खरेदीची मर्यादा ठरवत नाही.
स्रोत आणि आणखी वाचन
- NIST AI RMF Playbook, Manage संस्थेची स्वतःची जोखीम सहनशीलता तृतीय-पक्ष AI संसाधनांना लागू करणे, नियंत्रणे नोंदवणे व त्यांचे मूल्यमापन यांना आधार देते. वेबपान AI RMF 1.0 अद्ययावत होत असल्याचे आणि त्यानंतर Playbook येईल असे सांगते; पानाच्या सुधारणेची तारीख नाही. ते या पुरवठादाराचे मूल्यमापन करत नाही.
- NIST AI RMF Playbook ची प्रस्तावना सूचना स्वेच्छेच्या असल्याचे आणि Playbook पूर्ण पाळण्याची सूची नसल्याचे सांगते. येथील तक्ता वाचकाच्या नमूद कामासाठी BIG CHANGE चे संकलन आहे.
- OWASP AI Agent Security Cheat Sheet मर्यादित साधने, कृतीवेळी अधिकार, कृतीशी जोडलेली मंजुरी, नोंदी, डेटा संरक्षण आणि आवृत्तीनुसार पडताळणी पुरावे यांचा समावेश करते. सध्याच्या पानावर आवृत्ती किंवा प्रसिद्धी तारीख नाही. शिफारसी पुराव्यांच्या श्रेणी आहेत, पुरवठादार त्यांची अंमलबजावणी करतो याचा पुरावा नाही.
