కనెక్ట్ చేసిన ఖాతాల్లో పనిచేసే AI ఏజెంట్ డేటాను మార్చవచ్చు లేదా వ్యాపార ప్రక్రియలను ప్రారంభించవచ్చు. సరఫరాదారును ఎంచుకునే ముందు వ్యాపార బాధ్యుడు, భద్రతా సమీక్షకుడు ఒక ప్రతిపాదిత పని ప్రవాహానికి చెందిన నియంత్రణలను సంస్థ రాతపూర్వక అవసరాలతో పోల్చవచ్చు. ఫలితం తేదీ ఉన్న ఆధారాల రికార్డు. సమాధానం లేని ప్రశ్న తెరిచే ఉంటుంది. ఉత్పత్తి వాదన ఒక్కటే చర్య ఆగుతుందని నిరూపించదు. ఈ పద్ధతి NIST AI Risk Management Framework Playbook మరియు OWASP యొక్క AI Agent Security Cheat Sheet ను ఆధారంగా తీసుకుంది. వీటిలో ఏదీ అభ్యర్థి సరఫరాదారును అంచనా వేయలేదు.
ప్రధాన మార్పు
- ఏం మారింది: ఏజెంట్ కొనుగోలులో వ్యాపార వ్యవస్థల్లో చర్యలను అప్పగించడం ఉండవచ్చు. ఎవరు ఏజెంట్‌తో చర్య చేయించగలరు, దేనిపై, ఎవరి ఆమోదంతో అనేది కొనుగోలుదారుకు తెలియాలి.
- ఎందుకు ముఖ్యం: కొనుగోలుదారు ప్రతి ప్రతిపాదిత చర్యను పేరు పెట్టిన నియంత్రణకు, దాని ఆధారాలకు జోడించవచ్చు. ఇది వ్యాపార బాధ్యుడు, భద్రతా సమీక్షకుడు ప్రాప్యతను పరిమితం చేయడానికి లేదా కొనుగోలు నిలిపేందుకు నిర్దిష్ట ఆధారాన్ని ఇస్తుంది.
- గమనించాల్సినవి: నిర్ణయం ఖచ్చితమైన ఉత్పత్తి సంస్కరణ, పని ప్రవాహానికి చెందిన ఆధారాలపై ఆధారపడి ఉంటుంది. పత్రాల్లో కనిపించే నియంత్రణను ఉద్దేశించిన ఉపయోగానికి సమీక్షకుడు అంగీకరించే ముందు పర్యవేక్షణతో ప్రదర్శన అవసరం కావచ్చు.
నాలుగు ప్రాథమిక అంశాలు సేకరించండి
సంస్థ ఆమోదించిన ఇప్పటికే ఉన్న రాతపూర్వక ప్రమాద ప్రొఫైల్‌ను ఉపయోగించండి. అందులో వ్యాపార బాధ్యుడు, ఆశించిన ఫలితం, అనుమతించిన డేటా, గమ్యాలు, చర్యలు, ఆమోద అధికారం, అంగీకరించలేని పరిణామాలు, ఆపే షరతులు ఉండాలి. అది లేకపోతే సరఫరాదారును అంచనా వేసే ముందు బాధ్యులు దాన్ని నిర్ణయించాలి. వారి తరఫున సంస్థ ఎంత ప్రమాదాన్ని భరించాలో ఈ మార్గదర్శిని నిర్ణయించదు.
NIST యొక్క MANAGE 3.1 మార్గదర్శకం సంస్థ ప్రమాద సహనాన్ని మూడో పక్ష AI వ్యవస్థలకు వర్తింపజేసి, వాటి నియంత్రణలను నమోదు చేయాలని కోరుతుంది. Playbook స్వచ్ఛంద సూచనలను ఇస్తుంది, అందరికీ వర్తించే కొనుగోలు తనిఖీ జాబితా కాదు. కింది చర్య నియంత్రణ ప్రశ్నలు OWASP ఏజెంట్-ప్రత్యేక భద్రతా సూచనలను కూడా ఆధారంగా తీసుకున్నాయి. ఈ చట్రాలు ఉపయోగకరమైన ప్రశ్నలను గుర్తిస్తాయి. సమాధానాలు సరఫరాదారు స్వంత ఆధారాల నుంచే రావాలి.
ఒక అభ్యర్థి సరఫరాదారు, పరిశీలిస్తున్న ఖచ్చితమైన ఉత్పత్తి, అమరిక సంస్కరణను పేర్కొనండి. ప్రస్తుత ఉత్పత్తి పత్రాలు, సరఫరాదారు పంచుకోవడానికి అధికారం ఉన్న ఆధారాలను పొందండి. భద్రతా సమీక్షకుడు, కొనుగోలు బాధ్యుడికి పోలిక రికార్డుపై ప్రాప్యత ఇవ్వండి. సున్నితమైన నిర్మాణ లేదా ఆధారాల ఫైల్‌లను ఆమోదించిన ప్రైవేట్ ప్రదేశంలో ఉంచండి. పట్టికలో రహస్యాలను కాపీ చేయకుండా వాటి లింకులు ఉంచవచ్చు.
1. పని ప్రవాహాన్ని అవసరాలుగా మార్చండి
ఏజెంట్ ప్రతి ప్రతిపాదిత చర్య, లక్ష్య వ్యవస్థ, చదవాల్సిన లేదా మార్చాల్సిన డేటాను జాబితా చేయండి. చదవడాన్ని వ్రాయడం నుంచి, బయట కనిపించే లేదా తిరిగి మార్చలేని చర్యల నుంచి వేరు చేయండి. ప్రతి దానికి రాతపూర్వక ప్రమాద ప్రొఫైల్‌లోని సంబంధిత అవసరాన్ని తీసుకోండి: అనుమతించిన గుర్తింపు, టూల్, లక్ష్య పరిధి, ఆమోదం, లాగ్, డేటా నిర్వహణ, అంతరాయం, పునరుద్ధరణ. ప్రొఫైల్ బాధ్యుడు, తేదీ నమోదు చేయండి.
ప్రతి అవసరానికి పట్టికలో ఒక వరుసను సృష్టించండి. అప్పుడు తెలియని అంశం సరఫరాదారు మొత్తం స్కోరులో దాగిపోకుండా కనిపిస్తుంది. ఏజెంట్ ఒక నిర్దిష్ట ఖాతాను ఎప్పుడూ చేరకూడదనే అవసరానికి కూడా అనుమతించిన చర్యలాగే వరుస కావాలి.
2. ఎవరు చర్య చేస్తారు, ఏమి అమలు కావచ్చు అనేది అనుసరించండి
ఏ వ్యక్తి, సేవా ఖాతా లేదా ఏజెంట్ గుర్తింపు ప్రతి చర్యను మొదలుపెడుతుంది, ప్రవేశ వివరాలు ఎక్కడ ఉంటాయి, ఏజెంట్ మరొకదానికి అభ్యర్థన పంపగలదా అని అడగండి. అమలు సమయంలో అనుమతి తనిఖీ చేసే భాగాన్ని గుర్తించండి. సరఫరాదారు అసలు టూల్ అనుమతులను ప్రొఫైల్‌లో అనుమతించిన టూల్స్, కార్యకలాపాలు, ఖాతాలు, లక్ష్యాలతో పోల్చండి. ఈ ఉత్పత్తి సంస్కరణకు వర్తించే కాన్ఫిగరేషన్ లేదా నిర్మాణ ఆధారాలను కోరండి. ప్రాంప్ట్‌లో ఒక వాక్యం అమలు చేసే హద్దుకు బలహీన ఆధారం మాత్రమే.
ఆమోదం అవసరమయ్యే చర్యల్లో అమలుకు ముందు సమీక్షకుడు ఏమి చూస్తారు, ఆమోదం చర్య చేసే వ్యక్తి, ఖచ్చితమైన టూల్ కాల్, లక్ష్యం, పరామితులకు ఎలా జోడించబడుతుందో అడగండి. ఆమోదం గడువు ముగిసినా, తిరస్కరించినా, రెండుసార్లు వాడినా లేదా కోరిన చర్య మారినా ఏమవుతుందో తెలుసుకోండి. ప్రాప్యతను ఎలా రద్దు చేయాలి, సక్రియ అమలును ఎవరు ఆపగలరో నమోదు చేయండి. ఆమోద తెర, అమలు సమయంలో తనిఖీ వేర్వేరు ప్రశ్నలకు సమాధానాలు. ప్రొఫైల్ రెండూ కోరితే రెండింటికీ ఆధారాలు అడగండి.
3. డేటా, చర్య రికార్డును అనుసరించండి
ఇన్‌పుట్ నుంచి మోడల్, టూల్స్, బాహ్య గ్రహీతలు, భద్రపరిచిన కాపీలు, లాగ్‌ల వరకు ప్రతిపాదిత మార్గాన్ని గీయండి. ప్రతి భాగం ఏ డేటాను అందుకుంటుంది, ఎవరు తిరిగి పొందగలరు, నిల్వ, తొలగింపు ఎలా పనిచేస్తాయో అడగండి. మీ ప్రొఫైల్‌కు ముఖ్యమైన ఉప-ప్రాసెసర్లు లేదా వ్యవస్థల మధ్య బదిలీలను చేర్చండి. గమ్యం లేదా నిల్వపై సమాధానం లేని ప్రశ్నను తెలియదు అని గుర్తించండి. సాధారణ విధాన ప్రకటన నుంచి గోప్యత రక్షణ ఉందని అనుకోకండి.
సంబంధిత సంస్కరణకు అమలు రికార్డును అడగండి. సమీక్షకుడు చర్యకర్త, విధాన సంస్కరణను ప్రతిపాదిత టూల్ కాల్, ఆమోదం లేదా నిరాకరణ, ఖచ్చితమైన లక్ష్యం, ఫలితంతో కలపగలరా? రికార్డు నిర్ణయాన్నే చూపుతుందా, అసలు అమలునా, రెండింటినీనా తనిఖీ చేయండి. స్క్రీన్‌షాట్, కాన్ఫిగరేషన్ ఎగుమతి, పూర్తి సంఘటనల శ్రేణి వేర్వేరు విషయాలను నిరూపిస్తాయి. పోలికను అడ్డుకునే దాచిన భాగాలను నమోదు చేయండి. ప్రవేశ వివరాలు, వ్యక్తిగత డేటాను పట్టికలో పెట్టవద్దు.
4. వైఫల్య ఆధారాలను అడగండి
అనుమతించిన చర్యకు, ప్రొఫైల్ కోరే వైఫల్య మార్గాలకు సంస్కరణతో ముడిపడిన ఆధారాలు అడగండి: తిరస్కరించిన లేదా గడువు ముగిసిన ఆమోదం, పరిధి బయట టూల్ లేదా లక్ష్యం, అంతరాయం కలిగిన అమలు, అవసరమైనప్పుడు లాగింగ్ లేదా విధాన తనిఖీ వైఫల్యం. ఏమి, ఎప్పుడు, ఏ విధానాలు, టూల్ సెట్టింగ్‌లతో పరీక్షించారు, ఆశించిన, గమనించిన ఫలితాలు ఏమిటో నమోదు చేయండి. పరీక్ష ప్రణాళిక ఆధారాల అభ్యర్థన, గమనించిన ఫలితం కాదు.
బాధ్యతగల భద్రతా సమీక్షకుడు పర్యవేక్షణతో ప్రదర్శన అవసరమా నిర్ణయించి దాని పరిధిని అనుమతిస్తారు. అనుమతించిన ఉత్పాదకేతర ఇన్‌పుట్, ఖాతాలను ఉపయోగించండి. కేవలం కొనుగోలు పట్టిక నింపడానికి నిజంగా పనిచేసే వ్యవస్థలను కనెక్ట్ చేయవద్దు. సరఫరాదారు ఆధారం ఇవ్వలేకపోతే పరీక్ష ఫలితాన్ని ఊహించకుండా లోటు, తదుపరి అభ్యర్థనను నమోదు చేయండి.
5. నిర్ణయం, మిగిలిన పనిని నమోదు చేయండి
ప్రతి వరుసలో సరిపోతుంది అని ఈ సంస్కరణ, పని ప్రవాహపు రాతపూర్వక అవసరానికి ఇచ్చిన ఆధారాలు సమాధానం ఇచ్చినప్పుడే గుర్తించండి. విరుద్ధంగా ఉంటే లోటు అని, ఆధారాలు లేకపోతే లేదా చాలా బలహీనంగా ఉంటే తెలియదు అని గుర్తించండి. విరుద్ధ రికార్డులు, వాటిని ఎవరు పరిష్కరించాలో నమోదు చేయండి. వ్యాపార బాధ్యుడు, బాధ్యతగల భద్రతా సమీక్షకుడు తరువాత నిజమైన నిర్ణయాన్ని నమోదు చేస్తారు: మరిన్ని ఆధారాలు కోరడం, పరిమిత ప్రయోగానికి ఆమోదం కోరడం, వాయిదా లేదా తిరస్కరణ. సరిపోతుంది అనే నమోదు ఆధారాలపై తీర్పు మాత్రమే. అది వ్యవస్థ సురక్షితమనే హామీ లేదా సంస్థ కొనుగోలు ప్రక్రియకు ప్రత్యామ్నాయం కాదు.
రికార్డుకు తేదీ పెట్టండి. పని ప్రవాహం, ఉత్పత్తి సంస్కరణ, విధానం, కనెక్ట్ చేసిన ఖాతాలు లేదా డేటా గమ్యాలు మారితే సంబంధిత వరుసలను మళ్లీ చూడండి. తరువాతి ప్రయోగానికి ప్రత్యేక అధికారం, పరిమితులు, సమీక్ష అవసరం.
రాతపూర్వక ప్రొఫైల్‌లో అవసరం | సరఫరాదారు ఆధారాలు, సంస్కరణ, తేదీ | ఆధారం రకం, అది ఏమి చూపుతుంది | సరిపోతుంది, లోటు లేదా తెలియదు | సమీక్షకుడు, తదుపరి చర్య |
|---|---|---|---|---|
[ఒక చర్య లేదా నియంత్రణ అవసరం] | [ప్రైవేట్ లింక్ లేదా పత్ర సూచన; సంస్కరణ; తేదీ] | [వాదన, కాన్ఫిగరేషన్, సంఘటన రికార్డు లేదా గమనించిన ప్రదర్శన; పరిమితి] | [ఒకటి ఎంచుకుని వివరించండి] | [పేరు, ఆధార అభ్యర్థన లేదా నిర్ణయం] |
రికార్డు శీర్షిక: పని ప్రవాహం, బాధ్యుడు; ప్రమాద ప్రొఫైల్ సంస్కరణ, ఆమోద తేదీ; అభ్యర్థి ఉత్పత్తి, అమరిక సంస్కరణ; సమీక్ష తేదీ; భద్రతా సమీక్షకుడు; కొనుగోలు బాధ్యుడు; పరిమిత ప్రాప్యత గల ఆధారాల స్థలం. నిర్ణయ రికార్డు: నిర్ణయం, పరిష్కారం కాని వరుసలు, అంగీకరించిన పరిమితులు లేదా ప్రత్యామ్నాయ భర్తీ నియంత్రణలు, బాధ్యతగల ఆమోదదారు, తదుపరి సమీక్షను ప్రారంభించే పరిస్థితి. బాధ్యులు నిజంగా సమీక్షించే వరకు ఆ ఫీల్డ్‌లను ఖాళీగా ఉంచండి.
ఈ ప్రశ్నల రూపకల్పనకు ఉపయోగించిన బహిరంగ మార్గదర్శకాలు ఉచితంగా అందుబాటులో ఉన్నాయి. పోలిక సిద్ధం చేయడానికి సిబ్బంది, సమీక్షకుల సమయం అవసరం. సరఫరాదారు ఆధారాలు, గోప్య ప్రాప్యత, అనుమతించిన ప్రదర్శన ఖర్చును పెంచవచ్చు లేదా తనిఖీ చేయగల విషయాలను పరిమితం చేయవచ్చు. అభ్యర్థి నుంచి అసలు షరతులు పొందండి. ఈ పత్రాల పరిశీలన సరఫరాదారును పరీక్షించదు. చట్టపరమైన అనుసరణ లేదా అందరికీ వర్తించే కొనుగోలు హద్దును కూడా నిర్ణయించదు.
మూలాలు, మరింత చదవండి
- NIST AI RMF Playbook, Manage సంస్థ స్వంత ప్రమాద సహనాన్ని మూడో పక్ష AI వనరులకు వర్తింపజేయడం, నియంత్రణలను నమోదు చేసి అంచనా వేయడాన్ని సమర్థిస్తుంది. AI RMF 1.0 ను నవీకరిస్తున్నారని, తరువాత Playbook వస్తుందని వెబ్‌పేజీ చెబుతుంది. పేజీ సవరణ తేదీ లేదు. ఇది ఈ సరఫరాదారును అంచనా వేయదు.
- NIST AI RMF Playbook పరిచయం సూచనలు స్వచ్ఛందమని, Playbook పూర్తిగా అనుసరించాల్సిన జాబితా కాదని వివరిస్తుంది. ఇక్కడి పట్టిక పాఠకుడి పేర్కొన్న పని కోసం BIG CHANGE చేసిన సంకలనం.
- OWASP AI Agent Security Cheat Sheet పరిమిత టూల్స్, అమలు వైపు అనుమతి, చర్యతో ముడిపడిన ఆమోదాలు, లాగింగ్, డేటా రక్షణ, సంస్కరణతో ముడిపడిన ధృవీకరణ ఆధారాలను వివరిస్తుంది. ప్రస్తుత పేజీలో సంస్కరణ లేదా విడుదల తేదీ లేదు. సూచనలు ఆధారాల వర్గాలు మాత్రమే, సరఫరాదారు వాటిని అమలు చేస్తారని రుజువు కాదు.
