AI агент који делује у повезаним налозима може променити податке или покренути пословне процесе. Пре избора добављача пословни власник и стручњак за безбедносни преглед могу упоредити контроле за један предложени ток рада са писаним захтевима организације. Резултат је евиденција доказа са датумом. Питање без одговора остаје отворено; сама тврдња о производу не показује да ће радња бити заустављена. Метод се ослања на NIST AI Risk Management Framework Playbook и OWASP AI Agent Security Cheat Sheet; ниједан од њих није проценио кандидата за добављача.
Главна промена
- Шта се променило: Куповина агента може обухватити поверене радње у пословним системима. Купац мора знати ко може навести агента да делује, над чим и уз чије одобрење.
- Зашто је важно: Купац може повезати сваку предложену радњу са именованом контролом и доказима за њу. Пословни власник и безбедносни преглед тако добијају конкретну основу за ограничавање приступа или одлагање куповине.
- На шта обратити пажњу: Одлука зависи од доказа за тачну верзију производа и ток рада. Контрола приказана у документацији можда захтева и надзирану демонстрацију пре него што је стручњак прихвати за предвиђену употребу.
Прикупите четири улазне основе
Користите постојећи писани профил ризика који је организација одобрила. Треба да наведе пословног власника, жељени исход, дозвољене податке и одредишта, дозвољене радње, овлашћење за одобравање, неприхватљиве последице и услове заустављања. Ако не постоји, тражите да га одговорне особе дефинишу пре процене добављача. Овај водич не може уместо њих одредити колико ризика организација прихвата.
NIST смерница MANAGE 3.1 тражи примену организационе толеранције ризика на AI системе трећих страна и документовање контрола. Playbook нуди добровољне предлоге, а не универзалну контролну листу набавке. Питања о контролама радњи у наставку ослањају се и на OWASP безбедносне смернице за агенте. Ови оквири издвајају корисна питања; на њих морају одговорити докази самог добављача.
Наведите једног кандидата за добављача и тачан производ и верзију примене које разматрате. Прибавите актуелну документацију и доказе које добављач сме да подели. Омогућите стручњаку за безбедносни преглед и руководиоцу набавке приступ евиденцији поређења. Осетљиве архитектонске податке и доказе чувајте на одобреном приватном месту; табела може упућивати на њих уместо да копира тајне.
1. Претворите ток рада у захтеве
Наведите сваку предложену радњу агента, циљни систем и податке које мора прочитати или променити. Одвојите читање од писања и од споља видљивих или неповратних радњи. За сваку препишите релевантан захтев из писаног профила ризика: дозвољени идентитет, опсег алата и циљева, одобрење, евиденцију, руковање подацима, прекид и опоравак. Забележите власника и датум профила.
Направите један ред табеле по захтеву. Непознато тако постаје видљиво уместо да се сакрије у укупној оцени добављача. Захтев да агент никада не приступи одређеном налогу заслужује ред исто колико и дозвољена радња.
2. Пратите ко делује и шта може да се изврши
Питајте која особа, сервисни налог или идентитет агента покреће сваку радњу, где су приступни подаци и може ли агент проследити захтев другом агенту. Утврдите која компонента проверава дозволу при извршавању. Упоредите стварне дозволе алата добављача са дозвољеним алатима, операцијама, налозима и циљевима из профила. Тражите доказе конфигурације или архитектуре за ову верзију производа; тврдња у упиту слаб је доказ да се граница стварно спроводи.
За радње које захтевају одобрење питајте шта особа која одобрава види пре извршавања и како је одобрење везано за актера, тачан позив алата, циљ и параметре. Сазнајте шта се догађа када одобрење истекне, буде одбијено, употребљено двапут или се захтевана радња промени. Забележите како се приступ опозива и ко може зауставити активно извршавање. Екран одобрења и провера при извршавању одговарају на различита питања; тражите оба доказа када профил захтева оба.
3. Пратите податке и запис радње
Нацртајте предложени пут од улаза до модела, алата, спољних прималаца, сачуваних копија и евиденције. Питајте које податке свака компонента прима, ко их може преузети и како раде чување и брисање. Укључите додатне обрађиваче или преносе између система важне за профил. Неодговорено питање о одредишту или чувању означите као непознато; не закључујте да постоји заштита приватности на основу опште изјаве о политици.
Тражите запис извршавања за одговарајућу верзију. Може ли стручњак повезати актера и верзију политике са предложеним позивом алата, одобрењем или одбијањем, тачним циљем и исходом? Проверите показује ли запис само одлуку, стварно извршавање или оба. Снимак екрана, извоз конфигурације и потпун след догађаја доказују различите ствари. Забележите зацрњене или изостављене делове који спречавају поређење, а приступне и личне податке немојте уносити у табелу.
4. Тражите доказе неуспеха
Тражите доказе везане за верзију за дозвољену радњу и путеве неуспеха које профил захтева: одбијено или истекло одобрење, алат или циљ ван опсега, прекинуто извршавање и, где је релевантно, неуспех евиденције или провере политике. Забележите шта је тестирано, када, под којим политикама и подешавањима алата, очекивани и опажени резултат. План теста је захтев за доказ, а не опажени резултат.
Одговорни стручњак за безбедносни преглед одлучује да ли је потребна надзирана демонстрација и одобрава њен обим. Користите дозвољене улазе и налоге ван продукције. Не повезујте живе системе само да попуните табелу набавке. Ако добављач не може дати доказ, забележите недостатак и следећи захтев уместо да замишљате исход теста.
5. Забележите одлуку и отворене задатке
Сваки ред означите као усклађен само када дати докази одговарају писаном захтеву за ову верзију и ток рада. Означите недостатак када су у сукобу, или непознато када доказа нема или су преслаби. Забележите супротстављене записе и ко их мора разрешити. Пословни власник и одговорни стручњак за безбедност затим бележе стварну одлуку: тражити још доказа, затражити одобрење за ограничени пилот, одложити или одбити. Усклађен ред је процена доказа, а не гаранција безбедности система нити замена за поступак куповине у организацији.
Водите евиденцију са датумом и поново прегледајте погођене редове када се промене ток рада, верзија производа, политика, повезани налози или одредишта података. Каснији пилот захтева сопствено овлашћење, ограничења и преглед.
Захтев из писаног профила | Доказ добављача, верзија и датум | Врста доказа и шта показује | Усклађено, недостатак или непознато | Особа која прегледа и следећа радња |
|---|---|---|---|---|
[Један захтев за радњу или контролу] | [Приватни линк или референца документа; верзија; датум] | [Тврдња, конфигурација, запис догађаја или опажена демонстрација; ограничење] | [Изаберите једно и објасните] | [Име, захтев за доказ или одлука] |
Заглавље евиденције: ток рада и власник; верзија профила ризика и датум одобрења; кандидат производа и верзија примене; датум прегледа; стручњак за безбедносни преглед; руководилац набавке; место ограничено доступних доказа. Запис одлуке: одлука, неразрешени редови, прихваћена ограничења или надокнађујуће контроле, одговорни одобравалац и повод за следећи преглед. Поља оставите празна док их одговорне особе заиста не прегледају.
Јавне смернице коришћене за ова питања бесплатно су доступне. Припрема поређења захтева време запослених и стручњака који прегледају. Докази добављача, поверљив приступ и одобрена демонстрација могу повећати трошкове или ограничити шта се може проверити; од кандидата прибавите стварне услове. Овај документациони поступак не тестира добављача и не утврђује правну усклађеност или универзални праг за куповину.
Извори и додатно читање
- NIST AI RMF Playbook, Manage подржава примену сопствене толеранције ризика организације на AI ресурсе трећих страна, документовање и процену контрола. Страница наводи да се AI RMF 1.0 ажурира и да ће Playbook уследити; нема датума ревизије странице. Не оцењује овог добављача.
- Увод у NIST AI RMF Playbook описује предлоге као добровољне и каже да Playbook није листа коју треба пратити у целости. Овде је табела синтеза BIG CHANGE за наведени задатак читаоца.
- OWASP AI Agent Security Cheat Sheet обрађује ограничене алате, ауторизацију при извршавању, одобрења везана за радње, евиденцију, заштиту података и доказе валидације везане за верзију. Актуелна веб-страница нема верзију или датум објаве. Препоруке су категорије доказа, а не доказ да их добављач спроводи.
