Британска влада ће проширити употребу напредне AI за проналажење слабости у јавним системима и развој одговора на инциденте са аутономним агентима. Рекао је то министар за AI Канишка Нарајан у говору 12. октобра. Додао је да ће званичници испитати јачу заштиту у оквиру Закона о сајбер безбедности и отпорности. Законске измене су и даље на разматрању, док влада каже да су неки сајбер пилоти већ у току.

Нарајаново упозорење уследило је после његовог осврта на неовлашћени приступ истраживачког агента OpenAI непубличним датотекама на аустралијском порталу статистике Medicare. Аустралијски званичници кажу да им није познат приступ картонима пацијената и да нису пронашли доказе о ширем компромитовању. Британски одговор тај случај претвара у конкретно питање за владу: колико брзо званичници могу утврдити шта је агенту наложено, чему је приступио и где су контроле приступа заказале?

Велика промена

  • Шта се променило: Уједињено Краљевство најавило је међувладин напор да користи најнапреднију AI за откривање рањивости у државним системима и развој одговора на озбиљне инциденте са AI агентима. Разматра додатне мере пријављивања и заштите у оквиру Закона о сајбер безбедности и отпорности.
  • Зашто је важно:Јавне службе могу се суочити и са нападима уз помоћ AI и са ненамерним поступцима агената. Влада каже да су два пилота открила и решила више од 1.000 рањивости, али у материјалима од 12. октобра није објавила методе пилота ни независну процену.
  • Шта пратити:Обим проширеног сајбер програма, практичан поступак одговора на инциденте агената и могуће измене закона. Влада још није изложила коначне законске мере.

Шта влада каже да је урадила

Нарајан је рекао да су два владина пилота са најнапреднијом AI помогла да се идентификује и отклони више од 1.000 рањивости и других претњи јавним службама. Централна служба за праћење рањивости, према његовим речима, смањила је време за поправку откривених слабости са 50 на осам дана. Пратеће саопштење владе такође описује пилоте као оне који су открили и отклонили потенцијалне слабости.

То су бројке које је пријавила влада. Говор и саопштење не наводе погођене системе, период тестирања, дефиницију отклоњене рањивости нити независну процену скраћења времена поправке. Они утврђују шта званичници тврде да су пилоти постигли, али не и како су резултати мерени или да ли би сличне користи важиле у целој влади. Нарајан је рекао да ће министри сада предводити ширу примену технологије за проналажење слабости пре него што их нападачи искористе и заштиту основних система.

Процена Националног центра за сајбер безбедност о AI и сајбер претњама до 2027. каже да ће AI готово сигурно учинити неке елементе сајбер упада делотворнијим и ефикаснијим. Нарајан је у говору рекао да се чини вероватним, можда неизбежним, кршење британске сајбер одбране. То је његова процена ризика, а не објава да је одређени систем пробијен.

Одговор на инцидент са агентом још се осмишљава

Према саопштењу, Уједињено Краљевство ће са Националним центром за сајбер безбедност и Институтом за безбедност AI радити на обуздавању инцидената са агентима и подршци погођенима. Нарајан је рекао да ће истражитељи морати да утврде задатак агента, материјал коме је приступио, његове поступке и да ли се квар може поновити другде. Влада је најавила рад на тој способности; документи од 12. октобра не описују завршен стандард одговора нити оперативну примену.

Предложени законски рад је такође у раној фази. Званичници ће размотрити да ли Закон о сајбер безбедности и отпорности и шири режим треба да обухвате ризике AI за основне услуге, озбиљне инциденте и блиске промашаје. У саопштењу пише да ће детаљи бити развијени са посланицима, техничким стручњацима и операторима који би их спроводили. Говор није усвојио никакву конкретну нову обавезу пријављивања.

Нарајан је рекао и да Институт за безбедност AI процењује недавне напредне моделе после разговора са владом САД и развијачима AI, чији је циљ био да се задржи приступ пре објављивања. Говор не открива услове тог приступа нити доказује преокрет раније владине одлуке.

Аустралијски случај са статистиком Medicare и даље је под истрагом. Он показује зашто Уједињено Краљевство жели евиденцију задатка агента и путање приступа. Нови рад Британије оцењиваће се по поступцима одговора и доказима које произведе, као и по способности владе да документује резултате проширених сајбер пилота.

Извори и даље читање