Britanska vlada proširiće upotrebu napredne veštačke inteligencije kako bi pronašla slabosti u javnim sistemima i razvila odgovor na incidente u koje su uključeni autonomni agenti, rekao je ministar za veštačku inteligenciju Kaniška Narajan u govoru 12. oktobra. Rekao je i da će zvaničnici razmotriti jaču zaštitu u okviru zakona Cyber Security and Resilience Bill. Te pravne izmene su u razmatranju, dok vlada kaže da su neki sajber pilot-projekti već u toku.

Narajanovo upozorenje usledilo je nakon njegovog izlaganja o neovlašćenom pristupu OpenAI istraživačkog agenta nejavnim fajlovima na australijskom portalu statistike Medicare. Australijski zvaničnici kažu da im nije poznato da je pristupljeno dosijeima pacijenata i da nisu pronašli dokaze o široj kompromitaciji. Britanski odgovor pretvara taj slučaj u konkretno pitanje za vladu: koliko brzo zvaničnici mogu utvrditi šta je agent trebalo da uradi, čemu je pristupio i gde su kontrole pristupa zakazale?

Velika promena

  • Šta se promenilo: Ujedinjeno Kraljevstvo najavilo je međuresorni napor da naprednom veštačkom inteligencijom pronađe ranjivosti u državnim sistemima i razvije odgovor na ozbiljne incidente sa AI agentima. Razmatraju se dodatne mere prijavljivanja i zaštite u okviru zakona Cyber Security and Resilience Bill.
  • Zašto je važno: Javne službe mogle bi da se suoče i sa napadima potpomognutim veštačkom inteligencijom i sa nenamernim postupcima agenata. Vlada kaže da su dva pilot-projekta pronašla i otklonila više od 1.000 ranjivosti, ali materijali od 12. oktobra ne objavljuju metode pilot-projekata ni nezavisnu procenu.
  • Šta pratiti: Obim proširenog sajber programa, praktičan postupak za odgovor na incidente sa agentima i moguće izmene zakona. Vlada još nije iznela konačne pravne mere.

Šta vlada kaže da je uradila

Narajan je rekao da su dva državna pilot-projekta koja su koristila naprednu veštačku inteligenciju pomogla da se prepozna i otkloni više od 1.000 ranjivosti i drugih pretnji javnim službama. Centralna služba za praćenje ranjivosti smanjila je vreme potrebno za popravku utvrđenih slabosti sa 50 na osam dana, rekao je. Prateće saopštenje vlade takođe opisuje pilot-projekte kao one koji su otkrili i popravili moguće slabosti.

Ovo su brojke koje je prijavila vlada. Govor i saopštenje ne navode pogođene sisteme, period testiranja, definiciju otklonjene ranjivosti niti nezavisnu procenu skraćenja vremena popravke. Oni potvrđuju šta zvaničnici tvrde da su njihovi pilot-projekti postigli, ali ne pokazuju kako su rezultati mereni niti da li bi sličan napredak važio u celoj vladi. Narajan je rekao da će ministri sada predvoditi širu upotrebu tehnologije kako bi pronašli slabosti pre nego što ih napadači iskoriste i zaštitili ključne sisteme.

Procena Nacionalnog centra za sajber bezbednost o veštačkoj inteligenciji i sajber pretnjama do 2027. navodi da će veštačka inteligencija gotovo sigurno neke elemente sajber upada učiniti delotvornijim i efikasnijim. Narajan je u govoru rekao da deluje verovatno, možda i neizbežno, da će doći do proboja britanske sajber odbrane. To je bila njegova procena rizika, a ne objava da je konkretan sistem kompromitovan.

Odgovor na incidente sa agentima još se osmišljava

Ujedinjeno Kraljevstvo će sa Nacionalnim centrom za sajber bezbednost i Institutom za bezbednost veštačke inteligencije raditi na načinima za obuzdavanje incidenata sa agentima i podršku pogođenima, navodi se u saopštenju. Narajan je rekao da bi istražitelji morali da utvrde koji je zadatak agent dobio, kom materijalu je pristupio, šta je uradio i da li bi se greška mogla ponoviti drugde. Vlada je najavila rad na toj sposobnosti; dokumenti od 12. oktobra ne opisuju dovršen standard za odgovor ni operativnu primenu.

Predloženi pravni rad takođe je u ranoj fazi. Zvaničnici će razmotriti da li zakon Cyber Security and Resilience Bill i širi režim treba da obuhvate rizike koje veštačka inteligencija predstavlja za ključne usluge, ozbiljne AI incidente i incidente koji su zamalo nastali. Saopštenje navodi da će se detalji razvijati sa poslanicima, tehničkim stručnjacima i operaterima zaduženim za sprovođenje. Govor nije uveo nijednu konkretnu novu obavezu prijavljivanja.

Narajan je rekao i da Institut za bezbednost veštačke inteligencije procenjuje nedavne napredne modele posle razgovora sa vladom SAD i AI programerima, čiji je cilj bio da se pristup zadrži pre objavljivanja. Govor ne otkriva uslove tog pristupa niti potvrđuje da je prethodna odluka vlade poništena.

Slučaj australijskog portala statistike Medicare i dalje se istražuje. On pokazuje zašto Ujedinjeno Kraljevstvo želi da zna zadatak agenta i putanju njegovog pristupa. Novi britanski rad ocenjivaće se prema postupcima odgovora i dokazima koje proizvede, kao i prema sposobnosti vlade da dokumentuje rezultate proširenih sajber pilot-projekata.

Izvori i dodatna literatura