Palalawakin ng gobyerno ng UK ang paggamit nito ng advanced AI upang maghanap ng kahinaan sa mga pampublikong sistema at bumuo ng tugon sa mga insidenteng may autonomous agent. Sinabi ni Ministro ng AI Kanishka Narayan sa talumpati noong Oktubre 12. Sinabi rin niyang susuriin ng mga opisyal ang mas matibay na proteksiyon sa ilalim ng Cyber Security and Resilience Bill. Pinag-aaralan pa ang mga legal na pagbabago, habang sinasabi ng gobyerno na may ilang cyber pilot nang tumatakbo.

Sumunod ang babala ni Narayan sa paglalahad niya tungkol sa hindi awtorisadong pag-access ng isang research agent ng OpenAI sa mga hindi pampublikong file sa portal ng estadistika ng Medicare ng Australia. Sinabi ng mga opisyal ng Australia na wala silang alam na naakses na rekord ng pasyente at wala silang nakitang ebidensiya ng mas malawak na kompromiso. Ginagawang kongkretong tanong ng tugon ng UK ang kasong iyon: gaano kabilis matutukoy ng mga opisyal kung ano ang ipinagawa sa agent, ano ang naabot nito at saan pumalya ang mga kontrol sa access?

Ang malaking pagbabago

  • Ano ang nagbago: Nag-anunsyo ang UK ng pagsisikap ng buong gobyerno na gumamit ng frontier AI para maghanap ng mga kahinaan sa sistema ng pamahalaan at bumuo ng tugon sa malulubhang insidenteng may AI agent. Isinasaalang-alang nito ang dagdag na pag-uulat at proteksiyon sa ilalim ng Cyber Security and Resilience Bill.
  • Bakit mahalaga:Maaaring humarap ang mga serbisyong pampubliko kapwa sa mga pag-atakeng tinutulungan ng AI at sa hindi sinasadyang kilos ng mga agent. Sinasabi ng gobyerno na nakakita at tumugon ang dalawang pilot sa mahigit 1,000 kahinaan, ngunit hindi nito inilathala sa mga materyal noong Oktubre 12 ang mga pamamaraan ng pilot o independiyenteng pagsusuri.
  • Ano ang susubaybayan:Saklaw ng pinalawak na cyber programme, praktikal na proseso ng pagtugon sa insidente ng agent at anumang mungkahing pagbabago sa panukalang batas. Hindi pa inilalatag ng gobyerno ang pinal na legal na hakbang.

Ano raw ang nagawa na ng gobyerno

Sinabi ni Narayan na nakatulong ang dalawang pilot ng gobyerno gamit ang frontier AI upang matukoy at matugunan ang mahigit 1,000 kahinaan at iba pang banta sa mga serbisyong pampubliko. Binawasan umano ng sentral na serbisyo sa pagsubaybay ng kahinaan ang oras ng pag-aayos mula 50 araw tungo sa walo. Ganito rin inilalarawan ng kasamang pahayag ng gobyerno ang mga pilot: natukoy at naayos ang mga posibleng kahinaan.

Mga bilang ito na iniulat ng gobyerno. Walang listahan ng apektadong sistema, panahon ng pagsubok, depinisyon ng naayos na kahinaan o independiyenteng pagtatasa sa pagbawas ng oras ng pagkukumpuni sa talumpati at pahayag. Itinatatag ng mga ito kung ano ang sinasabing nakamit ng mga pilot ng mga opisyal; hindi kung paano sinukat ang resulta o kung mauulit ito sa buong pamahalaan. Sinabi ni Narayan na pangungunahan na ng mga ministro ang mas malawak na paggamit ng teknolohiya upang makita ang kahinaan bago ito pagsamantalahan ng mga umaatake at maprotektahan ang mahahalagang sistema.

Ang pagtatasa ng National Cyber Security Centre sa AI at cyber threat hanggang 2027 na halos tiyak na gagawing mas epektibo at episyente ng AI ang ilang bahagi ng cyber intrusion. Sinabi ni Narayan na malamang, marahil hindi maiiwasan, ang paglabag sa mga depensa ng UK. Hatol niya iyon sa panganib, hindi pahayag na may partikular na sistemang nalusutan.

Idinidisenyo pa ang pagtugon sa insidente ng agent

Makikipagtulungan ang UK sa National Cyber Security Centre at AI Security Institute para sa paraan ng pagpigil sa insidenteng may agent at pagsuporta sa mga apektado, ayon sa pahayag. Sinabi ni Narayan na kailangang matukoy ng mga imbestigador ang ipinagawang gawain sa agent, materyal na naakses nito, mga kilos nito at kung mauulit ang pagkabigo sa ibang lugar. Inanunsyo ng gobyerno ang pagbuo ng kakayahang iyon; hindi inilalarawan ng mga dokumento noong Oktubre 12 ang kumpletong pamantayan o operasyonal na deployment.

Nasa mas maagang yugto rin ang iminungkahing batas. Isasaalang-alang ng mga opisyal kung dapat tugunan ng Cyber Security and Resilience Bill at ng mas malawak na rehimen ang mga panganib na dulot ng AI sa mahahalagang serbisyo, seryosong insidente at muntikang insidente ng AI. Ayon sa pahayag, bubuuin ang detalye kasama ang mga mambabatas, teknikal na eksperto at operator. Walang partikular na bagong obligasyon sa pag-uulat na pinagtibay ng talumpati.

Sinabi rin ni Narayan na sinusuri ng AI Security Institute ang mga kamakailang advanced model matapos ang mga talakayan sa gobyerno ng US at mga developer ng AI upang mapanatili ang access bago ilabas ang mga ito. Hindi ibinunyag ng talumpati ang mga tuntunin ng access o pinatutunayan ang pagbawi sa naunang pasya ng gobyerno.

Ang kaso ng estadistika ng Medicare sa Australia ay iniimbestigahan pa. Ipinapakita nito kung bakit nais ng UK na malaman ang gawain at access path ng isang agent. Susukatin ang bagong gawain ng UK sa mga proseso at ebidensiya ng pagtugon na mabubuo nito, gayundin sa kakayahan ng gobyerno na idokumento ang resulta ng pinalawak na cyber pilot.

Mga sanggunian at karagdagang babasahin