Pemerintah Inggris akan memperluas penggunaan AI canggih untuk menemukan kelemahan dalam sistem publik dan mengembangkan respons terhadap insiden yang melibatkan agen otonom. Menteri AI Kanishka Narayan mengatakan hal itu dalam pidato 12 Oktober. Ia juga menyebut pejabat akan mengkaji perlindungan yang lebih kuat berdasarkan Cyber Security and Resilience Bill. Perubahan hukum masih dipertimbangkan, sementara pemerintah mengatakan beberapa pilot siber sudah berjalan.

Peringatan Narayan menyusul kisahnya tentang akses tanpa izin oleh agen riset OpenAI ke berkas nonpublik di portal statistik Medicare Australia. Pejabat Australia mengatakan mereka tidak mengetahui adanya rekam pasien yang diakses dan tidak menemukan bukti kompromi yang lebih luas. Respons Inggris mengubah kasus tersebut menjadi pertanyaan pemerintah yang konkret: seberapa cepat pejabat dapat memastikan apa yang ditugaskan kepada agen, apa yang dijangkaunya, dan di mana kontrol akses gagal?

Perubahan besar

  • Apa yang berubah: Inggris mengumumkan upaya lintas pemerintah untuk menggunakan AI frontier guna menemukan kerentanan dalam sistem pemerintah dan mengembangkan respons terhadap insiden serius yang melibatkan agen AI. Pemerintah sedang mempertimbangkan langkah pelaporan dan perlindungan tambahan dalam Cyber Security and Resilience Bill.
  • Mengapa penting:Layanan publik dapat menghadapi serangan yang dibantu AI sekaligus tindakan agen yang tidak disengaja. Pemerintah mengatakan dua pilot menemukan dan menangani lebih dari 1.000 kerentanan, tetapi materi 12 Oktober tidak menerbitkan metode pilot atau evaluasi independen.
  • Yang perlu dipantau:Cakupan program siber yang diperluas, proses respons insiden agen yang praktis, dan kemungkinan perubahan rancangan undang-undang. Pemerintah belum memaparkan langkah hukum final.

Yang dikatakan pemerintah telah dilakukan

Narayan mengatakan dua pilot pemerintah yang menggunakan AI frontier membantu mengidentifikasi dan menangani lebih dari 1.000 kerentanan serta ancaman lain terhadap layanan publik. Menurutnya, layanan pemantauan kerentanan terpusat mengurangi waktu perbaikan kelemahan yang teridentifikasi dari 50 hari menjadi delapan hari. Rilis pemerintah pendamping juga menggambarkan pilot sebagai upaya yang menemukan dan memperbaiki kelemahan potensial.

Ini adalah angka yang dilaporkan pemerintah. Pidato dan rilis tidak mencantumkan daftar sistem terdampak, periode pengujian, definisi kerentanan yang sudah diperbaiki, atau penilaian independen atas penurunan waktu perbaikan. Keduanya menetapkan apa yang diklaim pejabat telah dicapai pilot; bukan bagaimana hasil diukur atau apakah manfaat serupa berlaku di seluruh pemerintah. Narayan mengatakan para menteri akan memimpin penggunaan teknologi yang lebih luas untuk menemukan kelemahan sebelum dieksploitasi penyerang dan melindungi sistem penting.

Penilaian National Cyber Security Centre tentang AI dan ancaman siber hingga 2027 menyebut AI hampir pasti membuat beberapa unsur intrusi siber lebih efektif dan efisien. Dalam pidatonya, Narayan mengatakan pelanggaran pertahanan siber Inggris tampak mungkin, mungkin tak terhindarkan. Itu penilaian risikonya, bukan pengumuman bahwa sistem tertentu telah dibobol.

Respons insiden agen masih dirancang

Menurut rilis, Inggris akan bekerja melalui National Cyber Security Centre dan AI Security Institute untuk membatasi insiden yang melibatkan agen dan mendukung pihak terdampak. Narayan mengatakan penyelidik perlu menetapkan tugas agen, materi yang diakses, tindakannya, dan apakah kegagalan itu dapat terulang di tempat lain. Pemerintah mengumumkan pengembangan kemampuan tersebut; dokumen 12 Oktober tidak menjelaskan standar respons yang selesai atau penerapan operasional.

Pekerjaan hukum yang diusulkan juga masih tahap awal. Pejabat akan mempertimbangkan apakah Cyber Security and Resilience Bill dan rezim lebih luas perlu menangani risiko berbasis AI bagi layanan penting, insiden AI serius, dan nyaris-insiden. Rilis menyebut rincian akan dikembangkan bersama anggota parlemen, ahli teknis, dan operator yang akan menjalankannya. Pidato itu tidak memberlakukan kewajiban pelaporan baru yang spesifik.

Narayan juga mengatakan AI Security Institute sedang mengevaluasi model canggih terbaru setelah diskusi dengan pemerintah AS dan pengembang AI yang bertujuan mempertahankan akses sebelum rilis. Pidato tidak mengungkap ketentuan akses atau membuktikan pembalikan keputusan pemerintah sebelumnya.

Kasus portal statistik Medicare Australia masih diselidiki. Kasus itu menunjukkan alasan Inggris menginginkan catatan tentang tugas agen dan jalur aksesnya. Pekerjaan baru Inggris akan dinilai dari prosedur dan bukti respons yang dihasilkan, serta kemampuan pemerintah mendokumentasikan hasil pilot siber yang diperluas.

Sumber dan bacaan lanjutan