NVIDIA mengumumkan pada 13 Oktober donasi akses komputasi selama lima tahun untuk riset keamanan dan keselamatan agen AI di Inggris. Perusahaan menilai komitmen itu sebesar US$250 juta, atau akses senilai US$50 juta per tahun. Angka tersebut adalah penilaian perusahaan atas komputasi masa depan, bukan hibah tunai atau kapasitas yang sudah diterima peneliti.

Pengumuman itu menyebut sebagian besar komitmen ditujukan kepada komunitas riset keamanan Inggris yang lebih luas. Sebagian direncanakan untuk pekerjaan bersama British Open-Ended Learning and Discovery Lab (BOLD) yang dipimpin University of Oxford, Science of Fundamental AI Research Lab (SOFAIR) yang dipimpin UCL, dan Imperial College London. NVIDIA belum merinci alokasi untuk ketiganya atau cara peneliti lain dapat mengajukan akses.

Perubahan utama

  • Apa yang berubah: NVIDIA berkomitmen mendanai akses komputasi yang dihos di Inggris selama lima tahun untuk riset keamanan dan keselamatan agen, dengan nilai yang dinyatakan sebesar US$250 juta.
  • Mengapa penting: Komputasi merupakan masukan penting untuk mengembangkan dan mengevaluasi sistem AI. Alokasi yang direncanakan menjangkau lebih dari tiga mitra riset yang disebut, tetapi jumlah bagi tiap tim belum ditentukan.
  • Yang perlu dipantau: NVIDIA mengatakan mitra cloud Inggris, arsitektur teknis, dan ketentuan komersial masih harus disepakati. Pengumuman itu tidak menetapkan kapan akses dimulai, bagaimana peneliti mendapatkannya, atau hasil keamanan apa yang akan dihasilkan riset tersebut.

Ke mana komputasi itu direncanakan

NVIDIA mengatakan NVIDIA Cloud Partners yang berbasis di Inggris akan menyediakan akses melalui infrastruktur yang dihos di negara itu. Program riset yang disebut membahas pertanyaan berbeda: BOLD mengkaji sistem yang belajar dan beradaptasi bersama manusia; SOFAIR mengeksplorasi arsitektur AI sumber terbuka dan pengembangan yang lebih mudah diakses; pekerjaan Imperial akan mencakup rekayasa keamanan dan robotika. Siaran pers itu menjelaskan rencana riset tentang agen aman, keamanan model terbuka, dan mitigasi ancaman nyata, termasuk sandbox, riset yang dapat direproduksi, dan tolok ukur evaluasi. Itu semua adalah rencana riset, bukan temuan yang sudah dilaporkan.

Pembagian sumber daya sama pentingnya dengan angka utama. NVIDIA mengatakan sebagian besar komitmen ditujukan bagi komunitas riset yang lebih luas, tetapi tidak membagi nilai akses tahunan US$50 juta antara komunitas tersebut dan program yang disebut. Perusahaan tidak mencantumkan jumlah GPU, jatah jam komputasi, dasar harga, atau kriteria kelayakan. Pemilihan penyedia cloud, arsitektur teknis, dan ketentuan komersial juga masih terbuka. Karena itu, laboratorium tidak dapat menyimpulkan kuota, konfigurasi perangkat keras, atau tanggal mulai yang bisa dipakai hanya dari angka dolar tersebut.

NVIDIA menyebut runtime OpenShell dan desain referensi Sentry sebagai teknologi yang mungkin digunakan dalam sebagian riset. BIG CHANGE sebelumnya telah meliput platform keselamatan agen itu saat NVIDIA mengumumkannya pada September. Komitmen Inggris berkaitan dengan kapasitas riset dan proyek yang direncanakan; ini perkembangan yang terpisah dari peluncuran desain perangkat lunak dan perangkat keras. Pengumuman Oktober tidak menyatakan bahwa semua penerima harus menggunakan alat tersebut.

Pekerjaan pemerintah Inggris yang terpisah

Pada 12 Oktober, pemerintah Inggris mengumumkan pekerjaan tentang risiko AI dan keamanan nasional. Pemerintah menyebut AI Security Institute sedang mengevaluasi model canggih, sementara institut itu dan National Cyber Security Centre mengkaji respons terhadap insiden serius yang melibatkan agen otonom. Pemerintah juga menjelaskan uji coba pertahanan siber dan kemungkinan pelaporan insiden AI serta kejadian nyaris terjadi. Itu program pemerintah; kedua pengumuman tidak menyatakannya sebagai bagian pendanaan atau jalur penyediaan komitmen komputasi NVIDIA.

Bagi peneliti, informasi berguna berikutnya bersifat operasional: nama penyedia cloud, proses alokasi dan kelayakan, lingkungan perangkat keras dan perangkat lunak, serta ketentuan penggunaan akses yang disumbangkan. Bagi siapa pun yang menilai klaim keselamatan, metode dan hasil yang diterbitkan akan lebih penting daripada nilai yang diumumkan. NVIDIA menjelaskan riset yang direncanakan, tanpa hasil independen tentang penyediaan atau efektivitas sejauh ini. BIG CHANGE tidak menggunakan komputasi tersebut atau menguji sistem keselamatan yang diusulkan.

Sumber dan bacaan lanjutan