NVIDIA mengumumkan Open Agent Safety Platform pada 28 September 2026 sebagai cara untuk mengendalikan agen AI yang dapat menjalankan kode dan memanggil layanan eksternal. Nama platform ini mencakup dua komponen yang terpisah. OpenShell adalah runtime publik dan bersumber terbuka yang menerapkan kebijakan akses di sekeliling agen. Sentry adalah desain referensi untuk pemantauan dan penegakan tambahan pada unit pemroses data BlueField-4. Menurut FAQ platform, tim dapat menggunakan OpenShell tanpa perangkat keras BlueField.

Kode, dokumentasi, dan paket rilis OpenShell tersedia untuk publik. NVIDIA menjelaskan kemampuan Sentry mengarantina agen dalam hitungan milidetik, tetapi pengumuman itu tidak menyediakan pengukuran independen atau prosedur penyiapan Sentry untuk publik yang memungkinkan pembaca memverifikasi hasil tersebut.

Perubahan besar

NVIDIA menggabungkan runtime perangkat lunak yang menerapkan izin yang dideklarasikan di luar proses agen dengan lapisan perangkat keras opsional yang, dalam desain referensinya, memantau agen dari domain kepercayaan terpisah. Perangkat lunak dapat membatasi akses berkas, hak istimewa proses, dan permintaan keluar bahkan ketika agen menjalankan shell atau kode yang dihasilkan. Lapisan perangkat keras dimaksudkan untuk memisahkan pemantauan dan penegakan kebijakan dari host yang menjalankan agen. Ini memberi operator batas yang lebih konkret daripada sekadar instruksi kepada model, asalkan kebijakannya dikonfigurasi dengan benar. Hal itu tidak membuktikan bahwa sistem gabungan ini mencegah setiap tindakan yang tidak aman.

Yang dikendalikan OpenShell

Panduan teknis OpenShell 0.1.0 dari NVIDIA menjelaskan gateway yang mengelola sandbox dan kebijakannya, supervisor di luar setiap beban kerja agen yang memeriksa permintaan keluar, serta sandbox dengan kontrol kernel atas berkas dan proses. Lalu lintas jaringan melewati supervisor. Untuk lalu lintas HTTP, GraphQL, dan Model Context Protocol yang dikonfigurasi, kebijakan dapat membedakan permintaan baca yang diizinkan dari permintaan tulis yang diblokir pada layanan yang sama. NVIDIA menyebut keputusan itu dapat dicatat dalam jejak audit OCSF.

Kebijakan ditulis dalam YAML. Demonstrasi yang didokumentasikan di panduan dimulai dengan sandbox tanpa akses jaringan keluar, lalu menerapkan kebijakan pengganti yang mengizinkan curl untuk membaca API REST GitHub sambil memblokir metode POST. Itu prosedur yang didokumentasikan vendor, bukan pengujian BIG CHANGE. NVIDIA juga mendokumentasikan penasihat kebijakan yang dapat digunakan agen untuk mengusulkan akses tambahan. Secara bawaan, manusia harus menyetujuinya; agen tidak dapat menyetujui usulannya sendiri. Kebijakan jaringan dapat berubah saat sandbox berjalan, sedangkan perubahan pembatasan berkas atau proses memerlukan sandbox baru.

Panduan itu menyebut pembukti kebijakan memeriksa izin yang dimodelkan terhadap batas yang ditentukan operator dan dapat menunjukkan tindakan yang melampauinya. Hasilnya bergantung pada model kebijakan dan batas yang dipilih; hasil itu tidak membuktikan agen itu sendiri aman. NVIDIA melaporkan eksperimen adversarial yang melibatkan agen yang berupaya mendapatkan izin untuk menulis ke repositori terlindungi. Hasil yang dilaporkan perusahaan itu tidak mengukur kinerja dunia nyata seluruh platform.

Tambahan dari Sentry

NVIDIA menjelaskan Sentry sebagai pengawas opsional pada DPU BlueField-4. Dalam desain referensi, perangkat lunak DOCA NVIDIA menghubungkan domain perangkat keras terpisah dengan kebijakan OpenShell, dengan mengaitkan interaksi agen, keputusan kebijakan, serta akses alat atau data. NVIDIA mengatakan posisi ini dapat mendukung pemeriksaan identitas, deteksi, dan intervensi bahkan jika perangkat lunak host dibobol. Klaim karantina dalam hitungan milidetik muncul dalam rilis peluncuran, tanpa metode pengujian atau hasil independen yang dipublikasikan dalam sumber yang kami tinjau.

Halaman produk secara eksplisit menyatakan OpenShell berjalan di infrastruktur lokal, on-premises, cloud, dan Kubernetes yang didukung tanpa BlueField-4. BlueField-4 relevan untuk desain Sentry tambahan. NVIDIA menyebut lebih dari 100 organisasi bekerja dengan teknologi platformnya dan mencantumkan integrasi atau kolaborasi pada tahap yang berbeda-beda. Partisipasi itu tidak menunjukkan bahwa Sentry telah diterapkan di seluruh organisasi tersebut atau bahwa kontrolnya telah menghentikan insiden.

Akses dan batasan bagi tim yang mengevaluasinya

Repositori OpenShell terbuka untuk publik di bawah lisensi Apache 2.0. Panduan NVIDIA tanggal 28 September berfokus pada versi 0.1.0; halaman rilis mencantumkan v0.1.2 pada 28 September saat kami memeriksanya, sehingga tim sebaiknya menetapkan versi tertentu dan menggunakan dokumentasi yang cocok. Panduan instalasi menjelaskan pemasangan CLI dan gateway lokal serta pemilihan runtime yang didukung. Matriks dukungan mencantumkan runtime Docker, Podman, Kubernetes, dan MicroVM beserta persyaratan host; Windows melalui WSL 2 dengan Docker Desktop diberi status eksperimental. Menjalankan agen AI juga dapat memerlukan kredensial dari penyedia model terkait.

Dalam sumber ini tidak ada biaya lisensi OpenShell yang dipublikasikan. Namun, komputasi, API model, dan penerapan enterprise tetap dapat menimbulkan biaya. Materi NVIDIA yang ditinjau tidak mencantumkan harga Sentry, harga sistem BlueField-4, atau jalur instalasi Sentry untuk publik. Tim memerlukan rincian tersebut, beserta persyaratan penerapan dan cakupan pemantauan, sebelum mengevaluasi desain perangkat keras ini sebagai kontrol yang dapat dibeli.

Sumber & bacaan lebih lanjut