NVIDIA je 13. oktobra objavila donaciju petogodišnjeg pristupa računarskim resursima za istraživanja bezbednosti i sigurnosti AI agenata u UK. Kompanija procenjuje ovu obavezu na 250 miliona dolara, odnosno pristup vredan 50 miliona dolara godišnje. Ti iznosi predstavljaju procenu budućeg pristupa računarskim resursima koju je dala kompanija, a ne novčani grant niti kapacitet koji su istraživači već dobili.

Prema objavi, najveći deo obaveze namenjen je široj zajednici za istraživanje bezbednosti u UK. Deo je predviđen za rad sa British Open-Ended Learning and Discovery Lab (BOLD), koji vodi Univerzitet u Oksfordu, Science of Fundamental AI Research Lab (SOFAIR), koji vodi UCL, i Imperial College London. NVIDIA nije navela raspodelu između te tri ustanove niti način na koji bi drugi istraživači mogli da se prijave.

Šta se menja

  • Šta se promenilo: NVIDIA se obavezala da će tokom pet godina finansirati pristup računarskim resursima hostovanim u UK za istraživanja bezbednosti AI agenata, u navedenoj vrednosti od 250 miliona dolara.
  • Zašto je važno: Računarski resursi su važan ulaz za razvoj i procenu AI sistema. Predložena raspodela obuhvata i druge istraživače, ne samo tri imenovana partnera, ali količina dostupna pojedinačnim timovima nije navedena.
  • Šta treba pratiti: NVIDIA navodi da tek treba da se dogovore britanski cloud partneri, tehnička arhitektura i komercijalni uslovi. Objava ne navodi kada pristup počinje, kako ga istraživači mogu dobiti niti kakve će rezultate u oblasti bezbednosti istraživanje proizvesti.

Za šta bi računarski resursi trebalo da se koriste

Prema NVIDIA-i, NVIDIA Cloud Partners sa sedištem u UK obezbediće pristup kroz infrastrukturu hostovanu u zemlji. Pomenuti programi bave se različitim pitanjima: BOLD proučava sisteme koji uče i prilagođavaju se zajedno sa ljudima; SOFAIR istražuje arhitekture veštačke inteligencije otvorenog koda i pristupačniji razvoj; rad Imperiala obuhvatiće i bezbednosno inženjerstvo i robotiku. Saopštenje opisuje planirana istraživanja bezbednih agenata, bezbednosti otvorenih modela i ublažavanja stvarnih pretnji, uključujući sandbox okruženja, ponovljiva istraživanja i merila za procenu. To su istraživački planovi, a ne objavljeni rezultati.

Raspodela je jednako važna kao i istaknuti ukupni iznos. NVIDIA kaže da je najveći deo obaveze namenjen široj istraživačkoj zajednici, ali ne deli pristup procenjen na 50 miliona dolara godišnje između te zajednice i imenovanih programa. Nisu navedeni broj GPU-ova, obim računarskih sati, osnova za određivanje cene ni kriterijumi za pristup. Izbor cloud pružaoca, tehnička arhitektura i komercijalni uslovi takođe su otvoreni. Zato laboratorija iz iznosa u dolarima ne može da zaključi koliki će joj upotrebljiv kapacitet pripasti, koju će hardversku konfiguraciju dobiti ili kada će pristup početi.

NVIDIA navodi svoje OpenShell okruženje za izvršavanje i referentni dizajn Sentry kao tehnologije koje bi mogle biti korišćene u delu istraživanja. BIG CHANGE je već pisao o ovoj platformi za bezbednost agenata kada ju je NVIDIA najavila u septembru. Britanska obaveza odnosi se na istraživačke resurse i planirane projekte; to je odvojeno od predstavljanja softverskog i hardverskog dizajna. Oktobarska objava ne kaže da će svi korisnici morati da upotrebljavaju te alate.

Odvojen program britanske vlade

Britanska vlada je 12. oktobra najavila rad na rizicima veštačke inteligencije i nacionalnoj bezbednosti. Navela je da AI Security Institute procenjuje napredne modele, dok Institut i National Cyber Security Centre proučavaju odgovore na ozbiljne incidente koji uključuju autonomne agente. Vlada je opisala i pilot-projekte sajber-odbrane i moguće prijavljivanje incidenata i zamalo izbegnutih incidenata povezanih sa AI. Reč je o vladinom programu; nijedna od dve objave ne predstavlja ga kao finansiranu komponentu ili način isporuke NVIDIA-ine obaveze u računarskim resursima.

Istraživačima su sledeće potrebne praktične informacije: imenovani cloud pružaoci, postupak raspodele i uslovi podobnosti, hardversko i softversko okruženje i uslovi korišćenja doniranog pristupa. Za procenu tvrdnje o bezbednosti važniji će biti objavljeni metodi i rezultati od najavljene vrednosti. NVIDIA je opisala planirana istraživanja, ali još nema nezavisno potvrđenih podataka o isporuci ili delotvornosti. BIG CHANGE nije koristio te računarske resurse niti testirao predložene bezbednosne sisteme.

Izvori i dodatna literatura