NVIDIA објавила је 13. октобра донацију приступа рачунарским ресурсима током пет година за истраживање безбедности и сигурности AI агената у УК. Компанија процењује обавезу на 250 милиона долара, односно приступ у вредности од 50 милиона долара годишње. То су процене компаније о будућем приступу ресурсима, а не новчани грант нити капацитет који су истраживачи већ добили.

У саопштењу се наводи да је већи део обавезе намењен широј истраживачкој заједници УК за безбедност. Део је предвиђен за рад са British Open-Ended Learning and Discovery Lab (BOLD), који предводи Универзитет у Оксфорду, Science of Fundamental AI Research Lab (SOFAIR), који предводи UCL, и Империјал колеџом у Лондону. NVIDIA није навела износ за било коју од ове три институције нити начин на који би други истраживачи могли да се пријаве.

Шта се променило

  • Шта је ново: NVIDIA се обавезала да током пет година финансира приступ рачунарским ресурсима смештеним у УК за истраживање безбедности агената, уз наведену вредност од 250 милиона долара.
  • Зашто је важно: Рачунарски ресурси су значајан улазни ресурс за развој и процену AI система. Предвиђена расподела обухвата више од три именована истраживачка партнера, али количина доступна појединачним тимовима није наведена.
  • Шта пратити: NVIDIA каже да тек треба договорити UK партнере у облаку, техничку архитектуру и комерцијалне услове. У саопштењу није утврђено када приступ почиње, како га истраживачи добијају ни какве ће безбедносне резултате рад произвести.

Куда би рачунарски ресурси требало да оду

NVIDIA наводи да ће NVIDIA Cloud Partners са седиштем у УК омогућити приступ преко инфраструктуре смештене у земљи. Именовани истраживачки програми баве се различитим питањима: BOLD истражује системе који уче и прилагођавају се заједно са људима; SOFAIR проучава AI архитектуре отвореног кода и приступачнији развој; рад Империјал колеџа обухватиће безбедносно инжењерство и роботику. Саопштење описује планове за истраживање безбедних агената, безбедности отворених модела и ублажавања стварних претњи, укључујући изолована окружења, поновљива истраживања и мерила за процену. То су истраживачки планови, а не објављени налази.

Расподела је подједнако важна као и главна цифра. NVIDIA каже да је већина обавезе намењена широј истраживачкој заједници, али не дели годишњу процењену вредност од 50 милиона долара између те заједнице и именованих програма. Не наводи број GPU јединица, број рачунарских сати, основу за цене нити критеријуме подобности. Ни избор добављача облака, техничка архитектура и комерцијални услови нису решени. Лабораторија зато не може из доларске цифре да закључи који су јој квота, конфигурација хардвера или датум почетка доступни.

NVIDIA помиње своје OpenShell окружење за извршавање и референтни дизајн Sentry као технологије које би могле да се користе у неким истраживањима. BIG CHANGE је већ писао о тој платформи за безбедност агената када ју је NVIDIA најавила у септембру. Обавеза за УК односи се на истраживачке капацитете и будуће пројекте; то је засебан развој од лансирања софтверског и хардверског дизајна. Октобарско саопштење не каже да сваки прималац мора да користи те алате.

Посебан рад владе УК

Влада УК је 12. октобра објавила рад на питањима AI ризика и националне безбедности. Навела је да AI Security Institute процењује напредне моделе, док тај институт и National Cyber Security Centre проучавају одговоре на озбиљне инциденте са аутономним агентима. Влада је описала и пилот-пројекте сајбер-одбране и могуће пријављивање AI инцидената и ситуација које су умало довеле до инцидента. То је владин програм; ниједно саопштење га не представља као финансирани део или начин испоруке NVIDIA-ине обавезе за рачунарске ресурсе.

За истраживаче су следеће корисне информације практичне: именовани добављачи облака, поступак расподеле и услови подобности, хардверско и софтверско окружење и услови коришћења донираног приступа. За оне који процењују тврдњу о безбедности важнији ће бити објављени методи и резултати од најављене вредности. NVIDIA је описала планирано истраживање, без независне потврде испоруке или делотворности до сада. BIG CHANGE није користио ресурсе нити тестирао предложене безбедносне системе.

Извори и додатно читање