NVIDIA объявила 13 октября о пожертвовании доступа к вычислительным ресурсам на пять лет для исследований безопасности ИИ-агентов в Великобритании. Компания оценивает это обязательство в $250 млн, или в $50 млн доступа ежегодно. Эти суммы отражают оценку будущих вычислительных ресурсов самой компанией, а не денежный грант и не мощности, уже полученные исследователями.

Согласно объявлению, большая часть обязательства предназначена более широкому британскому сообществу исследователей безопасности. Часть планируется направить на работу с British Open-Ended Learning and Discovery Lab (BOLD) под руководством Оксфордского университета, Science of Fundamental AI Research Lab (SOFAIR) под руководством UCL и Империал-колледжем Лондона. NVIDIA не уточнила распределение средств между этими тремя организациями и не сообщила, как смогут подать заявку другие исследователи.

Что изменилось

  • Что нового: NVIDIA обязалась в течение пяти лет финансировать доступ к вычислительным ресурсам, размещённым в Великобритании, для исследований безопасности агентов; заявленная стоимость — $250 млн.
  • Почему это важно: Вычислительные ресурсы необходимы для разработки и оценки систем ИИ. Предлагаемое распределение охватывает не только три названных исследовательских партнёра, но объём для отдельных команд пока не определён.
  • За чем следить: NVIDIA сообщила, что ещё предстоит договориться с британскими облачными партнёрами, о технической архитектуре и коммерческих условиях. В объявлении не указано, когда начнётся доступ, как исследователи смогут его получить и какие результаты по безопасности даст работа.

Куда планируется направить вычислительные ресурсы

NVIDIA говорит, что британские NVIDIA Cloud Partners предоставят доступ через инфраструктуру, размещённую в стране. Названные исследовательские программы занимаются разными вопросами: BOLD изучает системы, которые учатся и адаптируются вместе с людьми; SOFAIR исследует архитектуры ИИ с открытым исходным кодом и более доступные способы разработки; работа Империал-колледжа будет включать инженерию безопасности и робототехнику. В релизе описаны планы по исследованиям безопасных агентов, безопасности открытых моделей и снижению реальных угроз, включая изолированные среды, воспроизводимые исследования и оценочные тесты. Это планы, а не опубликованные результаты.

Распределение ресурсов не менее важно, чем крупная сумма. NVIDIA утверждает, что большая часть обязательства предназначена широкому исследовательскому сообществу, но не распределяет оценённые в $50 млн годовых ресурсов между этим сообществом и названными программами. Компания не указывает число GPU, лимит вычислительных часов, основу ценообразования или критерии допуска. Выбор облачного провайдера, техническая архитектура и коммерческие условия также остаются открытыми. Поэтому лаборатория не может вывести из суммы в долларах доступную ей квоту, конфигурацию оборудования или дату начала.

NVIDIA упоминает среду выполнения OpenShell и эталонный дизайн Sentry как технологии, которые могут использоваться в части исследований. BIG CHANGE ранее рассказывала об этой платформе безопасности агентов после её анонса NVIDIA в сентябре. Обязательство для Великобритании касается исследовательских мощностей и перспективных проектов; это отдельное событие от запуска программного и аппаратного дизайна. В октябрьском объявлении не говорится, что каждый получатель обязан пользоваться этими инструментами.

Отдельная работа правительства Великобритании

12 октября правительство Великобритании объявило о работе по вопросам риска ИИ и национальной безопасности. Оно сообщило, что AI Security Institute оценивает передовые модели, а институт и National Cyber Security Centre изучают меры реагирования на серьёзные инциденты с автономными агентами. Правительство также описало пилотные проекты киберзащиты и возможную отчётность об инцидентах и опасных ситуациях с ИИ. Это правительственная программа; ни одно из двух объявлений не связывает её с финансированием или предоставлением вычислительных ресурсов NVIDIA.

Исследователям нужны практические сведения: названия облачных провайдеров, процедура распределения и критерии допуска, аппаратная и программная среда, а также условия использования предоставленного доступа. Тем, кто оценивает заявление о безопасности, опубликованные методы и результаты будут важнее объявленной оценки. NVIDIA описала планируемые исследования, но независимых данных о предоставлении ресурсов или эффективности пока нет. BIG CHANGE не использовала вычислительные ресурсы и не тестировала предлагаемые системы безопасности.

Источники и дополнительное чтение