NVIDIA は10月13日に 英国でのAIエージェントの安全性とセキュリティに関する研究向けに、5年間の計算資源アクセスを寄付すると発表した。同社はこの約束を2億5,000万ドル、つまり年間5,000万ドル相当のアクセスと評価している。これらは将来の計算資源に対する同社の評価であり、現金助成や研究者がすでに受け取った計算能力ではない。

発表によると、約束の大半は英国のより広い安全性研究コミュニティに提供される。一部は、オックスフォード大学主導のBritish Open-Ended Learning and Discovery Lab（BOLD）、UCL主導のScience of Fundamental AI Research Lab（SOFAIR）、Imperial College Londonとの研究に充てる予定だ。NVIDIAは3機関間の配分や、他の研究者が申請する方法を明らかにしていない。

主な変化

  • 何が変わったか： NVIDIAは、英国でホストされる計算資源へのアクセスを5年間提供し、エージェントの安全性・セキュリティ研究を支援する。発表された評価額は2億5,000万ドル。
  • 重要な理由： 計算資源はAIシステムの開発と評価に欠かせない。提案された配分は3つの研究パートナー以外にも及ぶが、各チームが利用できる量は未指定だ。
  • 今後の注目点： NVIDIAによると、英国のクラウドパートナー、技術アーキテクチャ、商業条件は今後合意する必要がある。アクセス開始時期、研究者の利用方法、研究が生む安全性の成果は発表されていない。

計算資源の提供先として想定される分野

NVIDIAによると、英国を拠点とするNVIDIA Cloud Partnersが国内ホストのインフラを通じてアクセスを提供する。名前の挙がった研究プログラムは異なる問いに取り組む。BOLDは人とともに学習・適応するシステムを研究し、SOFAIRはオープンソースAIアーキテクチャーとより利用しやすい開発を探究する。Imperialの研究には安全工学とロボティクスが含まれる。発表は、安全なエージェント、オープンモデルのセキュリティ、現実の脅威の緩和に関する研究計画を説明し、サンドボックス、再現可能な研究、評価ベンチマークにも触れている。いずれも研究計画であり、報告済みの成果ではない。

資源の配分は大きな総額と同じくらい重要だ。NVIDIAは約束の大半を幅広い研究コミュニティ向けとする一方、年間5,000万ドル相当のアクセスをそのコミュニティと名前の挙がったプログラムにどう分けるか示していない。GPUの台数、計算時間の割当、価格の算定根拠、適格基準も公表していない。クラウド事業者の選定、技術アーキテクチャー、商業条件も未確定だ。そのため研究機関は、金額だけから利用可能な割当量、ハードウェア構成、開始日を推測できない。

NVIDIAは、OpenShellランタイムとSentryリファレンス設計を、一部の研究で利用できる技術として挙げている。BIG CHANGE は以前、このエージェント安全プラットフォームを取り上げた のはNVIDIAが9月に発表した際だった。英国向けの約束は研究能力と予定プロジェクトに関するもので、ソフトウェア・ハードウェア設計の発表とは別の動きだ。10月の発表は、すべての受領者がこれらのツールを使う必要があるとは述べていない。

英国政府による別の取り組み

10月12日、英国政府は AIリスクと国家安全保障に関する取り組みを発表した。AI Security Instituteが先進モデルを評価しており、同研究所とNational Cyber Security Centreは自律エージェントが関係する重大事案への対応を研究しているという。政府はサイバー防衛の試験運用と、AI関連のインシデントや重大化を免れた事案の報告制度案も説明した。これは政府のプログラムであり、どちらの発表もNVIDIAの計算資源の資金提供対象や提供経路とは位置付けていない。

研究者にとって次に必要な情報は実務的なものだ。具体的なクラウド事業者、配分・適格性の手続き、ハードウェアとソフトウェアの環境、寄付されたアクセスの利用条件が必要になる。安全性の主張を評価する人にとっては、発表された評価額より公開された手法と結果が重要だ。NVIDIAは予定する研究を説明したが、提供や有効性について独立に確認された結果はまだない。BIG CHANGEは計算資源を使っておらず、提案された安全システムもテストしていない。

出典と関連資料