NVIDIA 于10月13日宣布 捐赠为期五年的英国AI代理安全与安保研究计算资源。公司将这项承诺估值为2.5亿美元，即每年价值5000万美元的资源。这些数字是公司对未来计算资源的估值，并非现金拨款，也不代表研究人员已经收到相应算力。

公告称，大部分承诺将面向更广泛的英国安全与安保研究群体。一部分资源计划用于牛津大学牵头的英国开放式学习与发现实验室（BOLD）、伦敦大学学院牵头的基础AI研究实验室（SOFAIR）以及帝国理工学院的工作。NVIDIA尚未说明这三方各自的分配额度，也未公布其他研究人员的申请渠道。

主要变化

  • 变化内容： NVIDIA承诺在五年内资助英国本地托管的代理安全与安保研究计算资源，标称价值为2.5亿美元。
  • 为何重要： 计算资源是开发和评估AI系统的重要投入。拟议分配范围超出三家指定研究伙伴，但各团队可获得的数量仍未说明。
  • 后续关注： NVIDIA表示，英国云合作伙伴、技术架构和商业条款仍待商定。公告没有说明资源何时开始提供、研究人员如何申请，也没有说明研究将产生哪些安全成果。

计算资源计划流向何处

NVIDIA表示，英国的NVIDIA云合作伙伴将通过托管在英国的基础设施提供访问。公告提到的研究项目关注不同问题：BOLD研究与人共同学习和适应的系统；SOFAIR探索开源AI架构和更易获取的开发方式；帝国理工的工作将涉及安全工程和机器人。公告还介绍了有关安全代理、开放模型安全和现实威胁缓解的研究计划，包括沙箱、可复现研究和评估基准。这些是研究计划，并非已经报告的发现。

资源如何分配与总估值同样重要。NVIDIA称大部分承诺面向更广泛的研究群体，但没有在该群体和指定项目之间分配每年估值5000万美元的资源。公司未给出GPU数量、计算小时额度、定价依据或资格标准。云服务商选择、技术架构和商业条款也尚未确定。因此，实验室不能仅凭美元估值推断可用配额、硬件配置或启动日期。

NVIDIA提到其OpenShell运行时和Sentry参考设计可能用于部分研究。BIG CHANGE 此前报道了该代理安全平台 ，当时NVIDIA于9月宣布了它。英国承诺针对的是研究算力和拟开展的项目，与软件及硬件设计发布属于不同进展。10月公告没有表示所有接收方都必须使用这些工具。

英国政府的另一项工作

10月12日，英国政府 宣布了AI风险和国家安全方面的工作。政府称，AI安全研究所正在评估先进模型，该研究所与国家网络安全中心也在研究应对涉及自主代理的重大事件。政府还介绍了网络防御试点，以及报告AI事件和未遂事件的可能安排。这是政府项目；两份公告都没有表明它是NVIDIA计算资源承诺的资助组成部分或交付渠道。

对研究人员而言，下一步有用的信息包括指定的云服务商、资源分配与资格流程、软硬件环境，以及捐赠算力的使用条款。对于评估安全主张的人来说，公开的方法和结果比公告估值更重要。NVIDIA介绍的是计划开展的研究，目前尚无独立验证的交付情况或效果结果。BIG CHANGE没有使用这些算力，也没有测试拟议的安全系统。

资料与延伸阅读