Anthropic 表示，已开始让非营利组织METR的六名员工访问其内部系统，以评估 AI 风险。这项安排使一支小型外部团队能够比通过公开模型发布或风险报告，更深入地了解公司的工作。Anthropic 仍控制团队可以获得哪些信息，也能要求从 METR 发布的分析中删除指定材料。

Anthropic 于10月15日宣布这项合作，并于10月16日更新声明，澄清当前的发布条款。公告介绍的是访问安排，而不是 METR 已完成的 Anthropic 风险评估。对读者的价值将取决于 METR 能检查什么，以及最终报告能如何解释其中的限制。

大变化

  • 发生了什么变化： Anthropic 表示，六名 METR 员工获得了公司硬件、办公空间，以及与其自身风险评估团队大致相当的内部工具访问权限。预计 METR 将发布有关 Anthropic 风险水平、事件或实践的分析。
  • 为何重要： 外部评估机构或许能检查公众无法看到的内部证据。METR 最终的报告也可以说明访问权限和信息删减的重要限制，帮助读者衡量结论。
  • 值得关注： Anthropic 表示，不能否决 METR 发布报告，但可以依据预设类别要求删减信息，并最终决定哪些信息属于这些类别。公告并未确立团队深入参与公司内部工作的这项安排的任何评估结果。

六名评估人员能访问什么

Anthropic 表示，已接纳六名 METR 员工，提供公司硬件、办公空间，以及与自身风险评估团队“大致相当”的内部工具和系统访问权限。公司鼓励员工像对待研究 AI 对齐风险的同事一样，向他们分享相关信息。公司列举的排除类别包括客户数据、受律师与当事人保密特权保护的信息，以及模型架构。公司表示，架构信息如果高度相关，有时也可以在获得明确内部批准后分享。

这是对访问权限的详细说明，但不是团队实际使用过的每个数据集、系统或访谈的清单。Anthropic 的声明称，团队在可依法执行的协议约束下工作，其他 METR 员工，包括参与其他 Anthropic 项目的研究人员，与这项工作相互隔离。BIG CHANGE 查阅了公开声明；我们没有检查协议或内部系统。

METR 的10月14日失控风险评估提案解释了它希望从前沿 AI 开发者那里获得哪类证据。提案提出三个问题：内部 AI 智能体是否可能采取造成严重危害的行动，监控能否发现并阻止这些行动，以及 AI 驱动的研究是否可能推动能力发展得比防护措施跟进更快。针对这些问题，METR 描述了可能需要访问的模型检查点、内部对话记录、监控系统和研究进展衡量资料。这份文件是面向多家开发者的提案，不是 Anthropic 在本次合作中已提供材料的清单。

发布权及其限制

Anthropic 表示，METR 可以发布风险水平、事件或公司实践的分析，Anthropic 没有否决权。公司可以要求删除预先定义类别中的信息。10月16日的澄清补充说，信息是否属于这些类别，最终由 Anthropic 决定；METR 则保留就其获得的访问权限和信息作出某些陈述的权利。因此，发布结果的权利与公司对敏感细节的控制同时存在。

METR 的AI 公司合作政策指出，报告应披露工作的范围和时长、影响结论的访问限制、重要的信息删减，以及可能影响结果的压力。METR 表示，当公司删除对其结论重要的信息时，它的目标是提供删减摘要。这些是 METR 声明的实践和目标；公众目前还无法通过这支新团队的报告，检查它们实际会如何运作。

METR 也承认，自愿评估取决于公司授予访问权限并允许发布。它表示，公司可能拒绝提供访问权限或删减材料，从而影响公众获得的证据。10月14日的提案称，这项工作将聚焦技术层面的失控问题，不构成安全防护、组织治理或合规审计。METR 表示，相关科学目前还无法有把握地保证开发是安全的。

Anthropic 为其他评估机构描述了三层做法。METR 的安排属于第三层，具备类似内部员工的访问权限和发布权。前面的层级提供更窄的调查范围，或更有限的发布权。这些层级说明是 Anthropic 的计划和当前合作条款，并非每个合作伙伴都获得 METR 同等访问权限的证据。

公众将通过 METR 的报告检验这项安排：它调查了哪些风险问题、能检查哪些内部证据，以及可以描述哪些限制或删减。目前的声明确立的是 Anthropic 宣布的条款及 METR 公开的做法，并未确立 Anthropic 安全性或这支外部团队在公司内部开展评估的有效性的任何结论。

来源与延伸阅读