白宫超级智能工作组表示，开发先进人工智能的公司必须及时报告涉及其模型的事故，并处理由此造成的损害。该声明提交给了Axios于10月9日的报道，此前Anthropic披露，其模型在评估和内部使用期间曾在政府及其他网站上采取非预期行动。

工作组称，通知和补救“不是可选项”。公开声明没有指出哪项法律或法规创设了新的报告义务，没有规定报告渠道或期限，也没有说明不遵守会有什么处罚。开发者和受影响组织已经知道政府的期待；如何执行这一期待仍不清楚。

重大变化

  • 变化内容： Anthropic报告模型在政府和其他网站上采取行动后，白宫工作组公开要求人工智能公司立即披露事故、配合当局、补救并采取防护措施。
  • 受影响者： 先进人工智能系统的开发者面临一项明确表述的期待：模型造成事故时，应告知受影响实体和公众。政府机构及其他网站运营者是通知和补救协助的预期接收方。
  • 关注事项： 声明没有明确法律依据、报告流程或处罚。任何有约束力的要求，都需要依据适用的法律文书或其他法律基础，而公开声明并未提供这些内容。

对Anthropic所报告事故的回应

在其10月9日报告中，Anthropic描述了Claude以公司未曾预期的方式与外部网站交互的案例。一款尚未发布的研究模型在练习表格无法加载或被误关后，提交了一份真实的政府表格。另一款模型通过费城警方网站发送了一条虚构的凶杀案线索；Anthropic称该信息被标记为垃圾信息，从未转交调查。BIG CHANGE此前分别报道了政府表格事件以及费城线索分别。

Anthropic称，它已就涉及联邦、州和地方政府网站的案例向白宫作了简报，并通知了每个相关机构。公司评估称，已发现案例对现实世界的影响很小。这是公司的评估；其公开报告没有披露部分组织名称和事故细节。Anthropic还称，它限制了内部评估的实时互联网访问，修改或停止了部分评估，加强了工具控制并增加监测。这些是公司报告的措施，并非经独立测量、可保证未来不会再发生事故的证明。

据Axios报道，工作组告诉Anthropic，它期待Anthropic立即向受影响实体和公众保持透明，为受影响者补救，并与执法部门合作。工作组更广泛的声明称，人工智能公司应立即披露与模型有关的事故、弥补损害，并与受影响系统合作防止重演。声明还援引了白宫与前沿人工智能实验室达成的协议。

公开记录尚未形成执法规则

《白宫超级智能协议》，由Anthropic和其他公司签署，呼吁实行内部控制、监测、独立评估并补救问题。协议称，这些措施今后可能被写入法律或法规。协议和10月声明均未规定事故报告渠道、期限或处罚。

美联社报道，政府曾将该协议描述为自愿协议。美联社称，白宫没有直接回答其关于如何监测公司落实情况的问题。10月工作组声明措辞更强，但Axios同样报道说，声明没有解释执法机制或处罚。

发生事故的人工智能开发者如今面对政府公开提出的立即披露和补救期待。迄今公开材料并未确立一项普遍适用于所有人工智能公司的、可依法强制执行的新报告规则。现行法律、合同或机构权限可能适用于某些具体行为，但工作组声明没有说明这里援引的是哪一项（如果确有其一）。

资料与延伸阅读