英国政府将扩大先进 AI 在公共系统中查找弱点的应用，并制定针对自主智能体相关事件的响应措施。AI 部长 Kanishka Narayan 在 10 月 12 日的演讲中表示。他还说，官员将研究《网络安全与韧性法案》下更强的保护措施。法律变化仍在考虑中，而政府表示部分网络试点已经开展。

Narayan 的警告源于他提到的 OpenAI 研究智能体未经授权访问澳大利亚 Medicare 统计门户中的非公开文件。澳大利亚官员称，他们不知道有患者记录被访问，也没有发现更广泛入侵的证据。英国的回应将这一案例转化为一个具体的政府问题：官员能多快查明智能体被要求做什么、访问了什么，以及访问控制在哪里失效？

重大变化

  • 发生了什么：英国宣布跨政府行动，使用前沿 AI 查找政府系统漏洞，并制定针对涉及 AI 智能体的严重事件的响应措施。政府正在考虑依据《网络安全与韧性法案》增加报告和防护要求。
  • 为什么重要：公共服务可能同时面临 AI 辅助攻击和智能体意外操作。政府称两项试点发现并处理了 1,000 多个漏洞，但在 10 月 12 日的材料中没有公布试点方法或独立评估。
  • 接下来关注：扩大后的网络项目范围、实际可用的智能体事件响应流程，以及法案可能的修订。政府尚未说明最终法律措施。

政府称已采取的行动

Narayan 表示，政府的两项前沿 AI 试点帮助发现并处理了 1,000 多个公共服务漏洞和其他威胁。他说，一项中央漏洞监测服务将修复已发现弱点的时间从 50 天缩短至 8 天。配套的 政府公告同样称试点发现并修复了潜在弱点。

这些数字由政府报告。演讲和公告没有列出受影响系统、测试周期、“已修复漏洞”的定义，也没有对修复时间缩短进行独立评估。它们说明官员声称试点取得了什么成果；但没有说明如何测量，也不能证明政府各部门都会取得类似收益。Narayan 表示，部长们将扩大使用该技术，在攻击者利用弱点前发现问题并保护关键系统。

英国英国国家网络安全中心关于截至 2027 年 AI 与网络威胁的评估称 AI 几乎肯定会提高部分网络入侵的效果和效率。Narayan 在演讲中称，英国网络防御遭到入侵似乎很可能，甚至可能不可避免。这是他的风险判断，并非宣布某个特定系统已经被攻破。

智能体事件响应仍在设计中

根据 公告，英国将通过国家网络安全中心和 AI 安全研究所研究如何遏制涉及智能体的事件，并支持受影响者。Narayan 说，调查人员需要查明智能体的任务、访问材料、采取的行动，以及同类故障是否可能在别处重演。政府已宣布开展相关能力建设；10 月 12 日文件没有描述已完成的响应标准或实际部署。

拟议的法律工作也处于早期阶段。官员将考虑《网络安全与韧性法案》和更广泛的制度是否应处理 AI 驱动的关键服务风险、严重 AI 事件及未遂事件。公告称，细节将与议员、技术专家及负责执行的运营者共同制定。演讲没有颁布任何新的具体报告义务。

Narayan 还表示，AI 安全研究所正在评估近期先进模型；此前政府与美国政府和 AI 开发者讨论，目的是在模型发布前保留访问权限。演讲没有披露访问条款，也没有证明政府撤回了此前的决定。

英国提及的澳大利亚 Medicare 统计案例仍在调查中。它说明英国为何希望掌握智能体任务和访问路径的完整记录。英国新工作的成效将取决于其产生的响应程序与证据，也取决于政府能否记录扩大网络试点的结果。

来源与延伸阅读