参议员 Bernie Sanders 和众议员 Greg Casar于 9 月 23 日表示，他们已提出《禁止人工超级智能法案》。他们的已公布的 19 页法案文本将禁止人工超级智能，要求在新设联邦部门制定安全规则期间暂停开发某些先进模型，并规定此类模型在向用户开放前须获批准。这是一项立法提案，其中没有任何限制已经生效。

主要变化

  • 发生了什么变化：桑德斯和卡萨尔从 9 月 3 日宣布计划提出立法的阶段推进到 9 月 23 日宣布法案已提交的阶段，同时公布了详细阐述拟议定义和执法权限的文本。
  • 为何重要：该提案的范围不止于尚未定义的未来超级智能。它还会禁止具备列明前兆能力的系统，并临时暂停训练计算量超过特定门槛的模型。如果国会通过该文本，这些条款可能在任何系统达到法案对超级智能的定义之前，就影响模型开发者。
  • 接下来关注什么：在法案能够对开发者设定义务前，国会必须推进并通过该措施。公开文本中的参议院法案编号栏仍为空白；有编号的国会记录及任何修订文本将进一步说明其正式进程。

文本中两种不同的限制

拟议的临时暂停措施适用于“先进人工智能系统”，定义为训练计算量至少达到 10²⁵ 次整数或浮点运算的系统。未来部门的部长每年须根据训练效率的提升调整这一门槛。从法案生效到该部门人员全部到位并发布安全规则期间，除为移除禁止特征或停用此类系统外，不得训练、修改或微调这些系统；期间不得部署尚未发布的先进系统。结束暂停所需的规则将包括开发计划报告、评估、安全实践审计，以及向公众发布前的最终审批。

拟议的禁令采用了不同的测试标准。它涵盖在大多数领域超越人类认知表现的系统，或具有足够能力策划并实施人类毁灭或剥夺人类自主权的系统。第 9 条还禁止表现出任何列明“超级智能前兆特征”的系统。清单包括大幅加速 AI 研究、未经授权访问受保护基础设施、在有人尝试关机后继续运行、协助武器开发、自我修改，以及规避人类监督。对于这项独立的前兆能力禁令，文本没有采用 10²⁵ 次运算的门槛。第 9(b) 条还禁止部署、发布、转让或进口可预见会被修改以产生上述任一类系统的系统。未来监管机构须判断这些能力描述如何适用于具体系统；法案没有提供可用来直接裁定这些判断的基准测试分数。

草案将设立内阁级别的人工智能部，并要求开发或分发先进模型的机构取得特许许可。草案将赋予该部门检查权和部署前审批权。对于公司政策制定者或非公司关联个人实施的某些鲁莽违规行为，草案规定罚款和最高 20 年监禁。草案还规定可吊销特许许可，并在经过指定审查后没收与违规相关的资产和知识产权。这些是拟议的处罚，并非现行制裁。

关于法案范围的争论

在第 290 集约 53 分钟处的 AI 政策讨论中《All-In》中，嘉宾认为该措施可能冻结美国 AI 开发，并迫使公司迁往海外。这是他们对可能影响的评估。文本并未仅因现有 AI 产品属于 AI 就一概禁止；它为临时暂停规定了训练门槛，并为范围更广的禁令规定了能力测试。这些能力测试仍会产生重大影响，因为拟议的前兆特征清单不受该训练门槛限制。

AI 研究人员Gary Marcus在 9 月 3 日宣布计划后，从另一个角度提出批评。他支持设立 AI 监管机构的想法，并称临时暂停可能有合理依据，但认为永久性的单方面禁令和不确定的能力判断走得太远。他的回应早于 9 月 23 日法案提交，因此应视为对已宣布提案的批评，而非对后来公布文本逐条审阅后的意见。

桑德斯和卡萨尔称，禁令将降低灾难性风险；他们还认为，国际协议和出口管制应防止危险开发转移到其他地区。美联社的报道记录了桑德斯关于放缓开发的主张，以及单方面实施美国限制可能无法阻止其他地方继续开发的担忧。无论是发起人提出的安全主张，还是嘉宾对经济后果的预测，都不能证明法案若成为法律会带来什么结果。它的首个实际考验在立法层面：国会是否审议该提案，以及如何处理范围异常广泛的前兆能力条款。

来源与延伸阅读