參議員 Bernie Sanders 與眾議員 Greg Casar於 9 月 23 日表示他們已提出《禁止人工超級智慧法案》。他們的19 頁公開法案文本將禁止人工超級智慧，在新設聯邦部門制定安全規則期間暫停特定先進模型的開發，並規定這些模型提供給使用者前須先獲批准。這仍是立法提案，其中任何限制目前都尚未生效。

核心變化

  • 有哪些改變：Sanders 與 Casar 從9 月 3 日宣布計畫提出法案，進展至 9 月 23 日宣布已正式提出，並公開法案文本，詳列擬議定義與執行權限。
  • 為何重要：提案範圍不只涵蓋尚未明確界定的未來超級智慧。如果國會通過法案，具列明前驅能力的系統，以及訓練運算量超過特定門檻的模型，也可能受到影響，甚至早於任何系統符合該法案對超級智慧的定義。
  • 後續觀察重點：國會必須先審議並通過法案，才會對開發者產生義務。公開文本中的參議院法案編號欄仍空白；正式編號的國會紀錄及任何修訂文本，將有助確認法案接下來的正式進程。

文本中的兩種不同限制

草案提出的暫時暫停措施適用於「先進人工智慧系統」；法案將其定義為訓練時至少使用 10²⁵ 次整數或浮點運算的系統。未來成立之部門的部長須每年依訓練效率提升情形調整此門檻。自法案生效起，直到該部門人員到位並發布安全規則前，除移除遭禁止的特徵或停用系統外，不得訓練、修改或微調此類系統。在此期間，也不得部署尚未發布的先進系統。解除暫停所需的規則將包括開發計畫報告、評估、安全作業稽核，以及公開發布前的最終核准。

草案提出的禁令採用不同的判準。禁令涵蓋在多數領域的認知表現超越人類，或具備足以規劃並執行毀滅或剝奪人類自主權之行動能力的系統。第 9 條也禁止展現任何列明「超級智慧前驅特徵」的系統。清單包括大幅加速 AI 研究、未經授權存取受保護基礎設施、在遭要求關閉後仍持續運作、協助武器研發、自我修改，以及規避人類監督。文本沒有將 10²⁵ 次運算門檻套用到這項獨立的前驅能力禁令。第 9(b) 條也禁止部署、發布、移轉或輸入可預見會被修改成符合上述任一類別的系統。未來監管機關須判斷這些能力描述如何適用於個別系統；法案沒有提供可直接決定此類判斷的基準分數。

草案將設立內閣層級的人工智慧部，並要求開發或散布先進模型的組織取得特許。草案賦予該部門檢查與部署前核准權。對公司決策者或非附屬個人涉及的特定重大疏失違規，草案規定罰款及最高 20 年有期徒刑；也授權撤銷特許，並在完成指定審查後，沒收與違規相關的資產及智慧財產權。這些都是擬議的處罰，並非現行制裁。

範圍爭議

在《All-In》第 290 集約 53 分鐘處的 AI 政策討論中，與談者主張，這項法案可能凍結美國 AI 發展，並迫使企業遷往海外。這是他們對可能影響的評估。文本並未因某產品屬於 AI 就禁止所有現有 AI 產品；它為暫停措施訂出訓練門檻，並為範圍較廣的禁令訂出能力判準。這些能力判準仍會帶來重大影響，因為擬議的前驅能力清單不受該訓練門檻限制。

AI 研究者Gary Marcus在 9 月 3 日宣布計畫後，從不同角度提出批評。他支持設立 AI 監管機關，也認為暫時暫停措施可能有其合理性，但主張永久的單邊禁令及不確定的能力判斷超出必要範圍。他的回應早於 9 月 23 日法案提出，因此應視為對已公布提案方向的批評，而非對後來公開文本逐條審閱後的意見。

Sanders 與 Casar 表示，禁令可降低災難性風險，且國際協議與出口管制應避免危險開發轉移至其他地區。美聯社報導記錄了 Sanders 主張放慢開發的理由，以及單邊美國限制可能無法阻止其他地區繼續開發的疑慮。無論提案者的安全主張或與談者對經濟影響的預測，都不能證明法案若成法將帶來什麼結果。第一項實際考驗在立法程序：國會是否處理這項提案，以及如何處理範圍異常廣泛的前驅能力條文。

資料來源與延伸閱讀