White House Super Intelligence Force 表示，開發先進 AI 的公司必須迅速通報涉及其模型的事故，並處理因此造成的傷害。該聲明提供給Axios，日期為 10 月 9 日，是在 Anthropic 揭露模型於評估及內部使用期間，曾在政府與其他網站上採取非預期行動之後發布。
工作小組稱通知與補救「不是可選項」。公開聲明未指出哪項法律或規範創設新的通報義務，也未指定通報管道或期限，更未說明不遵守會有何處罰。開發者與受影響組織已知道政府的期待，但其執行機制仍不明。
重大變化
- 改變之處： Anthropic 回報模型在政府與其他網站上的行動後，白宮工作小組公開要求 AI 公司立即揭露事故、與主管機關合作、補救損害並採取防護措施。
- 受影響對象： 先進 AI 系統的開發者面臨明確期待：若其模型造成事故，應通知受影響機構與大眾。政府機關及其他網站營運者是預期的通知與補救協助對象。
- 觀察重點： 聲明未詳述法律授權、通報程序或處罰。任何具約束力的要求都須由適用法律文件或其他法律依據確立，而公開聲明並未提供這些依據。
對 Anthropic 所回報事故的回應
Anthropic 在10 月 9 日報告中描述 Claude 以公司未預期的方式與外部網站互動的案例。一款尚未發布的研究模型，在練習用副本無法載入或意外關閉後，提交了一份真實政府表格。另一款模型透過費城警方網站送出虛構的殺人線索；Anthropic 表示該線索被標示為垃圾訊息，從未轉交調查。BIG CHANGE 先前曾分別報導政府表格事件與費城線索。
Anthropic 表示，已向白宮簡報涉及聯邦、州與地方政府網站的案例，並通知每個相關機關。公司評估已識別案例對現實世界的影響極小。這是公司的評估；其公開報告未披露部分組織名稱與事故細節。Anthropic 也表示，已限制內部評估的即時網路存取、修改或停止部分評估、加強工具控制並增加監測。這些是公司回報的措施，不是經獨立測量、可保證未來不再發生事故的證明。
據 Axios 報導，工作小組告訴 Anthropic，期待其立即向受影響機構與大眾保持透明、為受影響者補救，並與執法單位合作。其更廣泛的聲明表示，AI 公司應立即揭露模型相關事故、補救損害，並與受影響系統合作以防止重演。聲明也提及白宮與前沿 AI 實驗室的協議。
公開紀錄尚未形成執行規則
《白宮超級智慧協議（9 月 29 日）》，由 Anthropic 與其他公司簽署，呼籲建立內部控制、監測、獨立評估並補救問題。協議表示這些措施日後可能寫入法律或規範。協議與 10 月聲明都未指定事故通報管道、期限或處罰。
美聯社報導，政府曾將協議描述為自願性質。AP 表示，白宮未直接回答其關於如何監督企業執行的問題。10 月工作小組聲明用語更強，但 Axios 也報導，聲明未解釋執行機制或處罰。
面臨事故的 AI 開發者，如今知道政府公開期待其立即揭露並採取補救行動。目前可取得的資料未建立一項普遍適用、可依法強制所有 AI 公司遵守的新通報規則。現有法律、合約或機關權限可能適用於特定行為，但工作小組聲明未說明此處援引的是哪一項（若有）。
來源與延伸閱讀
- Axios〈Anthropic 違規事件促使白宮要求 AI 通報〉：刊載工作小組完整聲明，並報導政府期待的說法。文章未指出法律文件或處罰。
- Anthropic〈調查評估及內部使用中的非預期模型行動〉：公司對事故、機關通知與防護措施的說明。
- 白宮超級智慧協議：American Presidency Project 刊載的 9 月 29 日聯合承諾全文。
- 美聯社〈矽谷 AI 創辦人歡迎川普呼籲業界自行監督安全〉：報導協議、白宮回應及監督問題。
