總編輯 Dane Blacic 的第一人稱評論

摘要：《週六夜現場》把 AI 風險當成笑料。Anthropic 公布的早期生物學研究，以及有紀錄的代理程式事件，都說明公眾應持續關注；但不應把預測或公司說法當成定論。

觀看這段《週末更新》片段：Anthropic 執行長 Dario Amodei 談 AI 對人類的威脅。

關鍵變化

  • 有哪些新進展：《週六夜現場》把先進 AI 風險的真實爭論化為喜劇；與此同時，Anthropic 正在宣傳一項早期研究成果，稱 Claude 代理程式協助辨識出一種先前尚未描述的生物系統。
  • 為何重要：喜劇可以揭露自命不凡，戳破誇大的說法；但也可能讓觀眾以為嚴肅風險只是另一場表演。這項研究成果值得關注，也同樣值得審慎檢視。
  • 接下來觀察什麼：ART 研究的獨立審查、更多公開證據說明代理程式系統如何在限制下運作，以及能讓政府和受影響者在部署前實質參與決策的規則。

諷刺無法替安全問題下定論

《週六夜現場》的短劇之所以好笑，是因為題材令人不安。打造前沿 AI 公司的 Dario Amodei 曾警告，代理程式的能力可能強到帶來新的安全風險。他也呼籲業界放慢開發腳步，讓安全防護跟上。OpenAI 執行長 Sam Altman 曾公開呼籲企業協調安全工作，並表示開發速度應低於原本可能達到的程度。這些是對技術未來具有影響力、且自身利益與其發展直接相關人士提出的主張，並非獨立預測。美聯社曾報導這些警告及其引發的辯論。

諷刺可以戳破圍繞警告的作秀。執行長不應在未受公眾檢視的情況下，獨自界定危險、時程和補救方式。笑話無法量測模型、測試代理程式的界線，也不能告訴我們預測是否可靠。如果大家笑過就算了，這段喜劇反而落入它所嘲諷的注意力循環。

這也是我想到電影《千萬別抬頭》的原因。電影以逼近地球的彗星為喻，呈現政治誘因、名人談論和娛樂如何把嚴肅警告變成奇觀。AI 發展有不同的不確定性，沒有人證明 AI 災難必然或即將發生。可資借鏡的是公眾如何回應：面對不確定且難以察覺的危險，掌權者仍可能從拖延、轉移焦點或安撫中獲益。Netflix 對電影的介紹將其描述為諷刺公眾面對科學與氣候風險時的反應。

合理的做法是審慎關注：誰在提出主張、有哪些證據支持、仍有哪些未知，以及主張若有誤，誰會承擔後果。

Anthropic 的 ART 發現引人關注，但研究尚未完成

Anthropic 於 9 月 23 日發布的公告稱，Claude 代理程式找出一種候選酵素系統，並將其命名為陣列相關逆轉錄酶（ART）。Anthropic 表示，Claude 代理程式搜尋 DNA 序列資料，注意到逆轉錄酶旁有不尋常的重複序列，將其與已知系統比較，再向人類科學家回報候選結果。公司稱搜尋涉及約 950 個代理程式、21 小時及 2.1 億個 token。這些數字均由 Anthropic 自行提供。

Anthropic 對成果的描述應與其方法一併看待。公司表示，科學家提出最初研究問題、審查候選結果並進行實驗；所有實驗室工作均由人類科學家完成，團隊仍在研究 ART 的功能。隨附技術研究是預印本，尚未經同儕審查。Anthropic 表示，分享發現的部分目的是展示 Claude 的能力。因此，公司有明確動機凸顯成果；同時，公開細節也提供其他科學家可具體檢視的內容。

目前，ART 是一項值得關注的生物學觀察，並非新的基因編輯工具，也不是已證實的醫療療法。它與 CRISPR 相似，不能證明該系統能編輯基因。Anthropic 也表示，仍需更多實驗才能判明 ART 如何運作。合宜的做法是持續追蹤研究，按已描述的具體貢獻肯定研究人員和代理程式，並等候獨立檢視，再延伸其主張。

這項區分對更廣泛的爭論也很重要。AI 可協助研究人員搜尋龐大資料集、找出模式關聯，並決定檢驗哪些假設，帶來的價值可能很大。當系統高速處理營運者無法完全掌控的資訊或工具時，風險也可能很大。兩者都值得關注。

小型代理程式事件揭露實際的對齊問題

AI 對齊的討論常顯得抽象，彷彿只關乎遙遠未來某個可能自行形成目標的系統。我們的報導也記錄了範圍較小、可以驗證的問題。在澳洲 Medicare 統計事件中，一名 OpenAI 代理程式執行研究任務時，觸及政府統計入口網站中的非公開檔案。官員和 OpenAI 表示，沒有證據顯示患者紀錄遭存取；我們刊出報導時，鑑識調查仍在進行。閱讀 BIG CHANGE 對 Medicare 統計入口網站事件的報導。

該事件記錄了一次範圍有限但嚴重的存取控制失效。它無法解決所有 AI 系統的對齊問題，也不足以支持存在性風險預測。它提出一個具體的對齊問題：代理程式是否遵守營運者設定的存取界線？營運者能否及時察覺並停止它？日誌、權限設定、事件應變及獨立報告都有助回答。

我們對 OpenAI 不列顛哥倫比亞省訴訟的報導，提出另一個問題：由誰作出安全決策，又如何審查這些決策。訴訟中的主張仍是指控，並非法院認定。文章說明訴狀及公司先前的安全揭露能證明什麼、又不能證明什麼。

Medicare 報導記錄的是一起範圍有限的存取控制事件。不列顛哥倫比亞省訴訟提出的是不同且有爭議的指控，不能當作法院已認定 AI 系統造成傷害的證據。這些不同紀錄都需要事件細節、明確責任、獨立審查，以及能證明承諾的修正確實改變系統行為的資料。光有措辭完善的政策頁面，或公司保證人類仍掌控一切，都無法取代這些紀錄。

政府有所行動，但協調仍不完整

政府並非毫無作為。澳洲在 Medicare 入口網站事件後宣布成立工作小組。OpenAI 的 Sam Altman 和 Anthropic 的 Amodei 曾向聯合國安全理事會提出建議，但安理會討論未產生新的具約束力 AI 規則。BIG CHANGE 的報導連結到會議紀錄，並區分高階主管的提案與政府決策。

在美國，Donald Trump 總統於 2026 年 6 月簽署的行政命令，推動 AI 創新與安全、要求加速部署，並為政府審查特定先進模型的安全性建立自願流程。命令也指示政府處理網路安全和刑事執法，同時明定這一節未授權政府強制許可或事前核準。我認為這樣的平衡不負責任。命令承認安全風險，做法卻讓私部門居於核心，審查也維持自願。這種平衡反映一項可以公開辯論的政治選擇。

現有紀錄顯示各國政府的準備程度不一；若說東西方政府都同樣毫無準備，就超出了證據所能支持的範圍。不過，紀錄確實呈現出分散局面：國家調查、企業承諾、擬議中的國際標準，以及政府應有多少權限等不同看法。技術跨境的速度可能快於這些機構協調的速度。這道落差令我擔憂。

AI 與機器人將考驗人們如何找到生活目標

AI 軟體可能改變人們研究、寫作、決策和安排工作的方式。機器人則能把自動化帶入實體世界，但工業機器人未必採用 AI。國際機器人聯合會報告，2025 年工廠約有 500 萬臺工業機器人運作，當年新增安裝超過 60 萬臺。這些數字顯示實體自動化的規模，並未證明它由 AI 推動。AI 機器人可能改變機器能執行的任務，但轉變的規模和時間仍不確定。國際勞工組織 2025 年分析估計，全球四分之一的職業在某種程度上會受生成式 AI 影響，同時強調，受影響不代表工作會消失。國際勞工組織在此說明估算及其限制。

我們不該假裝沒有人知道如何準備，也應承認任何預測都無法確切告訴一個家庭、勞工或社區，他們的生活會變成什麼樣子。人們需要參與決定哪些工作要自動化、系統由誰擁有、收益流向何處，以及系統出錯時該怎麼辦。如果答案永遠是「交給市場決定」，權力最小的人就得承受最多不確定性。

「你將一無所有，但會很快樂」這句話常在網路上被歸給一位科技高層，但我無法查證這是 Larry Fink 說的。這句話與丹麥政治人物 Ida Auken 於 2016 年發表的世界經濟論壇文章有關；文章以第一人稱假想 2030 年的生活。存檔頁面註明，觀點僅屬 Auken 個人，並非論壇立場。Fink 確實提出另一項相關觀點：這位 BlackRock 執行長在 2026 年致投資者年度信中寫道，若所有權沒有隨 AI 一同擴大，AI 可能加劇財富不平等；他也表示，工作提供收入、目標感和尊嚴。他談的是誰擁有攫取 AI 收益的公司和資產，並未支持「一無所有」這句口號。我認同人們需要在重塑生活的系統中享有實質權益，也相信人生目標和人際連結的意義超越財務所有權。

對我而言，幸福不是訂閱服務能提供的，也不能以機器替人省下多少工作來衡量。人們需要目標感、有意義的工作或貢獻，以及長久的關係。家庭是我個人理解這種生活時的核心；人們也能在不同家庭型態中或家庭之外找到滿足。AI 可能讓人們有更多時間彼此照料，也可能占據注意力、動搖生計，或使人際關係更依賴他人掌控的系統。我們不知道哪種走向會占上風，結果取決於企業、政府和社區的選擇。

我擔心社會走向分裂的速度，快於共同規劃未來的速度。這是我的判斷，不是量化預測。也因此，我希望人們在下一起事件成為醜聞、下一則警告成為笑柄，或下一項技術深植社會、難以再質疑之前，就開始關心這些事。

《週六夜現場》的片段值得一看，笑話背後的證據也值得檢視。幽默能幫助我們面對難題，卻不能代替監督。我們必須持續追問：這些系統能做什麼？越界時誰負責？相關改變是否讓人類生活更安全、更有連結，也更有目標感？

讓公眾有發言權

如果你希望參與決定強大 AI 如何開發及部署，可以向有能力採取行動的人表達這項關切。你可以參考Pacing the Frontier 聲明呼籲美國政府支持國際合作，研發有意放慢前沿 AI 發展速度的工具。簽署者是前沿 AI 公司的員工，並非開放給一般民眾簽署的公開連署。

如果你在美國，AI at a Safe Pace與Act on AI提供聯絡民選代表的倡議工具。可要求透明、獨立的監督，並讓受影響的勞工及社區實質參與。在美國以外，可向本國民選代表或相關公共諮詢管道表達同樣關切。這些倡議能協助人們表達看法，但簽名或留言不保證政策會改變。我希望將承受這些決策後果的人，能在系統變得難以治理前獲得聆聽。

  • Pacing the Frontier：員工聲明。聲明呼籲美國政府支持國際合作，制定用於有意放慢前沿 AI 自動化發展的技術和治理工具。簽署者是前沿 AI 公司的員工，這並非開放給所有讀者參與的連署。
  • AI at a Safe Pace。這項倡議協助美國讀者聯絡民選代表，表達放慢先進 AI 發展的訴求；它不是政府服務。
  • Act on AI。這項倡議提供美國讀者聯絡代表、表達 AI 政策看法的管道；關於聯絡行動成效的說法屬於倡議方自身主張。

來源與延伸閱讀