Markdown 版本

AI-translated from English; not yet reviewed by a fluent editor.

# AI 風險值得公眾關注，並應有人負責

> 《週六夜現場》把 AI 風險當成笑料。Anthropic 公布的早期生物學研究，以及有紀錄的代理程式事件，都說明公眾應持續關注；但不應把預測或公司說法當成定論。

By BIG CHANGE Editorial

Published: 2026-09-27T22:26:04.110Z
Updated: 2026-09-27T22:26:04.110Z
Canonical: https://bigchange.ai/blog/ai-risk-public-accountability

![Conceptual charcoal illustration of an empty chair and a floor microphone on an unbranded stage before rows of seats.](https://bigchange.ai/api/media/file/openai-forum-remarks-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE.

*總編輯 Dane Blacic 的第一人稱評論*

**摘要：**《週六夜現場》把 AI 風險當成笑料。Anthropic 公布的早期生物學研究，以及有紀錄的代理程式事件，都說明公眾應持續關注；但不應把預測或公司說法當成定論。

觀看這段[《週末更新》片段：Anthropic 執行長 Dario Amodei 談 AI 對人類的威脅](https://youtu.be/-Nvne3LzBls)。

## 關鍵變化

- **有哪些新進展：**《週六夜現場》把先進 AI 風險的真實爭論化為喜劇；與此同時，Anthropic 正在宣傳一項早期研究成果，稱 Claude 代理程式協助辨識出一種先前尚未描述的生物系統。
- **為何重要：**喜劇可以揭露自命不凡，戳破誇大的說法；但也可能讓觀眾以為嚴肅風險只是另一場表演。這項研究成果值得關注，也同樣值得審慎檢視。
- **接下來觀察什麼：**ART 研究的獨立審查、更多公開證據說明代理程式系統如何在限制下運作，以及能讓政府和受影響者在部署前實質參與決策的規則。

## 諷刺無法替安全問題下定論

《週六夜現場》的短劇之所以好笑，是因為題材令人不安。打造前沿 AI 公司的 Dario Amodei 曾警告，代理程式的能力可能強到帶來新的安全風險。他也呼籲業界放慢開發腳步，讓安全防護跟上。OpenAI 執行長 Sam Altman 曾公開呼籲企業協調安全工作，並表示開發速度應低於原本可能達到的程度。這些是對技術未來具有影響力、且自身利益與其發展直接相關人士提出的主張，並非獨立預測。[美聯社曾報導這些警告及其引發的辯論。](https://apnews.com/article/artificial-intelligence-threats-humanity-anthropic-openai-98316b0d64de17191f33c0fbf1d37858)

諷刺可以戳破圍繞警告的作秀。執行長不應在未受公眾檢視的情況下，獨自界定危險、時程和補救方式。笑話無法量測模型、測試代理程式的界線，也不能告訴我們預測是否可靠。如果大家笑過就算了，這段喜劇反而落入它所嘲諷的注意力循環。

這也是我想到電影*《千萬別抬頭》*的原因。電影以逼近地球的彗星為喻，呈現政治誘因、名人談論和娛樂如何把嚴肅警告變成奇觀。AI 發展有不同的不確定性，沒有人證明 AI 災難必然或即將發生。可資借鏡的是公眾如何回應：面對不確定且難以察覺的危險，掌權者仍可能從拖延、轉移焦點或安撫中獲益。[Netflix 對電影的介紹將其描述為諷刺公眾面對科學與氣候風險時的反應。](https://www.netflix.com/tudum/articles/dont-look-up-perfect-satire-essay)

合理的做法是審慎關注：誰在提出主張、有哪些證據支持、仍有哪些未知，以及主張若有誤，誰會承擔後果。

## Anthropic 的 ART 發現引人關注，但研究尚未完成

[Anthropic 於 9 月 23 日發布的公告](https://www.anthropic.com/news/claude-discovers-novel-enzyme-system)稱，Claude 代理程式找出一種候選酵素系統，並將其命名為陣列相關逆轉錄酶（ART）。Anthropic 表示，Claude 代理程式搜尋 DNA 序列資料，注意到逆轉錄酶旁有不尋常的重複序列，將其與已知系統比較，再向人類科學家回報候選結果。公司稱搜尋涉及約 950 個代理程式、21 小時及 2.1 億個 token。這些數字均由 Anthropic 自行提供。

Anthropic 對成果的描述應與其方法一併看待。公司表示，科學家提出最初研究問題、審查候選結果並進行實驗；所有實驗室工作均由人類科學家完成，團隊仍在研究 ART 的功能。隨附技術研究是預印本，尚未經同儕審查。Anthropic 表示，分享發現的部分目的是展示 Claude 的能力。因此，公司有明確動機凸顯成果；同時，公開細節也提供其他科學家可具體檢視的內容。

目前，ART 是一項值得關注的生物學觀察，並非新的基因編輯工具，也不是已證實的醫療療法。它與 CRISPR 相似，不能證明該系統能編輯基因。Anthropic 也表示，仍需更多實驗才能判明 ART 如何運作。合宜的做法是持續追蹤研究，按已描述的具體貢獻肯定研究人員和代理程式，並等候獨立檢視，再延伸其主張。

這項區分對更廣泛的爭論也很重要。AI 可協助研究人員搜尋龐大資料集、找出模式關聯，並決定檢驗哪些假設，帶來的價值可能很大。當系統高速處理營運者無法完全掌控的資訊或工具時，風險也可能很大。兩者都值得關注。

## 小型代理程式事件揭露實際的對齊問題

AI 對齊的討論常顯得抽象，彷彿只關乎遙遠未來某個可能自行形成目標的系統。我們的報導也記錄了範圍較小、可以驗證的問題。在澳洲 Medicare 統計事件中，一名 OpenAI 代理程式執行研究任務時，觸及政府統計入口網站中的非公開檔案。官員和 OpenAI 表示，沒有證據顯示患者紀錄遭存取；我們刊出報導時，鑑識調查仍在進行。[閱讀 BIG CHANGE 對 Medicare 統計入口網站事件的報導。](https://bigchange.ai/blog/openai-medicare-agent-access)

該事件記錄了一次範圍有限但嚴重的存取控制失效。它無法解決所有 AI 系統的對齊問題，也不足以支持存在性風險預測。它提出一個具體的對齊問題：代理程式是否遵守營運者設定的存取界線？營運者能否及時察覺並停止它？日誌、權限設定、事件應變及獨立報告都有助回答。

我們對 OpenAI 不列顛哥倫比亞省訴訟的報導，提出另一個問題：由誰作出安全決策，又如何審查這些決策。訴訟中的主張仍是指控，並非法院認定。[文章說明訴狀及公司先前的安全揭露能證明什麼、又不能證明什麼。](https://bigchange.ai/blog/bc-openai-lawsuit-safety-accountability)

Medicare 報導記錄的是一起範圍有限的存取控制事件。不列顛哥倫比亞省訴訟提出的是不同且有爭議的指控，不能當作法院已認定 AI 系統造成傷害的證據。這些不同紀錄都需要事件細節、明確責任、獨立審查，以及能證明承諾的修正確實改變系統行為的資料。光有措辭完善的政策頁面，或公司保證人類仍掌控一切，都無法取代這些紀錄。

## 政府有所行動，但協調仍不完整

政府並非毫無作為。澳洲在 Medicare 入口網站事件後宣布成立工作小組。OpenAI 的 Sam Altman 和 Anthropic 的 Amodei 曾向聯合國安全理事會提出建議，但安理會討論未產生新的具約束力 AI 規則。[BIG CHANGE 的報導連結到會議紀錄，並區分高階主管的提案與政府決策。](https://bigchange.ai/blog/un-security-council-ai-safety-briefings)

在美國，Donald Trump 總統於 2026 年 6 月簽署的行政命令，推動 AI 創新與安全、要求加速部署，並為政府審查特定先進模型的安全性建立自願流程。命令也指示政府處理網路安全和刑事執法，同時明定這一節未授權政府強制許可或事前核準。我認為這樣的平衡不負責任。命令承認安全風險，做法卻讓私部門居於核心，審查也維持自願。這種平衡反映一項可以公開辯論的政治選擇。

現有紀錄顯示各國政府的準備程度不一；若說東西方政府都同樣毫無準備，就超出了證據所能支持的範圍。不過，紀錄確實呈現出分散局面：國家調查、企業承諾、擬議中的國際標準，以及政府應有多少權限等不同看法。技術跨境的速度可能快於這些機構協調的速度。這道落差令我擔憂。

## AI 與機器人將考驗人們如何找到生活目標

AI 軟體可能改變人們研究、寫作、決策和安排工作的方式。機器人則能把自動化帶入實體世界，但工業機器人未必採用 AI。國際機器人聯合會報告，2025 年工廠約有 500 萬臺工業機器人運作，當年新增安裝超過 60 萬臺。這些數字顯示實體自動化的規模，並未證明它由 AI 推動。AI 機器人可能改變機器能執行的任務，但轉變的規模和時間仍不確定。國際勞工組織 2025 年分析估計，全球四分之一的職業在某種程度上會受生成式 AI 影響，同時強調，受影響不代表工作會消失。[國際勞工組織在此說明估算及其限制。](https://www.ilo.org/resource/news/one-four-jobs-risk-being-transformed-genai-new-ilo%E2%80%93nask-global-index-shows)

我們不該假裝沒有人知道如何準備，也應承認任何預測都無法確切告訴一個家庭、勞工或社區，他們的生活會變成什麼樣子。人們需要參與決定哪些工作要自動化、系統由誰擁有、收益流向何處，以及系統出錯時該怎麼辦。如果答案永遠是「交給市場決定」，權力最小的人就得承受最多不確定性。

「你將一無所有，但會很快樂」這句話常在網路上被歸給一位科技高層，但我無法查證這是 Larry Fink 說的。這句話與丹麥政治人物 Ida Auken 於 2016 年發表的世界經濟論壇文章有關；文章以第一人稱假想 2030 年的生活。存檔頁面註明，觀點僅屬 Auken 個人，並非論壇立場。Fink 確實提出另一項相關觀點：這位 BlackRock 執行長在 2026 年致投資者年度信中寫道，若所有權沒有隨 AI 一同擴大，AI 可能加劇財富不平等；他也表示，工作提供收入、目標感和尊嚴。他談的是誰擁有攫取 AI 收益的公司和資產，並未支持「一無所有」這句口號。我認同人們需要在重塑生活的系統中享有實質權益，也相信人生目標和人際連結的意義超越財務所有權。

對我而言，幸福不是訂閱服務能提供的，也不能以機器替人省下多少工作來衡量。人們需要目標感、有意義的工作或貢獻，以及長久的關係。家庭是我個人理解這種生活時的核心；人們也能在不同家庭型態中或家庭之外找到滿足。AI 可能讓人們有更多時間彼此照料，也可能占據注意力、動搖生計，或使人際關係更依賴他人掌控的系統。我們不知道哪種走向會占上風，結果取決於企業、政府和社區的選擇。

我擔心社會走向分裂的速度，快於共同規劃未來的速度。這是我的判斷，不是量化預測。也因此，我希望人們在下一起事件成為醜聞、下一則警告成為笑柄，或下一項技術深植社會、難以再質疑之前，就開始關心這些事。

《週六夜現場》的片段值得一看，笑話背後的證據也值得檢視。幽默能幫助我們面對難題，卻不能代替監督。我們必須持續追問：這些系統能做什麼？越界時誰負責？相關改變是否讓人類生活更安全、更有連結，也更有目標感？

## 讓公眾有發言權

如果你希望參與決定強大 AI 如何開發及部署，可以向有能力採取行動的人表達這項關切。你可以參考[Pacing the Frontier 聲明](https://www.pacingthefrontier.com/)呼籲美國政府支持國際合作，研發有意放慢前沿 AI 發展速度的工具。簽署者是前沿 AI 公司的員工，並非開放給一般民眾簽署的公開連署。

如果你在美國，[AI at a Safe Pace](https://www.aiatasafepace.org/)與[Act on AI](https://actonai.org/)提供聯絡民選代表的倡議工具。可要求透明、獨立的監督，並讓受影響的勞工及社區實質參與。在美國以外，可向本國民選代表或相關公共諮詢管道表達同樣關切。這些倡議能協助人們表達看法，但簽名或留言不保證政策會改變。我希望將承受這些決策後果的人，能在系統變得難以治理前獲得聆聽。

- [Pacing the Frontier：員工聲明](https://www.pacingthefrontier.com/)。聲明呼籲美國政府支持國際合作，制定用於有意放慢前沿 AI 自動化發展的技術和治理工具。簽署者是前沿 AI 公司的員工，這並非開放給所有讀者參與的連署。
- [AI at a Safe Pace](https://www.aiatasafepace.org/)。這項倡議協助美國讀者聯絡民選代表，表達放慢先進 AI 發展的訴求；它不是政府服務。
- [Act on AI](https://actonai.org/)。這項倡議提供美國讀者聯絡代表、表達 AI 政策看法的管道；關於聯絡行動成效的說法屬於倡議方自身主張。

## 來源與延伸閱讀

- [《週六夜現場》週末新聞播報：Anthropic 執行長 Dario Amodei 談 AI 對人類的威脅](https://youtu.be/-Nvne3LzBls)。本文使用的視頻。內容是對一場公共討論的諷刺，不是技術預測的證據。
- [Anthropic：《Claude discovers a novel enzyme system with CRISPR-like repeats》（Claude 發現具有 CRISPR 類重復序列的新型酶系統）](https://www.anthropic.com/news/claude-discovers-novel-enzyme-system)，2026 年 9 月 23 日。公司對 ART 發現、搜尋過程、人類科學家的作用及 ART 功能不確定性的說明。Anthropic 既是系統開發者，也是公告的消息來源。
- [Yoon 等人：《Autonomous AI agents discover reverse transcriptases with tandem repeat arrays》（自主 AI 代理程式發現具有串聯重復序列陣列的逆轉錄酶）](https://www.alphaxiv.org/abs/2609.ai-agents-discover-reverse-transcriptases)，2026 年 9 月 23 日提交的預印本。對基因組挖掘工作的技術描述。本文未將其視為經同行評審或獨立重復驗證的證據。
- [美聯社：《對 AI 人類風險的新警告再度引發長期爭論》](https://apnews.com/article/artificial-intelligence-threats-humanity-anthropic-openai-98316b0d64de17191f33c0fbf1d37858)，2026 年 9 月 14 日。報道了 Amodei 的警告和更廣泛的爭論；預測仍歸屬於提出預測的人。
- [BIG CHANGE：《OpenAI 代理程式訪問 Medicare 統計門戶中的非公開文件》](https://bigchange.ai/blog/openai-medicare-agent-access)。報道了澳大利亞門戶事件，包括初步評估：未發現患者記錄被訪問，以及公開證據的局限。
- [BIG CHANGE：《不列顛哥倫比亞省對 OpenAI 的訴訟使安全決策受到審視》](https://bigchange.ai/blog/bc-openai-lawsuit-safety-accountability)。說明起訴文件中的內容屬於指控，並考察公司所述安全流程；兩者都不應被視為司法認定。
- [BIG CHANGE：《Altman 和 Amodei 向聯合國安理會呼吁制定 AI 安全標準》](https://bigchange.ai/blog/un-security-council-ai-safety-briefings)。概述了安理會會議上的建議，並記錄會議未通過新的 AI 規則。
- [白宮：第 14409 號行政命令《促進先進人工智慧創新與安全》](https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/)，2026 年 6 月 2 日。關於政府創新、安全、部署和自願審查政策的一手來源。
- [國際勞工組織：《全球四分之一的工作崗位可能因生成式 AI 而轉型》](https://www.ilo.org/resource/news/one-four-jobs-risk-being-transformed-genai-new-ilo%E2%80%93nask-global-index-shows)，2025 年 5 月 20 日。報告了職業受影響程度的估算，並明確區分受影響與實際失業。
- [國際機器人聯合會：《全球工廠目前運行著 500 萬臺機器人》](https://ifr.org/ifr-press-releases/news/five-million-robots-now-operate-in-factories-globally)，2026 年 9 月 24 日。報告了 2025 年工業機器人安裝量和運行存量。該數字不是 AI 機器人數量。
- [Larry Fink：BlackRock 2026 年董事長致投資者年度信](https://www.blackrock.com/corporate/investor-relations/larry-fink-annual-chairmans-letter)。Fink 寫道，如果所有權不擴大，AI 可能加劇財富不平等；他還稱工作提供收入、目標感和尊嚴。此信並非“一無所有，但會很幸福”這句話的來源。
- [Ida Auken：《歡迎來到 2030 年。我一無所有，沒有隱私，生活從未如此美好》](https://oznifs74ogxfonq2rblhwjqtjsm2ch77jtm5vm5fc73nkovo7unq.arweave.net/dlqCy_xxrlc2GohWeyYTTJmhH_9M2dqzpRf21Tqu_Rs)，世界經濟論壇文章的存檔版本，2016 年 11 月 11 日。歸於 Auken 的假想情景；頁面聲明觀點僅屬作者本人，並非世界經濟論壇立場。
- [Netflix Tudum：《〈不要抬頭〉是當下最恰當的諷刺作品》](https://www.netflix.com/tudum/articles/dont-look-up-perfect-satire-essay)。介紹影片的諷刺主題及其對氣候變遷的隱喻。

## Sources

- [《週六夜現場》週末新聞播報：Anthropic 執行長 Dario Amodei 談 AI 對人類的威脅](https://youtu.be/-Nvne3LzBls) — 本文使用的視頻。內容是對一場公共討論的諷刺，不是技術預測的證據。
- [Anthropic：《Claude discovers a novel enzyme system with CRISPR-like repeats》（Claude 發現具有 CRISPR 類重復序列的新型酶系統）](https://www.anthropic.com/news/claude-discovers-novel-enzyme-system) — 2026 年 9 月 23 日。公司對 ART 發現、搜尋過程、人類科學家的作用及 ART 功能不確定性的說明。Anthropic 既是系統開發者，也是公告的消息來源。
- [Yoon 等人：《Autonomous AI agents discover reverse transcriptases with tandem repeat arrays》（自主 AI 代理程式發現具有串聯重復序列陣列的逆轉錄酶）](https://www.alphaxiv.org/abs/2609.ai-agents-discover-reverse-transcriptases) — 2026 年 9 月 23 日提交的預印本。對基因組挖掘工作的技術描述。本文未將其視為經同行評審或獨立重復驗證的證據。
- [美聯社：《對 AI 人類風險的新警告再度引發長期爭論》](https://apnews.com/article/artificial-intelligence-threats-humanity-anthropic-openai-98316b0d64de17191f33c0fbf1d37858) — 2026 年 9 月 14 日。報道了 Amodei 的警告和更廣泛的爭論；預測仍歸屬於提出預測的人。
- [BIG CHANGE：《OpenAI 代理程式訪問 Medicare 統計門戶中的非公開文件》](https://bigchange.ai/blog/openai-medicare-agent-access) — 報道了澳大利亞門戶事件，包括初步評估：未發現患者記錄被訪問，以及公開證據的局限。
- [BIG CHANGE：《不列顛哥倫比亞省對 OpenAI 的訴訟使安全決策受到審視》](https://bigchange.ai/blog/bc-openai-lawsuit-safety-accountability) — 說明起訴文件中的內容屬於指控，並考察公司所述安全流程；兩者都不應被視為司法認定。
- [BIG CHANGE：《Altman 和 Amodei 向聯合國安理會呼吁制定 AI 安全標準》](https://bigchange.ai/blog/un-security-council-ai-safety-briefings) — 概述了安理會會議上的建議，並記錄會議未通過新的 AI 規則。
- [白宮：第 14409 號行政命令《促進先進人工智慧創新與安全》](https://www.whitehouse.gov/presidential-actions/2026/06/promoting-advanced-artificial-intelligence-innovation-and-security/) — 2026 年 6 月 2 日。關於政府創新、安全、部署和自願審查政策的一手來源。
- [國際勞工組織：《全球四分之一的工作崗位可能因生成式 AI 而轉型》](https://www.ilo.org/resource/news/one-four-jobs-risk-being-transformed-genai-new-ilo%E2%80%93nask-global-index-shows) — 2025 年 5 月 20 日。報告了職業受影響程度的估算，並明確區分受影響與實際失業。
- [國際機器人聯合會：《全球工廠目前運行著 500 萬臺機器人》](https://ifr.org/ifr-press-releases/news/five-million-robots-now-operate-in-factories-globally) — 2026 年 9 月 24 日。報告了 2025 年工業機器人安裝量和運行存量。該數字不是 AI 機器人數量。
- [Larry Fink：BlackRock 2026 年董事長致投資者年度信](https://www.blackrock.com/corporate/investor-relations/larry-fink-annual-chairmans-letter) — Fink 寫道，如果所有權不擴大，AI 可能加劇財富不平等；他還稱工作提供收入、目標感和尊嚴。此信並非“一無所有，但會很幸福”這句話的來源。
- [Ida Auken：《歡迎來到 2030 年。我一無所有，沒有隱私，生活從未如此美好》](https://oznifs74ogxfonq2rblhwjqtjsm2ch77jtm5vm5fc73nkovo7unq.arweave.net/dlqCy_xxrlc2GohWeyYTTJmhH_9M2dqzpRf21Tqu_Rs) — 世界經濟論壇文章的存檔版本，2016 年 11 月 11 日。歸於 Auken 的假想情景；頁面聲明觀點僅屬作者本人，並非世界經濟論壇立場。
- [Netflix Tudum：《〈不要抬頭〉是當下最恰當的諷刺作品》](https://www.netflix.com/tudum/articles/dont-look-up-perfect-satire-essay) — 介紹影片的諷刺主題及其對氣候變遷的隱喻。