OpenAI 表示，它已封鎖與俄羅斯及伊朗影響力行動相關的帳號群組；這些群組曾用 ChatGPT 撰寫內部報告、潤飾文章並製作部分欺騙性素材。OpenAI 於 10 月 8 日發布的說明描述了以假機構和假身分為基礎的行動，但未確定其對現實世界受眾的實際影響規模。

重大變化

  • 報告將 ChatGPT 描述為更廣泛影響力作業流程中的一項工具，其最明確的作用在於內部報告與編輯。
  • OpenAI 表示，部分捏造素材曾出現在網路上，伊朗行動者也以假筆名將文章刊登於真實媒體；這些發現主要來自公司自身的說明。
  • 行動者宣稱的觸及範圍並不可靠。OpenAI 表示，部分說法獲得佐證、其他則沒有，而且無法從行動者自己的指標推知受眾影響。

OpenAI 稱這項俄羅斯行動為「Dark Clark」，據該公司說法，ChatGPT 主要被用來起草和更新行動相關報告。OpenAI 表示，行動者也用模型準備部分假文件、音訊腳本與訊息。據稱，該行動透過一個名為 Social Research Center 的「智庫」運作，由虛構人物「Mia Clark」出面；在拉丁美洲受聘的人員可能不知道誰在掌控該組織。

OpenAI 表示，調查人員找到了內容相符的案例，也有查核機構或官員的報導。其中一例是捏造影片，聲稱厄瓜多正在招募年輕人前往烏克蘭作戰。厄瓜多查核機構 Lupa Media 另行報導，聲稱的 Teleamazonas 報導並不存在，影片使用遭竊的社群媒體圖片、音訊由 AI 生成，而且影片提到的公司沒有有效登記。這些資料支持類似素材確實存在且為捏造，但無法獨立證明由誰委託製作，也不能證實 OpenAI 說明中的每項細節。

OpenAI 表示，名為「Bogus Bylines」的伊朗行動使用 ChatGPT 編修長篇文章與提案、撰寫聯絡郵件、批次生成社群留言並潤飾內部報告。公司指出，從 2025 年 7 月至 2026 年 10 月，約十多家媒體刊登或轉載了近 100 篇文章，署名為七個虛構記者身分。這些數字是 OpenAI 的調查結果。本報導查閱的獨立報導是對公司發現的報導，並未另行稽核所有署名或刊物。

報告也明確區分素材製作與散布。OpenAI 表示，伊朗行動的社群留言曾密集發布，但沒有證據顯示其模型自動執行張貼。公司稱許多留言互動不多。行動者的內部報告統計的是其回覆貼文的瀏覽量，而非回覆本身的瀏覽量，並在未說明的期間比較總數。這種方法無法單獨判定行動是否造成瀏覽量。

OpenAI 將俄羅斯行動評為 Breakout Scale 第 5 類，將伊朗刊登文章行動評為第 4 類。該尺度由 Brookings 於 2020 年提出，依據可觀察到的內容跨平台與社群擴散情形分類，包括是否進入主流媒體，或引發知名人士關注及具體行動。這些評級是 OpenAI 的評估，不是對有多少人相信訊息或因此改變行為的獨立測量。

這項區分有助讀者理解生成式 AI 改變了什麼。報告描述模型協助起草、編輯、翻譯、撰寫腳本及整理內部摘要，但未顯示 ChatGPT 獨立執行行動、挑選目標或控制散布。虛假身分、媒體提案、社群帳號與張貼工作由人員及傳統基礎設施提供。在一個案例中，行動者使用模型潤飾並翻譯一封假信，之後網路上出現相符的圖片與音訊。這個順序說明文字模型如何支援由人主導的製作鏈，並不能證明模型創作了最終素材的每個部分。

對平台與出版者而言，較難的問題因此是來源與協調，而不只是偵測機器撰寫的句子。潤飾完善的提案可能只是一般寫作協助；若與虛構署名、隱藏贊助者或協調刊登相連，風險便會改變。同樣地，員工可能在不知情下為自己不了解其控制者的組織製作真實報導。OpenAI 報告對 Social Research Center 的描述使這種可能性格外值得注意，但這項定性仍以公司證據為依據。

對新聞室而言，實務查核仍然熟悉：確認作者身分及組織控制權，透過獨立建立的管道聯絡消息來源，追查主張與文件的原始來源，並避免把互動數字當成影響力證明。報告提供了這些查核可能如何遭到規避或操弄的案例，但未完整衡量曝光範圍或後續政治效果。

OpenAI 表示已封鎖相關帳號群組，並將資訊分享給相關主管機關及業界夥伴。公開報告詳述了公司的調查，但其分類與行動歸因應視為公司調查結果。獨立查核支持部分具體案例。總觸及範圍、行動者完整控制結構及任何持久影響，都比 OpenAI 所稱觀察到的活動更不確定。

來源與延伸閱讀