聯邦檢察官在公司會議室發現隱藏式錄音裝置後,起訴一名OpenAI工程師。在一份於 10月13日由美聯社報導的聲明中,OpenAI表示其AI模型協助公司了解該裝置,並識別出一名據稱在數日前安裝裝置的員工。公司未說明使用了哪些模型,也未解釋如何核實模型的貢獻。

重大變化

  • 發生了什麼: OpenAI表示,該公司在一項涉及實體錄音裝置與一名員工的內部調查中使用自家模型。這是公司對單一案件的說法,沒有公開方法,也沒有獨立評估模型的作用。
  • 為何重要: 安全團隊必須連結實體證據、存取紀錄與相關人員。此案的公開說法將AI列為建立關聯的工具之一,而刑事指控所依據的調查結果仍須在法庭上檢驗。
  • 接下來關注: 刑事案件可能釐清證據對裝置及任何遭截取對話能證明什麼。OpenAI尚未說明模型工作流程,因此目前無法根據公開紀錄評估模型在此調查中的用途。

檢方的指稱

美國司法部 10月13日公告 表示,Abdulrahman Alfozan於10月9日遭逮捕,並於10月13日在聯邦法院首次出庭。他被控使用或企圖使用裝置截取口頭通訊。指控及起訴書內容都是指稱,並非有罪判決。

根據司法部對起訴書的摘要,OpenAI人員於9月30日在舊金山一間高階主管會議室發現隱藏式錄音裝置。公告稱該裝置約於9月28日安裝,內容經過加密。公告也描述辦公室攝影畫面,稱裝置被發現前曾拍到Alfozan在房間附近。司法部表示,10月5日又在一個與他有關的袋子中發現第二台類似錄音裝置。

起訴書另指稱,有人透過生產力工具查詢辦公室房間與行程,並從一個與Alfozan配偶有關的聊天機器人帳戶送出裝置相關提示。這些是調查人員對帳戶活動的指稱。公告未證明錄音裝置錄下會議、機密資訊離開OpenAI,也未說明該裝置據稱被放置在那裡的原因。FBI調查仍在進行。

OpenAI稱模型做了什麼

OpenAI告訴 美聯社 ,公司使用模型「了解裝置及其來源」,並據此識別出一名據稱數日前安裝裝置的特定員工。公司表示已將此事轉交FBI並解僱該員工。公司也稱,當時沒有跡象顯示該人未經授權存取或帶走模型權重、原始碼或客戶資料。

公開聲明未點名模型,未說明提供給模型哪些證據,也未交代人工調查人員如何核實輸出。司法部公告列出起訴書指稱,但未把任何特定證據發現歸因於AI。因此,兩份說法只支持有限結論:OpenAI稱其模型協助調查,但公開紀錄未顯示模型在識別被控員工的過程中貢獻多少。

據稱的截取行為結果也尚未確定。加密裝置的內容、任何錄音,以及法院日後可能作出的判斷,都不同於OpenAI對其調查工具的說法。在事實獲得確認前,這只是企業安全調查中據報使用AI的案例,並非經測量驗證的AI鑑識方法示範。

來源與延伸閱讀