联邦检察官在公司会议室发现隐藏的录音设备后,起诉了一名OpenAI工程师。在一份于 10月13日由美联社报道的声明中,OpenAI称其AI模型帮助公司了解该设备并识别出一名据称在几天前安装设备的员工。公司没有说明使用了哪些模型,也没有解释如何核实模型的作用。

重大变化

  • 发生了什么: OpenAI称其在一项涉及实体录音设备和一名员工的内部调查中使用了自有模型。这是公司对单一案件的说法,公司未披露方法,也没有对模型作用进行独立评估。
  • 为何重要: 安全团队需要把实体证据、访问记录和相关人员联系起来。在此案中,公开说法将AI列为建立这种联系的工具之一;刑事指控则依据仍须在法庭上检验的调查结果。
  • 后续关注: 刑事案件可能会进一步说明证据能证明设备及任何被截获对话的哪些情况。OpenAI尚未解释模型工作流程,因此仅凭公开记录还无法评估模型在这项调查中的用途。

检方的指称

美国司法部 10月13日的公告 称,Abdulrahman Alfozan于10月9日被捕,并于10月13日在联邦法院首次出庭。他被控使用或企图使用设备截取口头通信。该项指控及起诉书中的说法均为指称,并非有罪认定。

据司法部对起诉书的摘要,OpenAI员工于9月30日在旧金山一间高管会议室发现隐藏的录音设备。公告称,该设备大约于9月28日安装,内容经过加密。公告还描述了办公室摄像画面:设备被发现前,Alfozan曾出现在会议室附近。司法部称,10月5日又在与其有关的一个袋子中发现了第二台类似设备。

起诉书还指称,有人通过一款生产力工具查询办公室房间和日程,并从一个与Alfozan配偶有关的聊天机器人账户发送与设备有关的提示。这些是调查人员对账户活动的指称。公告没有证明录音设备录下了会议、机密信息离开了OpenAI,也没有说明该设备据称被放置在那里的原因。FBI调查仍在进行。

OpenAI称模型做了什么

OpenAI向 美联社 表示,公司使用模型“了解设备及其来源”,并据此识别出一名据称几天前安装设备的具体员工。公司称已将此事移交FBI,并解雇了该员工。公司还表示,截至当时,没有迹象表明此人未经授权访问或带走了模型权重、源代码或客户数据。

公开声明没有点名具体模型,没有说明向模型提供了哪些证据,也没有解释人工调查人员如何核实模型输出。司法部公告列出了起诉书中的指称,但没有把任何具体证据结论归因于AI。因此,两种说法只支持一个有限结论:OpenAI称其模型协助了调查,但公开记录没有显示模型在识别被指控员工的过程中贡献了多少。

据称的截取行为最终如何认定也尚无定论。加密设备的内容、可能存在的录音以及法院最终可能作出的认定,均不同于OpenAI关于调查工具的说法。在事实得到确认之前,这只是一起企业安全调查中据报道使用AI的案例,并非经测量验证的AI取证方法演示。

来源与延伸阅读