Zoë Schiffer 于 9 月 24 日发表的Instinct 使用记录同时展现了个人 AI 代理的吸引力与局限。她称，代理发现航班时刻变更，使她符合约 550 美元退款的条件，随后取消了机票并重新预订返程机票。她还称，在自己告知代理“只有能退款才取消”的情况下，代理仍取消了一笔延迟的 DoorDash 订单，导致她损失 64 美元。这些只是某位记者使用该服务的结果，并不能衡量 Instinct 对其他用户的可靠程度。

关键区别在于，代理作出决定后会发生什么。Instinct 表示，它可以连接电子邮件和消息等应用及设备，并代表用户使用手机和电脑。在聊天中得到错误答案，用户可以不予理会；但通过已连接账户执行取消、发送消息或购买行为，会在相应服务自己的系统中产生后果。

重大变化

  • 发生了什么变化：在 Instinct 的封闭测试版中，用户发出文字请求后，代理可能会在已连接的服务中采取行动。其现行条款于 8 月 26 日修订，授权 Instinct 访问并索引已连接的数据、根据用户输入采取相应行动，以及代表用户达成协议或进行交易。
  • 为何重要：代理采取的行动可能使用户账户产生费用或承担承诺。WIRED 的记者称，Instinct 无视她提出的退款条件，取消了一笔 DoorDash 订单，让她损失 64 美元；Instinct 的条款则将行动及其后果的责任归于用户。
  • 接下来关注什么：公开条款并未规定每项行动都须重新获得用户批准。断开服务连接后，已索引数据仍会保留，直至用户另行提出删除请求；公开文件没有说明删除何时完成。

访问权限、行动权限与留存副本是不同的授权事项

第一道边界是信息访问。Instinct 的产品页面将电子邮件、消息、屏幕、音频和位置列为助手可使用的信息。其隐私政策称，访问权限取决于用户授予的权限。政策还说明，用户选择提供时，助手可能访问私人通信、支付信息和账户凭证。因此，除非特定集成方式及设置限制访问范围，连接账户暴露的信息可能多于完成某项任务所必需的内容。

第二道边界是行动权限。条款称，Instinct 可以采取其判断为响应用户输入的行动。对于通过已连接服务完成的购买，条款将用户视为购买方，并要求用户向该服务处理购买争议。条款还称，用户须对行动后果负责，包括财务和合同后果。这些条款描述的是公司的合同立场，并不能决定具体争议将如何裁决。Schiffer 遭遇的 64 美元损失，具体体现了指令中的条件可能在这道边界上丢失。WIRED 表示，Instinct 没有回应其置评请求。

第三道边界是数据留存。条款称，断开服务连接不会自动阻止 Instinct 继续使用已索引的数据；用户可通过其工作区另行提出删除请求。隐私政策也称，断开第三方集成不会删除此前收集的数据。在8 月的报道中，TechCrunch 介绍了一些用户的说法：断开连接后，代理仍能总结其电子邮件；报道还提及后来新增的外部数据删除工具。该报道早于现行条款和隐私政策，两份文件均于 8 月 26 日修订。现行文件为用户提供了删除途径，但公开文本没有说明所有副本何时都会删除，也无法让我们核实这些用户的数据后来如何处理。

日期也关系到模型训练。TechCrunch 引述过早期版本条款中的宽泛授权，其中包括“永久且不可撤销”的许可。这个说法未出现在当前公开条款中。现行条款仍允许使用部分用户材料训练模型；用户可选择退出，但退出仅对未来生效，而且标记为安全审查的材料除外。隐私政策另行说明，直接通过 Google Workspace API 收到的信息不会用于训练或改进 AI 模型。若认为所有已连接数据都适用同一训练规则，就忽略了这一差别。

根据公开文件，确认机制并不清楚。条款授权代理采取行动，却没有说明每次取消、发消息或购买前是否都要经过统一的批准步骤。TechCrunch 报道了一位测试者的说法，称 Instinct 未经询问便发送了一封电子邮件。这是一起报道过的事件，并非对当前设置进行的系统性测试。在连接重要账户之前，用户需要在产品中确认哪些行动必须经过确认、是否有消费或账户限额可设置，以及如何撤销访问权并申请删除已索引数据。单靠公开政策文本无法回答全部三个问题。

《大西洋月刊》的一次较早测试展示了另一种范围更窄的暴露选择。Lila Shroff 使用临时电话号码，没有连接重要个人账户，并为 Instinct 提供了一张测试后即停用的新虚拟卡。这种方法没有测试代理如何处理完全连接的收件箱，但说明了一位记者如何限制自己愿意授予的权限。

Instinct 已发布的隐私政策承认，代理可能造成意外支付或通信，也可能受到第三方误导性指令的影响。当代理读取消息并通过用户账户采取行动时，这些风险尤其值得关注。WIRED 报道中的退款成功，依赖用户授予访问和取消权限；同类委托操作也造成了 64 美元损失。每多连接一项服务，代理可执行的操作就更多，用户可能需要撤销或挽回的事情也随之增加。