Multiverse 开始使用名为 Compass 的 AI 工具,审核教师讲授的每一堂课。公司称,该工具让管理者能够发现潜在问题并提供更有针对性的辅导。接受《卫报》采访的教师描述了不同的感受:他们工作时仿佛一直被监视,并担心系统可能会标记什么。

这些说法描述了同一项变化:从偶尔由人观察,转为例行的 AI 审核。但这些说法不能证明 Compass 会作出用工决定。Multiverse 称,这类决定仍由人作出。

主要变化

  • 发生了什么变化:Multiverse 称,以前管理者大约每月观察教师一次。现在 Compass 会审核每堂课,使单节课程成为持续反馈和潜在风险标记的来源。
  • 为何重要:管理者可以更快查看被标记的课程,但更广泛的监控也改变了教师的工作环境。教师向《卫报》表示,受到审视以及可能因某堂课被质询,让他们感到压力。这是受访者的说法,并非针对全体员工进行的独立测量。
  • 接下来关注什么:Multiverse 称,10 月教师将能查看与管理者相同的报告。这项承诺若落实,教师就能更清楚地看到公司如何区分 AI 建议、人工核查和绩效管理。

Compass 会审核什么

在一篇9 月 25 日的文章中,Multiverse 称,Compass 会根据其 Compass Framework 对照教师课程,并结合学员反馈生成分析。它会为每堂课生成一份评估,向管理者指出质量可能存在风险的地方,并根据教师长期以来的授课情况提出发展方向。公司将这些输出描述为供人审核的提示,而非对教师的定论。

《卫报》报道称,系统会分析并评分在线课程的文字记录。报道说,系统可能会标记一些问题,例如教师未能迅速解决连接中断、过度使用填充词,或任务说明不清楚。这些例子来自报纸对该系统的报道;Multiverse 的公开文章没有发布完整的 Compass Framework,也没有公布生成每条标记所用的指令。

Multiverse 称,课程交付经理会结合自己掌握的情况检查 Compass 报告,决定是否采取行动,并与教师商定发展目标。公司表示,绩效管理以人工观察为依据,Compass 不会对任何人的工作作出决定。一名发言人告诉《卫报》,智能体能采取的最重要行动,是建议由人审核一堂课。这些说法描述了公司的政策和预期流程;它们本身并不能说明每条系统标记在实践中如何处理。

教师报告了什么

几位教师在匿名条件下接受《卫报》采访。一位教师称,引入系统后产生的压力影响了睡眠。另一位教师说,为避免被 AI 标记而分心,影响了授课和倾听学员的注意力。该报还刊出一位教师的第一人称讲述:管理者可能会调查看似偏离教学脚本的行为,而这些行为实际上是为了回应学员的需要。

这些都是《卫报》报道的第一手讲述。BIG CHANGE 没有采访这些教师,也没有测量该系统对员工身心状态的影响。不过,他们的证词指出了所有持续审核系统都需要面对的实际问题:被标记的片段究竟反映了糟糕的教学,还是丢失了原本使教师选择合理的上下文?

此次部署也限制了教师目前能亲自查看的内容。Multiverse 称,在 8 月测试和 9 月引入期间,只有管理者能看到报告。公司表示,10 月将通过内部辅导平台让教师访问报告。《卫报》刊登的第一人称讲述者也称,写作时只有管理者能查看仪表板,教师无法查看。

决定权在哪里

从一堂课到可能影响工作结果之间有几个环节:Compass 生成评估,管理者核查可能的问题,再由人决定采取什么行动。公司称,正式绩效管理取决于人工观察。《卫报》的报道说明了即使没有自动化用工决定,这一区别为何仍然重要:系统标记仍可能引发管理者审视,并影响教师收到的反馈。

Multiverse 的AI 原则公开文件倡导透明和人工指导。公司承诺 10 月向教师开放报告访问权限,是检验这些承诺是否落实的一项具体方式;但仅有访问权限,并不能证明评估准确,也不能证明员工能够提出异议。现有公开材料没有说明系统的错误率、管理者拒绝标记的频率,或是否有任何个人的用工结果曾取决于 Compass 报告。BIG CHANGE 没有测试 Compass。

这里讨论的是雇主使用 AI 评估教学工作。它不同于大学制定的 AI 辅助学生作业评分规则,也不同于AI 训练工作所要求的独立人工判断。在每种情形下,有效的边界都取决于被评估工作的具体内容,以及系统获授的权限。