微软提出了一项计划,让 Windows 能在 PC、云端或两者之间执行 AI 工作。10 月 7 日的公告涵盖代理隔离、本地模型工具、GitHub Copilot 路由和新款 PC。各项功能的发布日期和要求不同。对于考虑尝试或购买什么的人来说,这些差异比共同使用的“混合智能”名称更重要。

目前最明确的已发布产品是 Microsoft Execution Containers (MXC),微软称其已正式推出。开发人员可以用它在一套定义文件、网络和界面访问权限的策略内运行代理工具或生成的代码。GitHub Copilot 新增的本地路由是实验性预览版,计划于 10 月稍晚推出。Copilot 对 PC 上下文、操作和本地模型的更广泛应用预计将在未来几个月开始向 Copilot+ PC 推出。

重大变化

  • 发生了什么变化: 微软将对代理操作的控制与在 Windows PC 上运行模型的更多方式结合起来。MXC 现已推出;已公布的 Copilot 体验则将在之后推出或仍处于实验阶段。
  • 影响对象: 开发人员现在可以查看 MXC SDK 和策略。Copilot 用户和组织在规划本地路由或 PC 操作之前,应先确认设备要求和推出状态。
  • 接下来关注什么: 实际考验是这些独立部分能否在正式发布的产品中协同工作。微软的公告描述了这一方向,但没有证明每项功能都已在所有 Windows PC 上提供。

Windows 公告的发布路线图

公告内容

截至 10 月 7 日的状态

可用对象或尚待明确事项

Microsoft Execution Containers

微软称 MXC 已正式推出,包括支持 Windows 11 和 Windows 365。

代理开发人员集成其 SDK 并定义工作负载策略。各操作系统的后端不同;部分仍处于实验阶段。

Windows ML 通过 llama.cpp 支持 GGUF 模型

作为面向开发人员的实验性集成提供。

开发人员提供模型,并使用新的文本生成 API 或本地端点。这不是 Copilot 的全面推出。

GitHub Copilot 本地模型与 HydraFusion 路由

计划于 10 月稍晚在 Copilot 应用、CLI 和 VS Code 中推出实验预览版。

微软介绍了本地与云端模型之间的自动路由,以及显式选择本地模型。此次发布并未使这些功能正式普遍可用。

Copilot 的本地上下文、操作和模型

预计将在未来几个月开始推出。

微软要求使用 Copilot+ PC,并表示可用性可能因设备、市场和芯片而异。本地上下文和操作被描述为基于权限的功能。

RTX Spark Windows PC

Surface Laptop Ultra 和多款合作伙伴 PC 已开放预购。

微软表示这些笔记本将于 10 月 16 日开始发货;Surface RTX Spark Dev Box 预计于 11 月发往美国客户。预购不等于实际测试。

日期和条件来自 微软的 Windows 发布公告、其 MXC 开发者公告 以及其 Windows ML 开发者公告。微软还为实验频道中的 Windows Insider 宣布了 Search 操作,其推出计划与本文所述 AI 系统不同。

MXC 为代理工具提供策略边界

AI 代理可能需要运行命令、读取项目文件夹或访问服务。MXC 允许开发人员在 JSON 请求中指定这些资源,并在选定的隔离后端中执行工作负载。微软的 公开代码库 提供 Rust、.NET 和 Node SDK、示例及版本化架构。该代码库将 MXC 描述为应用程序内的 SDK 依赖项,而不是能自动限制 PC 上所有代理的开关。

微软表示,正式推出的选项包括 Windows 11、macOS 和 Linux 上的进程容器,以及 Windows 11 会话容器和 WSL 容器。其代码库将 Windows Sandbox、MicroVM 和 Hyperlight 后端标记为实验性; 开发者公告 也将 MicroVM 标记为实验性。开发人员选择后端时仍需检查具体平台及其安全属性。微软对执行模型的说明是产品方的主张,并非 BIG CHANGE 的独立安全评估。

微软所说的“隔离、身份和可管理性”之间还有一项重要区别。MXC 目前提供隔离层。开发者文章称,Entra 对代理活动的归因以及用于 MXC 进程容器的 Intune 策略即将推出。IT 团队应分别评估这些控制措施的发布状态,而不要把整套功能都视为已经普遍可用。

本地模型和路由有不同的起点

Windows ML 的新 GGUF 路径 为开发人员提供了一种实验性方式,可通过文本生成 API 运行自备模型;同一篇文章还介绍了兼容 OpenAI 的本地端点。微软称,另一个语音识别 API 可接受 ONNX Whisper 模型。这些是开发接口,仍需要模型文件和足够的计算能力。微软发布这些 API,并不意味着每台 Windows PC 都已获得公告中的 Copilot 体验。

对于 GitHub Copilot,计划中的选择是显式选择本地模型,或使用 HydraFusion 在本地与云端模型之间自动路由。微软的 技术说明 称,预览版将在 10 月底前推出到 Copilot 应用、CLI 和 VS Code。它将 Windows ML 提供方上的 MAI Code 1.1 Flash,以及兼容 OpenAI 的本地端点列为显式选择的选项。它还区分了模型推理和工具执行:在本地运行模型本身不会限制代理启动的命令,因此 MXC 集成很重要。

该说明报告了微软在特定预生产硬件和配置上测得的模型占用、吞吐量和基准结果。这些数字无法说明每位用户完整编程会话的表现。我们没有测试该设备、模型或路由预览版。

新 PC 是一种使用途径,而不是 MXC 的前提条件

微软将 RTX Spark PC 定位为运行更大本地模型的设备。Surface Laptop Ultra 以及 ASUS、Dell、HP、Lenovo 和 MSI 的合作伙伴笔记本已开放预购,公布的开始发货日期为 10 月 16 日。Surface RTX Spark Dev Box 也已开放预购,预计 11 月发往美国。微软称 Surface Laptop Ultra 可配置最高 128 GB 统一内存。性能比较来自公司或合作伙伴测试,并非 BIG CHANGE 的测量结果。

这些设备提供了不同于 MXC SDK 的路径;微软代码库列出的 SDK 支持 Windows 11、Linux 和 macOS。对 Copilot 本地上下文或操作感兴趣的 Windows 用户,应关注 Copilot+ PC 的推出以及该功能在其设备和市场中的可用性。对隔离感兴趣的开发人员现在可以查看 MXC 示例和后端文档 。计划使用 HydraFusion 路由的人需要等待实验性预览版,并在其推出时查看支持的应用、模型和硬件条件。

来源与延伸阅读