Microsoft 已提出一項計畫,讓 Windows 能在個人電腦、雲端或兩者之間執行 AI 工作。10 月 7 日的公告涵蓋代理程式隔離、本機模型工具、GitHub Copilot 路由,以及新款電腦。它們有不同的推出日期與需求。對於正在決定要試用或購買什麼的人來說,這些差異比共同使用的「混合智慧」名稱更重要。

目前最明確已推出的項目是 Microsoft Execution Containers (MXC),Microsoft 表示此產品已正式推出。開發人員可用它將代理程式工具或產生的程式碼,放在定義檔案、網路與介面存取權限的政策中執行。GitHub Copilot 新增的本機路由功能則是實驗性預覽版,預計於 10 月稍晚推出。Microsoft 預期,Copilot 將在未來幾個月開始於 Copilot+ 電腦上推出更廣泛的電腦情境、動作與本機模型功能。

重大變化

  • 有哪些改變: Microsoft 正將對代理程式行為的控制,與在 Windows 電腦上執行模型的更多方式結合。MXC 現已推出;公告中的 Copilot 體驗則會稍後推出,或仍處於實驗階段。
  • 影響對象: 開發人員現在可檢視 MXC SDK 與政策。Copilot 使用者和組織在規劃本機路由或電腦動作前,應先確認裝置需求與推出狀態。
  • 接下來要看什麼: 實際考驗在於這些不同部分能否在已推出的產品中協同運作。Microsoft 的公告描述了這個方向,但並未證明每項功能都已在每部 Windows 電腦上提供。

Windows 公告的推出時程

公告內容

截至 10 月 7 日的狀態

使用對象或尚待確認事項

Microsoft Execution Containers

Microsoft 表示 MXC 已正式推出,包括支援 Windows 11 與 Windows 365。

代理程式開發人員整合其 SDK,並定義工作負載政策。各作業系統的後端不同;部分仍屬實驗性。

Windows ML 透過 llama.cpp 支援 GGUF 模型

以實驗性開發者整合方式提供。

開發人員提供模型,並使用新的文字生成 API 或本機端點。這並非 Copilot 的全面推出。

GitHub Copilot 本機模型與 HydraFusion 路由

實驗性預覽版預計於 10 月稍晚推出至 Copilot 應用程式、CLI 與 VS Code。

Microsoft 描述了本機與雲端模型間的自動路由,以及明確選擇本機模型的方式。此次發布並不代表這些功能已正式提供。

Copilot 的本機情境、動作與模型

預計於未來幾個月開始推出。

Microsoft 指定需使用 Copilot+ 電腦,並表示可用性可能因裝置、市場與晶片而異。本機情境與動作被描述為需經授權的功能。

RTX Spark Windows 電腦

Surface Laptop Ultra 與多款合作夥伴電腦已開放預購。

Microsoft 表示這些筆記型電腦將於 10 月 16 日開始出貨;Surface RTX Spark Dev Box 預計於 11 月出貨給美國客戶。預購不代表已進行實機測試。

日期與條件來自 Microsoft 的 Windows 發布公告、其 MXC 開發者公告 以及其 Windows ML 開發者公告。Microsoft 也為實驗性頻道的 Windows Insider 宣布 Search 動作,這與本文所述 AI 系統分屬不同推出計畫。

MXC 為代理程式工具提供政策界線,供開發人員設定

AI 代理程式可能需要執行指令、讀取專案資料夾或連線至服務。MXC 讓開發人員可在 JSON 請求中指定這些資源,並在選定的隔離後端中執行工作負載。Microsoft 的 公開儲存庫 提供 Rust、.NET 與 Node SDK、範例及具版本管理的結構描述。該儲存庫將 MXC 描述為應用程式內的 SDK 相依項目,而非能自動限制個人電腦上所有代理程式的開關。

Microsoft 表示,正式推出的選項包括適用於 Windows 11、macOS 與 Linux 的程序容器,以及 Windows 11 工作階段容器與 WSL 容器。其儲存庫將 Windows Sandbox、MicroVM 與 Hyperlight 後端標示為實驗性; 開發者公告 也將 MicroVM 標示為實驗性。選擇後端的開發人員仍須確認特定平台及其安全屬性。Microsoft 對執行模型的說明是產品方的主張,並非 BIG CHANGE 所做的獨立安全評估。

Microsoft 所稱的「隔離、身分與管理能力」之間也有一項重要區別。MXC 目前提供的是隔離層。開發者公告指出,Entra 對代理程式活動的歸屬追蹤,以及適用於 MXC 程序容器的 Intune 政策即將推出。IT 團隊應分別確認這些控制功能的推出狀態,而非將整套功能視為已正式提供。

本機模型與路由功能的起點各不相同

Windows ML 的新 GGUF 路徑 讓開發人員能以實驗性方式透過其文字生成 API 執行自備模型;同一篇公告也介紹了相容 OpenAI 的本機端點。Microsoft 表示,另一個語音辨識 API 可接受 ONNX Whisper 模型。這些都是開發介面,仍需要模型檔案與足夠的運算資源。Microsoft 推出這些 API,並未讓每部 Windows 電腦都擁有公告中的 Copilot 體驗。

對 GitHub Copilot 而言,預定選擇包括明確選用本機模型,或使用 HydraFusion 在本機與雲端模型間自動路由。Microsoft 的 技術說明 表示,預覽版將於 10 月底前推出至 Copilot 應用程式、CLI 與 VS Code。該說明將 Windows ML 提供者上的 MAI Code 1.1 Flash,以及相容 OpenAI 的本機端點列為可明確選用的方案。它也區分模型推論與工具執行:在本機執行模型本身並不會限制代理程式啟動的指令,因此 MXC 整合才如此重要。

該說明報告了 Microsoft 在特定預生產硬體與設定上測得的模型佔用空間、吞吐量與基準測試數據。這些數字無法證明個別使用者完整程式設計工作階段的實際效能。我們沒有測試該裝置、模型或路由預覽版。

新款電腦提供一種使用途徑,但並非使用 MXC 的先決條件

Microsoft 將 RTX Spark 電腦定位為執行較大型本機模型的裝置。Surface Laptop Ultra 與 ASUS、Dell、HP、Lenovo 及 MSI 的合作夥伴筆電已開放預購,Microsoft 表示將於 10 月 16 日開始出貨。Surface RTX Spark Dev Box 也開放預購,預計 11 月出貨給美國客戶。Microsoft 表示,Surface Laptop Ultra 可配置最高 128 GB 的統一記憶體。效能比較來自公司或合作夥伴測試,並非 BIG CHANGE 的測量結果。

這些裝置提供不同於 MXC SDK 的途徑;Microsoft 儲存庫將該 SDK 列為支援 Windows 11、Linux 與 macOS。對 Copilot 本機情境或動作感興趣的 Windows 使用者,應留意 Copilot+ 電腦的推出進度,以及相關功能在自己裝置和市場的可用性。有意使用隔離功能的開發人員現在可檢視 MXC 範例與後端文件 。計畫採用 HydraFusion 路由的人,則需等待實驗性預覽版推出,並在屆時確認支援的應用程式、模型及硬體條件。

來源與延伸閱讀