xAI 於 10 月 14 日透過其託管的 Voice Agent API 發布 Grok Voice 3.0。對於正為客服挑選語音代理的團隊,Artificial Analysis 目前的語音對語音排行榜顯示,其模擬客服任務成績比 Grok Voice 2.0 高出 15.1 個百分點,另一項任務成功指標變化很小,而首次音訊回應則較慢。

xAI 表示,別名 grok-voice-latest 現在會自動指向 3.0。目前的 API 指南也提供帶版本號的 grok-voice-3.0 名稱,供需要固定版本的團隊使用。據 xAI 表示,WebSocket 端點、工作階段參數及事件與 2.0 相同。使用此別名的應用程式無須遷移,但可變別名背後換了新模型,仍有理由重新執行應用程式本身的通話測試。

重大變化

  • 改變了什麼: Grok Voice 3.0 已取代 2.0,成為 API 別名 grok-voice-latest 背後的模型。Artificial Analysis 現在公布的模擬客服基準測試成績為 71.6%,高於 2.0 的 56.5%。
  • 為何重要: 該指標測試代理能否在按腳本設計的航空、零售及電信問題中,達到正確的資料庫狀態。相較一般音訊推理評分,它更切合客服工作流程,但仍屬模擬測試。
  • 值得關注: 同一評測機構測得 3.0 首次音訊回應為 0.81 秒,2.0 則為 0.70 秒。團隊在切換固定版本的部署前,應檢查自身的回應時間、任務完成情況及可計費工作階段長度。

客服評分與回應延遲

Artificial Analysis 的方法說明將 τ-Voice 測試描述為:模擬客戶致電一個配有政策文件和領域專用工具的代理。航空、零售及電信任務都有明確的最終資料庫狀態,評分取三次測試的平均值。目前排行榜給 Grok Voice 3.0 的分數為 71.6%,Grok Voice 2.0 則為 56.5%,即在這些測試條件下上升 15.1 個百分點。評測使用模擬客戶、生成語音、轉錄及模型評分者。它並未衡量已部署服務能為多少真實來電者解決問題。

另一項 Speech Agent Arena 任務成功率,僅從 2.0 的 94.6% 上升至 3.0 的 94.8%。該指標統計符合資格、且以正確的最終工具呼叫完成任務的對話;它使用的測試與 τ-Voice 不同。Artificial Analysis 綜合指數從 81.3 升至 86.9。目前版本對音訊推理、τ-Voice、來電者盲測偏好及 Arena 任務成功率給予相同權重。任何單一數字都不足以證明所有客服任務均有進步。

在速度方面,Artificial Analysis 公布其 Big Bench Audio 問題的平均首次音訊回應時間。Grok Voice 3.0 為 0.81 秒,2.0 為 0.70 秒。因此在該測試中,新模型開始說話的時間慢了 0.11 秒,儘管 xAI 在發布公告中稱其延遲「低於一秒」。這項測量截至首次輸出音訊為止,並非完整通話延遲或問題解決時間。

公告的語音價格涵蓋什麼

xAI 公告兩個版本的語音對語音音訊價格均為每分鐘 0.08 美元,或每小時 4.80 美元。其模型定價頁面另外對每個可計費的 conversation.item.create 文字事件收取 0.004 美元。使用預設的 server_vad 輪次偵測時,音訊計量按工作階段長度計算;使用按住說話模式時,則按傳送和接收的音訊計算。因此,按公告的時長費率,一個持續開啟十分鐘的工作階段,音訊費用為 0.80 美元,尚未計入另行收費的文字事件。這項計算依據 xAI 的價目表,並非 BIG CHANGE 的帳單或實測通話。

開發者需要使用 xAI API 金鑰建立伺服器端 WebSocket 連線,或為用戶端應用程式使用短效權杖。API 指南記載了 wss://api.x.ai/v1/realtime、查詢參數 model、用來設定指示、聲音和輪次偵測的 session.update 事件,以及作為回應的串流音訊事件。xAI 公告每個團隊最多同時開啟十個工作階段,單一工作階段最長 120 分鐘。客服團隊仍須自行提供政策、工具、客戶資料邊界及升級處理流程;已公布的基準測試設定無法證明該團隊的特定實作會有何表現。

xAI 也表示,Starlink 每天以 Grok Voice 處理 20,000 通來電,約 70% 無須人工即可解決。這些是公司自行公布的營運數據;Artificial Analysis 的合成測試並未驗證這些說法。BIG CHANGE 查閱了發布資訊、API 與基準測試文件。我們並未使用該 API、致電客服代理,或重現評測。

資料來源與延伸閱讀