Subquadratic 於 10 月 12 日推出了SubQ Snap,作為 AI 代理中執行有限範圍決策的模型。它不會撰寫開放式回答,而是根據應用程式定義的問題,評估提供的文字與可選影像。其公開預覽 API 會回傳選項、分數與機率,供軟體直接使用。

對開發者而言,實際變化在於:一次決策呼叫可處理長篇輸入,而代理在每個路由或檢查步驟中不必都生成文字。SubQ 宣稱其脈絡視窗為 393,216 tokens(384K),輸入價格為每百萬 tokens 0.05 美元,輸出不收費。這些是公司目前的預覽條件。容量有限,採先到先得,之後註冊的人可能會進入候補名單。

重大變化

  • 變化所在:Snap 在公開預覽中提供應用程式定義的答案空間,可處理最高 393,216 tokens(384K)的文字與影像脈絡。開發者可以要求它從指定選項中選擇或為結果評分,而不必要求它生成文字。
  • 為何重要:代理建置者會反覆執行有限範圍的呼叫,例如選擇工具和檢查結果。型別化回應可直接交給下一個軟體步驟;生成式模型則仍可用於需要開放式回答的工作。這種分工能否改善實際代理,取決於決策準確度及周邊工作流程。
  • 值得觀察:SubQ 的發布基準在多項決策測試中偏向 Snap,但這些評估由公司自行執行。獨立的任務層級測試與更廣泛的預覽存取,才能顯示其速度、成本與錯誤率在已部署代理工作流程中的表現。

Snap 呼叫會回傳什麼

該決策 API 文件將subq-snap-preview為該模型POST /v1/systemone。請求會提供一個state,可以是文字或結構化資料,以及一個或多個具名問題。noul是以「是」的機率表示的肯否判斷。choice會從 2 到 255 個具名選項中選擇,並回傳各選項的機率。score使用 2 到 10 個有序級別,並回傳加權分數及其機率分布。

這些回應形式比產品名稱更重要。開發者定義允許的答案,並決定應用程式如何處理答案。API 的機率是模型輸出,並非經驗證、代表某項現實決策正確頻率的測量值。SubQ 自己的文件顯示,開發者會套用門檻,並將不確定的案例交回給人處理;文件並未為每種任務建立通用門檻。

Snap 除了 state 外,還可接受最多四張 PNG、JPEG 或 WebP 影像。每張影像解碼後不得超過 4 MiB,合計解碼大小不得超過 8 MiB。API 文件指出,影像 token 與文字共用 393,216-token 脈絡上限。不支援影片;建議的處理方式是抽取不超過四個影格作為影像。這些是預覽 API 的具體輸入限制,並不保證模型能可靠理解每份長文件或影像。

值得留意的基準差距

在發布評估中,SubQ 報告 Snap 在 Decision Index 0.2.1 的完整公開套件中得分 61.7,高於 Jev 的 57.9。它也報告,在選定的 16 項企業導向基準中,平均分為 67.6,高於 61.6。Snap 在其中 13 項領先、3 項落後,包括一項測試代理何時應呼叫、詢問、回答或拒絕的評估。這些數字來自 SubQ 的評估;BIG CHANGE 未重現這些結果,也未在代理中測試任一模型。

公司另稱 Snap 在其改編的 Decision RULER 百萬 token 測試中得分 96.3。該結果屬於另一項基準評估。目前 API 請求上限為 393,216 tokens,文件稱超限請求會失敗。讀者不應把百萬 token 基準測試當成預覽 API 的輸入規格。

SubQ 表示,Snap 可處理 100,000-token 請求,並在約一秒內回傳決策。這項公開說法沒有提供 BIG CHANGE 可觀察到的延遲分布,也未涵蓋不同帳戶、並行流量或不同問題類型。預覽版是否適合取代重大工作流程中的某個步驟,應先依讀者自己的決策集合、錯誤成本與回應時間需求進行評估。

存取、價格與資料處理

該模型清單將 Snap 標示為支援文字與影像輸入的公開預覽,列出每百萬輸入 token 0.05 美元及免費輸出。發布頁面表示,容量可能使新用戶進入候補名單。兩個來源都沒有證明每個組織都能立即存取或享有特定速率限制。

評估敏感工作用途的團隊,也應先檢查資料保留政策再傳送文件或影像。文件所述的組織預設設定會保留提示、完成內容及對話歷史,直到刪除為止。SubQ 提供固定天數的保留政策,並可依要求為整個組織啟用零資料保留。該公司表示,即使啟用零資料保留,帳務與支援記錄仍會保留模型、token 計數、時間及中繼資料標籤,但不含提示或完成內容。該組織設定下仍可使用 Decisions 端點。BIG CHANGE 尚未獨立驗證該服務的儲存行為。

SubQ 的貢獻,是提供一種具體 API 形式,以公開的低 token 費率,針對大型脈絡反覆做有限範圍的決策。尚待解答的是,這些決策在組織實際會交由它處理的工作中,究竟有多可靠。答案需要超越發布分數的獨立測試。

來源與延伸閱讀

  • SubQ 於 10 月 12 日發布的公告說明了預期的代理用途、價格、預覽存取與公司執行的評估。其速度與基準數據是供應商說法;百萬 token 的 Decision RULER 結果與預覽 API 的上限不同。
  • SubQ Decisions API 參考文件記載端點、型別化問題與回應、token 與影像限制,以及錯誤行為。它是現行產品文件,並非已部署工作流程可靠性的證據。
  • SubQ 模型清單提供預覽模型 ID、模態及公布價格。預覽期間的條件與可用性可能改變。
  • SubQ 資料保留文件說明預設政策與可選的組織政策。該政策描述預期的服務行為;BIG CHANGE 未稽核資料儲存或刪除。