AI-translated from English; not yet reviewed by a fluent editor. # Liquid AI 的 LFM2.5 24B 模型為本機代理開發者提供更多服務選擇 > Liquid AI 新推出的 LFM2.5-24B-A2B 提供可下載權重，可用於本機與 GPU 服務。評估它是否適合使用工具的代理時，授權條款以及分開測試的邊緣與伺服器基準都很重要。 By BIG CHANGE Editorial Published: 2026-10-14T14:58:18.169Z Updated: 2026-10-14T14:58:18.169Z Canonical: https://bigchange.ai/blog/liquid-lfm25-24b-local-agents-serving ![Conceptual charcoal illustration of two removable storage modules beside an open compact workstation, a separate rackmount server and a small input pad on a workbench.](https://bigchange.ai/api/media/file/liquid-local-serving-components-hero-v1.png) AI-generated conceptual illustration by BIG CHANGE; no Liquid AI hardware, agent test or benchmark result is depicted. Liquid AI 於 10 月 13 日發布 [LFM2.5-24B-A2B](https://www.liquid.ai/blog/lfm2-5-24b-a2b)，提供下載權重。這是一款為工具使用而訓練、僅處理文字的推理模型。其[模型卡](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B)列出多種服務系統的檢查點，從量化後的本機檔案到面向 GPU 伺服器的格式都有。對建立代理的團隊而言，這些檔案只是設定的一部分：仍需要服務模型的執行環境，以及執行模型所提工具呼叫的代理框架。 ## 重大變革 - **改變了什麼：**Liquid AI 已將後訓練模型及其基礎版本發布至 Hugging Face，並提供適用於不同硬體的服務格式。模型卡列出總計 240 億個參數，推論期間啟用 24.5 億個；名稱中的「A2B」是四捨五入後的標籤。 - **為何重要：**評估本機代理的團隊可以先依硬體選擇檢查點與服務路徑，再連接使用工具的代理框架，而不是把下載模型視為完整代理。授權與可用硬體仍會影響這項決定。 - **後續觀察：**Liquid AI 表示，在指定測試中取得有前景的速度與工具使用結果。團隊仍須測量自己的任務與並行負載；該公司的邊緣解碼速率與伺服器吞吐量描述的是不同工作負載。 ## 團隊可下載的內容 此[後訓練檢查點](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B)是為代理工作設計；另一個[基礎檢查點](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-Base)則供調整使用。Liquid AI 將新模型描述為僅推理型：它會先產生思考片段，再提供最終答案，這與先前的 LFM2-24B-A2B 不同。該模型標示的上下文上限為 131,072 個 token，前一代則為 32,768 個。這些是模型規格，不能衡量特定應用如何運用長上下文。 模型卡連結了供 Transformers、vLLM 與 SGLang 使用的原生檢查點；供 GPU 服務的[FP8 權重](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-FP8)；供 llama.cpp 使用的[GGUF 檔案](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-GGUF)；供 ONNX Runtime 使用的[ONNX 檔案](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-ONNX)；以及供 Apple Silicon 使用的[4 位元 MLX 版本](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-4bit)。BIG CHANGE 在 10 月 14 日確認這六個儲存庫（包括基礎模型）皆可存取。模型卡將 DSpark 用於推測解碼的草稿模型標示為「即將推出」。已發布格式不代表每種後端與硬體組合都經過獨立測試。 這些權重屬於**開放權重**，適用[LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE)。該授權允許下載與修改，但商業使用條件是使用者或法律實體的年營收低於 1,000 萬美元。超過該門檻的商業使用不在其授權範圍內。部署前，組織應閱讀完整授權；此處的「開放權重」不代表商業使用不受限制。 ## 模型、伺服器與代理框架各有不同工作 模型卡的[工具使用說明](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B)讓模型取得函式清單並提出呼叫，再由軟體執行該呼叫，最後把工具結果傳回模型以便回答。模型本身不會執行瀏覽器動作或檔案操作。服務後端載入檢查點並提供推論；代理框架負責與工具交換資訊，並決定如何處理權限與結果。 Liquid AI 的[本機代理指引](https://docs.liquid.ai/examples/agent-harnesses)展示了實際分工：透過相容 OpenAI 的端點服務模型，並將 Hermes Agent、OpenClaw 或 Pi 指向本機位址。連接埠與設定取決於所選伺服器。公司表示，後訓練模型曾在 Hermes Agent、OpenCode 等代理框架中訓練。這是訓練與支援設定的說明，不能證明下載的代理必然可靠，或所有設定都能讓資料留在裝置上。部署方式、工具與網路連線才決定這條界線。 ## 依工作負載解讀速度數字 Liquid AI 報告，邊緣解碼在 Apple M5 Max 上達到**每秒 184 個輸出 token**，在 AMD Ryzen AI Max+ 395 上達到**114 個**。模型卡指出，測試使用 llama.cpp、Q4\_K\_M 量化及 4,000-token 輸入上下文，並在 Liquid AI 的 Pipette 基礎設施上收集。這是供應商針對量化本機設定的測量，不能代表原生 BF16 權重、任意筆電，或包含工具的完整代理任務速度。 該公司所稱**每秒超過 21,000 個輸出 token**是 GPU 總吞吐量：在持續高並行下，以單張 NVIDIA B300 的總輸出 token 除以實際時間計算。其設定為 SGLang 0.5.22、BF16 權重、1,024 個輸入 token、最多 256 個輸出 token；完成的請求會持續被新請求取代，以維持指定的執行中數量。這不是一個人等待單一代理回覆時的速度。兩項測量回答不同工程問題：本機生成速度與負載下伺服器總容量。 Liquid AI 也公布與其他模型的 16 項基準比較。例如，它報告 LFM2.5 在 LiveClaw 的成績為 48.09，高於 Qwen3.6-35B-A3B 的 38.19；但同一表格中，Qwen 在 WebArena Verified 與 SWE-Bench Verified 領先。公司表示，所有模型都以 vLLM 及各基準專用的生成設定評估。BIG CHANGE 未重做這些測試，因此它們適合作為實際工作負載測試的線索，而非獨立能力排名。 實際評估須依具體情境進行：選擇符合目標硬體的檔案與執行環境、閱讀授權、只連接代理所需的工具，並依預期請求負載測試真實任務。Liquid AI 現已提供這些評估元件；各團隊仍須在正式工作流程中自行驗證其表現。 ## 來源與延伸閱讀 - [Liquid AI, “LFM2.5-24B-A2B: Built for Fast On-Device Agents”](https://www.liquid.ai/blog/lfm2-5-24b-a2b)（2026 年 10 月 13 日）。發布說明介紹相較 LFM2 的變化、訓練方法、支援的服務系統，以及供應商進行的品質與速度測量。BIG CHANGE 未重做基準測試，也未執行模型。 - [Liquid AI, LFM2.5-24B-A2B model card](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B)（2026 年 10 月 14 日查閱）。列出總計 24.0B 與啟用 2.45B 個參數、檔案連結、推論設定、工具使用格式、基準條件，以及即將推出的 DSpark 草稿模型。模型卡由供應商維護，內容可能變動。 - [Liquid AI, LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE)（2026 年 10 月 14 日查閱）。規定散布義務，以及商業使用須符合年營收低於 1,000 萬美元的條件。讀者應以授權全文判斷自己的部署方式。 - [Liquid AI, Agent Harnesses guide](https://docs.liquid.ai/examples/agent-harnesses)（由模型卡連結，2026 年 10 月 14 日查閱）。說明本機相容 OpenAI 的服務端點與代理框架設定。這是文件；BIG CHANGE 未執行其中指示。 ## Sources - [Liquid AI, LFM2.5-24B-A2B: Built for Fast On-Device Agents](https://www.liquid.ai/blog/lfm2-5-24b-a2b) — 供應商發布說明，介紹模型、服務生態系與基準結果。速度與品質數字是 Liquid AI 的測量，並非 BIG CHANGE 的測試。 - [Liquid AI, LFM2.5-24B-A2B model card](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) — 供應商維護的模型卡，列出參數數量、檔案連結、推論與工具使用細節、評估設定及 DSpark 即將推出狀態。已檢查儲存庫 SHA：1769516ac588c4c558089c94f27d96b0dc67b183。 - [Liquid AI, LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) — 模型的實際授權。第 5 節將商業使用限定於年營收低於 1,000 萬美元；再散布則有標示義務。 - [Liquid AI, Agent Harnesses guide](https://docs.liquid.ai/examples/agent-harnesses) — 由模型卡連結的維護中設定指南，記載本機相容 OpenAI 的服務與代理框架設定。BIG CHANGE 未執行這些指示。