AI-translated from English; not yet reviewed by a fluent editor. # Liquid AI 的 LFM2.5 24B 模型为本地智能体开发者提供更多服务方式 > Liquid AI 新推出的 LFM2.5-24B-A2B 提供可下载的检查点，可在本地或 GPU 上运行。评估其用于工具型智能体时，许可证以及边缘设备与服务器测试的区别都很重要。 By BIG CHANGE Editorial Published: 2026-10-14T14:58:18.169Z Updated: 2026-10-14T14:58:18.169Z Canonical: https://bigchange.ai/blog/liquid-lfm25-24b-local-agents-serving ![Conceptual charcoal illustration of two removable storage modules beside an open compact workstation, a separate rackmount server and a small input pad on a workbench.](https://bigchange.ai/api/media/file/liquid-local-serving-components-hero-v1.png) AI-generated conceptual illustration by BIG CHANGE; no Liquid AI hardware, agent test or benchmark result is depicted. Liquid AI 于 [LFM2.5-24B-A2B](https://www.liquid.ai/blog/lfm2-5-24b-a2b) 10 月 13 日发布了可下载权重。这是一款经过工具使用训练、仅处理文本的推理模型。其[模型卡](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B)列出了多个运行系统的检查点，从本地量化文件到面向 GPU 服务器的格式都有。对构建智能体的团队来说，这些文件只是配置的一部分：还需要运行模型的 runtime，以及执行模型所提议工具调用的 harness。 ## 重大变化 - **变化内容：** Liquid AI 将后训练模型及其基础版本发布到 Hugging Face，并提供适用于不同硬件的运行格式。模型卡称其参数总数为 240 亿，推理期间激活 24.5 亿；“A2B”是四舍五入后的名称。 - **为何重要：** 评估本地智能体的团队可以先选择检查点和运行路径，再连接使用工具的 harness，而不必把下载模型等同于获得完整智能体。许可证和可用硬件仍会影响这一选择。 - **值得关注：** Liquid AI 报告称，在指定测试中，模型的速度和工具使用表现有希望。团队仍需测量自己的任务和并发负载；公司的边缘解码速度与服务器吞吐量描述的是不同工作负载。 ## 团队可以下载什么 这个[后训练检查点](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B)面向智能体工作。另有一个[基础检查点](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-Base)可用于适配。Liquid AI 将新模型描述为仅用于推理：与早期 LFM2-24B-A2B 不同，它会在最终答案前生成思考片段。其标称上下文上限为 131,072 个 token，前代为 32,768 个。这些是模型规格，并非对某个应用如何利用长上下文的测量。 模型卡链接到供 Transformers、vLLM 和 SGLang 使用的 native 检查点；[FP8 权重](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-FP8)用于 GPU 运行；[GGUF 文件](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-GGUF)用于 llama.cpp；[ONNX 文件](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-ONNX)用于 ONNX Runtime；以及[4 位 MLX 版本](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-4bit)用于 Apple Silicon。BIG CHANGE 于 10 月 14 日确认，包括基础模型在内的六个仓库当时均可访问。模型卡将用于推测解码的 DSpark 草案模型标注为“即将推出”。这些格式已发布，并不能证明每种后端与硬件组合都经过独立测试。 这些权重属于**开放权重**，采用[LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE)。许可证允许下载和修改，但商业使用的条件是用户或法律实体年收入低于 1,000 万美元。超过该门槛的商业使用不在许可范围内。组织在部署前应阅读完整许可证；这里的“开放权重”并不意味着商业使用不受限制。 ## 模型、服务器和 harness 的职责不同 模型卡中的[工具使用说明](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B)为模型提供函数列表，并允许它提出调用建议；软件负责执行调用，再把工具结果返回给模型以便作答。模型本身不会执行浏览器操作或文件操作。运行后端加载检查点并提供推理服务。智能体 harness 管理与工具的交互，并决定如何处理权限和结果。 Liquid AI 的[本地智能体说明](https://docs.liquid.ai/examples/agent-harnesses)展示了这种分工：通过兼容 OpenAI 的 endpoint 运行模型，再将 Hermes Agent、OpenClaw 或 Pi 指向其本地地址。端口和配置取决于所选服务器。该公司称，它曾在 Hermes Agent、OpenCode 等智能体 harness 中训练后训练模型。这说明了训练方式和受支持的配置，但不能证明下载的智能体可靠，也不能证明每种配置都会让数据留在设备上。部署方式、工具和网络连接共同决定这一边界。 ## 按工作负载理解速度数字 Liquid AI 报告称，**Apple M5 Max 上每秒输出 184 个 token**，以及**AMD Ryzen AI Max+ 395 上每秒 114 个**，用于边缘解码。模型卡称测试使用 llama.cpp、Q4\_K\_M 量化和 4,000-token 输入上下文，并在 Liquid AI 的 Pipette 基础设施上进行。这些是供应商对一种量化本地配置的测量，不能代表 native BF16 权重、任意笔记本电脑或带工具的完整智能体任务的速度。 该公司所称的**每秒超过 21,000 个输出 token**是 GPU 聚合吞吐量：在持续高并发下，将单台 NVIDIA B300 输出的 token 总数除以经过的时间。所述配置使用 SGLang 0.5.22、BF16 权重、1,024 个输入 token 和最多 256 个输出 token，并持续用新请求替换已完成的请求，以维持目标并发数。这不是一个人等待单个智能体时的响应速度。两项测量回答的是不同工程问题：本地生成速度与负载下服务器的总容量。 Liquid AI 还发布了与其他模型的 16 项基准比较。例如，公司报告 LFM2.5 在 LiveClaw 上为 48.09，而 Qwen3.6-35B-A3B 为 38.19；同一表格中，Qwen 在 WebArena Verified 和 SWE-Bench Verified 上领先。公司称所有模型均使用 vLLM 和各基准专用的生成设置进行评估。BIG CHANGE 没有复现这些测试；它们可作为团队测试自身工作负载的线索，而非独立能力排名。 实际评估应具体开展：为目标硬件选择合适的制品和 runtime，阅读许可证，只连接智能体所需工具，并按预期请求负载测试实际任务。Liquid AI 现在提供了开展这类评估所需的组件。各团队仍需验证它们在生产工作流中的表现。 ## 来源与延伸阅读 - [Liquid AI，《LFM2.5-24B-A2B: Built for Fast On-Device Agents》](https://www.liquid.ai/blog/lfm2-5-24b-a2b)（2026 年 10 月 13 日）。发布说明介绍了相较 LFM2 的变化、训练方法、支持的运行系统，以及供应商执行的质量与速度测量。BIG CHANGE 未复测基准，也未运行模型。 - [Liquid AI，LFM2.5-24B-A2B 模型卡](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B)（2026 年 10 月 14 日查阅）。列出总计 240 亿、激活 24.5 亿个参数，制品链接、推理设置、工具使用格式、基准条件，以及即将推出的 DSpark 草案模型。该卡由供应商维护，内容可能变化。 - [Liquid AI，LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE)（2026 年 10 月 14 日查阅）。规定了分发义务，以及商业使用需满足年收入低于 1,000 万美元的条件。作出自身部署决定时应以许可证原文为准。 - [Liquid AI，Agent Harnesses 指南](https://docs.liquid.ai/examples/agent-harnesses)（由模型卡链接，2026 年 10 月 14 日查阅）。该维护中的设置指南介绍本地兼容 OpenAI 的运行 endpoint 和 harness 配置。这是文档；BIG CHANGE 未执行其中步骤。 ## Sources - [Liquid AI，LFM2.5-24B-A2B: Built for Fast On-Device Agents](https://www.liquid.ai/blog/lfm2-5-24b-a2b) — 供应商对模型、运行生态和基准结果的介绍。速度与质量数字均为 Liquid AI 的测量，不是 BIG CHANGE 的测试。 - [Liquid AI，LFM2.5-24B-A2B 模型卡](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) — 维护中的模型卡，包含参数数量、制品链接、推理和工具使用详情、评估设置及 DSpark 后续状态。已核验仓库 SHA：1769516ac588c4c558089c94f27d96b0dc67b183。 - [Liquid AI，LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) — 模型实际适用的许可证。第 5 节要求商业使用的年收入低于 1,000 万美元；再分发时须保留声明。 - [Liquid AI，Agent Harnesses 指南](https://docs.liquid.ai/examples/agent-harnesses) — 模型卡所链接的维护中设置指南，记录了本地兼容 OpenAI 的运行方式和 harness 配置。BIG CHANGE 未执行其中步骤。