Mas maraming opsyon sa paghahatid para sa mga lokal na agent builder ang LFM2.5 24B model ng Liquid AI

Inilabas ng Liquid AI ang LFM2.5-24B-A2B noong Oktubre 13 bilang mada-download na weights para sa text-only reasoning model na sinanay gumamit ng tools. Inililista ng model card nito ang mga checkpoint para sa ilang serving system, mula sa quantized na lokal na file hanggang sa mga format para sa GPU server. Bahagi lamang ng setup ang mga file na iyon para sa mga team na gumagawa ng agent: kailangan din nila ng runtime na maghahatid sa model at harness na magpapatakbo sa mga tool call na iminumungkahi nito.

Ang malaking pagbabago

• Ano ang nagbago: Inilagay ng Liquid AI sa Hugging Face ang post-trained model at base version nito, na may serving formats para sa iba't ibang hardware. Ayon sa model card, 24.0 bilyon ang kabuuang parameters at 2.45 bilyon ang aktibo habang nag-i-inference; pinaikling label ang “A2B.”
• Bakit ito mahalaga: Maaaring pumili muna ng checkpoint at paraan ng serving ang team na sumusuri sa lokal na agent bago ikabit ang tool-using harness, sa halip na ituring na kumpletong agent ang pag-download ng model. Nakaaapekto pa rin sa pasya ang lisensya at hardware na mayroon sila.
• Ano ang dapat bantayan: Nag-uulat ang Liquid AI ng magagandang resulta sa bilis at paggamit ng tools sa mga tinukoy nitong pagsubok. Kailangang sukatin ng mga team ang sarili nilang mga gawain at concurrency; magkaibang workload ang edge decode rate at server throughput ng kumpanya.

Ano ang maaaring i-download ng team

Nilayon ang post-trained checkpoint para sa agentic na gawain. Para sa adaptation ang hiwalay na base checkpoint . Inilalarawan ng Liquid AI ang bagong model bilang reasoning-only: bumubuo ito ng thinking segment bago ang pinal na sagot, di-gaya ng naunang LFM2-24B-A2B. 131,072 tokens ang sinasabing context limit nito, mula sa 32,768 ng nauna. Mga specification ito ng model, hindi sukatan kung gaano kahusay gumamit ng mahabang context ang isang partikular na application.

Nag-uugnay ang model card sa native checkpoint para sa Transformers, vLLM at SGLang; FP8 weights para sa GPU serving; GGUF files para sa llama.cpp; ONNX files para sa ONNX Runtime; at isang 4-bit MLX version para sa Apple Silicon. Kinumpirma ng BIG CHANGE noong Oktubre 14 na naa-access ang anim na repository na iyon, pati ang base model. Minarkahan ng card na “coming soon” ang DSpark draft model para sa speculative decoding. Hindi patunay na nasubukan ng independiyenteng partido ang bawat kombinasyon ng backend at hardware ang mga nailathalang format.

Ang weights ay open-weight, sa ilalim ng LFM Open License v1.0. Pinahihintulutan ng lisensya ang pag-download at pagbabago, ngunit pinapahintulutan lamang ang komersyal na paggamit kung mas mababa sa $10 milyon ang taunang kita ng user o legal entity. Hindi pinahihintulutan ng mga tuntunin ang komersyal na paggamit lampas sa threshold na iyon. Dapat basahin ng mga organisasyon ang buong lisensya bago mag-deploy; hindi ibig sabihin ng “open-weight” dito ay walang limitasyon ang komersyal na paggamit.

Magkakaiba ang tungkulin ng model, server at harness

Nagbibigay ang paglalarawan sa tool use sa model card ng listahan ng functions sa model at hinahayaang magmungkahi ito ng call; software ang nagpapatakbo ng call at ibinabalik ang resulta upang makasagot ang model. Hindi mismong nagpapatakbo ang model ng browser action o file operation. Nilo-load ng serving backend ang checkpoint nito at nagbibigay ng inference. Pinamamahalaan ng agent harness ang palitan sa tools at nagpapasya kung paano hahawakan ang permissions at mga resulta.

Ipinakikita ng mga tagubilin ng Liquid AI para sa lokal na agent ang paghahating iyon sa praktika: ihatid ang model sa OpenAI-compatible endpoint at ituro roon ang Hermes Agent, OpenClaw o Pi sa lokal na address. Depende sa napiling server ang port at configuration. Sinasabi ng kumpanya na sinanay nito ang post-trained model sa mga agent harness, kabilang ang Hermes Agent at OpenCode. Paglalarawan ito ng training at suportadong setup, hindi patunay na maaasahan ang na-download na agent o mananatili sa device ang data nito sa bawat configuration. Ang deployment, tools at network connections ang nagtatakda ng hangganang iyon.

Basahin ang mga speed figure ayon sa workload

Nag-uulat ang Liquid AI ng 184 output token bawat segundo sa Apple M5 Max at 114 sa AMD Ryzen AI Max+ 395 para sa edge decoding. Ayon sa card, gumamit ang mga pagsubok ng llama.cpp, Q4_K_M quantization at 4,000-token input context, at isinagawa sa Pipette infrastructure ng Liquid AI. Mga sukat ito ng kumpanya para sa isang quantized na lokal na setup. Hindi nito itinatakda ang bilis ng native BF16 weights, ng kahit anong laptop o ng buong agent task na gumagamit ng tools.

Ang figure ng kumpanya na mahigit 21,000 output token bawat segundo ay pinagsama-samang GPU throughput: kabuuang output tokens na hinati sa lumipas na oras sa iisang NVIDIA B300 habang tuloy-tuloy ang mataas na concurrency. Gumamit ang nakasaad na setup ng SGLang 0.5.22, BF16 weights, 1,024 input tokens at hanggang 256 output tokens; patuloy nitong pinapalitan ang mga natapos na request upang mapanatili ang target na sabay-sabay na mga request. Hindi iyon response rate para sa isang taong naghihintay sa iisang agent. Magkaibang tanong sa engineering ang sinasagot ng mga sukat: bilis ng lokal na generation at kabuuang kapasidad ng server sa ilalim ng load.

Naglalathala rin ang Liquid AI ng paghahambing sa 16 benchmark laban sa ibang model. Halimbawa, 48.09 ang iniulat nito para sa LFM2.5 sa LiveClaw kumpara sa 38.19 para sa Qwen3.6-35B-A3B, habang nangunguna ang Qwen sa WebArena Verified at SWE-Bench Verified sa parehong talahanayan. Sinasabi ng kumpanya na sinuri ang lahat ng model sa vLLM gamit ang generation settings na partikular sa bawat benchmark. Hindi inulit ng BIG CHANGE ang mga pagsubok na iyon; mga pahiwatig ang mga ito para subukan ang sariling workload, hindi independiyenteng ranggo ng kakayahan.

Tiyak ang praktikal na pagsusuri: piliin ang artifact at runtime na tugma sa target hardware, basahin ang lisensya, ikabit lamang ang tools na kailangan ng agent, at subukan ang aktuwal na task at inaasahang request load. Iniaalok na ngayon ng Liquid AI ang mga bahaging kailangan para sa pagsusuring iyon. Bawat team pa rin ang kailangang tumiyak kung paano gagana ang mga ito sa production workflow.

Mga source at karagdagang babasahin

• Liquid AI, “LFM2.5-24B-A2B: Built for Fast On-Device Agents” (Oktubre 13, 2026). Inilalarawan sa release ang mga pagbabago mula LFM2, paraan ng training, suportadong serving system at mga sukat ng kalidad at bilis na ginawa ng vendor. Hindi inulit ng BIG CHANGE ang mga benchmark o pinatakbo ang model.
• Liquid AI, LFM2.5-24B-A2B model card (binasa noong Oktubre 14, 2026). Inililista ang 24.0B kabuuan at 2.45B aktibong parameters, artifact links, inference settings, tool-use format, mga kondisyon ng benchmark at paparating na DSpark draft model. Vendor ang nagpapanatili ng card at maaari itong magbago.
• Liquid AI, LFM Open License v1.0 (binasa noong Oktubre 14, 2026). Itinatakda ang obligasyon sa distribution at kundisyon sa taunang kita na mas mababa sa $10 milyon para sa komersyal na paggamit. Dapat gamiting batayan ng mga mambabasa ang mismong lisensya para sa sariling pasya sa deployment.
• Liquid AI, gabay na Agent Harnesses (naka-link mula sa model card, binasa noong Oktubre 14, 2026). Ipinapaliwanag ang lokal na OpenAI-compatible serving endpoint at configuration ng harness. Dokumentasyon ito; hindi pinatakbo ng BIG CHANGE ang mga tagubilin.