AI-translated from English; not yet reviewed by a fluent editor.

# Liquid AI का LFM2.5 24B मॉडल स्थानीय एजेंट बनाने वालों को सर्विंग के अधिक विकल्प देता है

> Liquid AI का नया LFM2.5-24B-A2B स्थानीय और GPU सर्विंग के लिए डाउनलोड किए जा सकने वाले checkpoints देता है। टूल इस्तेमाल करने वाले एजेंटों के लिए इसकी लाइसेंस शर्तें और edge व server परीक्षणों का अंतर अहम है।

By BIG CHANGE Editorial

Published: 2026-10-14T14:58:18.169Z
Updated: 2026-10-14T14:58:18.169Z
Canonical: https://bigchange.ai/blog/liquid-lfm25-24b-local-agents-serving

![Conceptual charcoal illustration of two removable storage modules beside an open compact workstation, a separate rackmount server and a small input pad on a workbench.](https://bigchange.ai/api/media/file/liquid-local-serving-components-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE; no Liquid AI hardware, agent test or benchmark result is depicted.

Liquid AI ने [LFM2.5-24B-A2B](https://www.liquid.ai/blog/lfm2-5-24b-a2b) को 13 अक्टूबर को टूल इस्तेमाल के लिए प्रशिक्षित text-only reasoning मॉडल के डाउनलोड किए जा सकने वाले weights के रूप में जारी किया। इसका [मॉडल कार्ड](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) कई serving systems के checkpoints सूचीबद्ध करता है—स्थानीय quantized फ़ाइल से लेकर GPU servers के फ़ॉर्मैट तक। एजेंट बनाने वाली टीमों के लिए ये फ़ाइलें सेटअप का केवल एक हिस्सा हैं: उन्हें मॉडल चलाने वाला runtime और उसके सुझाए tool calls को निष्पादित करने वाला harness भी चाहिए।

## बड़ा बदलाव

- **क्या बदला:** Liquid AI ने Hugging Face पर post-trained मॉडल और उसका base संस्करण रखा है, जिनमें अलग-अलग हार्डवेयर के serving फ़ॉर्मैट हैं। मॉडल कार्ड के अनुसार कुल 24.0 अरब parameters हैं और inference के दौरान 2.45 अरब सक्रिय रहते हैं; “A2B” गोल किया हुआ नाम है।
- **यह क्यों मायने रखता है:** स्थानीय एजेंट का मूल्यांकन करने वाली टीम tool-using harness जोड़ने से पहले checkpoint और serving का रास्ता चुन सकती है; मॉडल डाउनलोड कर लेना पूरे एजेंट के बराबर नहीं है। लाइसेंस और उपलब्ध हार्डवेयर उस निर्णय को प्रभावित करते हैं।
- **क्या देखना है:** Liquid AI बताए गए परीक्षणों में गति और टूल इस्तेमाल के उत्साहजनक नतीजे रिपोर्ट करता है। टीमों को अपने कार्य और concurrency मापने चाहिए; कंपनी की edge decode rate और server throughput अलग-अलग workloads बताते हैं।

## टीम क्या डाउनलोड कर सकती है

यह [post-trained checkpoint](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) agentic काम के लिए है। अलग [base checkpoint](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-Base) adaptation के काम आता है। Liquid AI नए मॉडल को केवल reasoning के लिए बताता है: पुराने LFM2-24B-A2B से अलग, यह अंतिम उत्तर से पहले सोचने वाला segment बनाता है। बताई गई context सीमा 131,072 tokens है, जबकि पिछले मॉडल की 32,768 थी। ये मॉडल की specifications हैं, किसी खास application द्वारा लंबे context के उपयोग का माप नहीं।

मॉडल कार्ड Transformers, vLLM और SGLang के native checkpoint से लिंक करता है; [FP8 weights](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-FP8) GPU serving के लिए; [GGUF फ़ाइलें](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-GGUF) llama.cpp के लिए; [ONNX फ़ाइलें](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-ONNX) ONNX Runtime के लिए; और [4-bit MLX संस्करण](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-4bit) Apple Silicon के लिए। BIG CHANGE ने 14 अक्टूबर को base मॉडल सहित इन छह repositories की उपलब्धता की पुष्टि की। कार्ड में speculative decoding के DSpark draft मॉडल को “जल्द आ रहा है” कहा गया है। प्रकाशित फ़ॉर्मैट इस बात का प्रमाण नहीं हैं कि किसी स्वतंत्र पक्ष ने हर backend और hardware संयोजन का परीक्षण किया है।

Weights **open-weight** हैं और [LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) के अंतर्गत आते हैं। लाइसेंस डाउनलोड और संशोधन की अनुमति देता है, लेकिन व्यावसायिक उपयोग की शर्त है कि उपयोगकर्ता या कानूनी संस्था की सालाना आय 10 मिलियन डॉलर से कम हो। उस सीमा से अधिक पर व्यावसायिक उपयोग की अनुमति नहीं है। तैनाती से पहले संगठनों को पूरा लाइसेंस पढ़ना चाहिए; यहाँ “open-weight” का मतलब बिना पाबंदी वाला व्यावसायिक उपयोग नहीं है।

## मॉडल, server और harness के काम अलग हैं

मॉडल कार्ड का [tool-use विवरण](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) मॉडल को functions की सूची देता है और उसे call सुझाने देता है; software उस call को चलाता है और मॉडल को परिणाम लौटाता है ताकि वह जवाब दे सके। मॉडल स्वयं browser action या file operation नहीं करता। Serving backend उसका checkpoint लोड कर inference उपलब्ध कराता है। Agent harness tools के साथ आदान-प्रदान संभालता है और permissions तथा परिणामों को कैसे संभालना है तय करता है।

Liquid AI के [स्थानीय एजेंट निर्देश](https://docs.liquid.ai/examples/agent-harnesses) इस बँटवारे को व्यवहार में दिखाते हैं: मॉडल को OpenAI-compatible endpoint से चलाएँ और Hermes Agent, OpenClaw या Pi को उसके स्थानीय पते पर भेजें। Port और configuration चुने गए server पर निर्भर करते हैं। कंपनी कहती है कि उसने post-trained मॉडल को Hermes Agent और OpenCode समेत agent harnesses में प्रशिक्षित किया। यह प्रशिक्षण और समर्थित सेटअप का वर्णन है; यह इस बात का प्रमाण नहीं कि डाउनलोड किया गया एजेंट भरोसेमंद होगा या हर configuration में डेटा डिवाइस पर ही रहेगा। Deployment, tools और network connections उस सीमा को तय करते हैं।

## काम के हिसाब से गति के आँकड़े कैसे पढ़ें

Liquid AI रिपोर्ट करता है **Apple M5 Max पर प्रति सेकंड 184 output tokens** और **AMD Ryzen AI Max+ 395 पर 114** edge decoding के लिए। कार्ड के अनुसार परीक्षण llama.cpp, Q4\_K\_M quantization और 4,000-token input context के साथ Liquid AI के Pipette infrastructure पर किए गए। ये quantized स्थानीय सेटअप के लिए कंपनी के माप हैं। ये native BF16 weights, किसी भी laptop या tools वाले पूरे agent task की गति तय नहीं करते।

कंपनी का **प्रति सेकंड 21,000 से अधिक output tokens** वाला आँकड़ा कुल GPU throughput है: लगातार ऊँची concurrency के दौरान एक NVIDIA B300 पर निकले कुल output tokens को बीते समय से भाग दिया गया। बताए गए सेटअप में SGLang 0.5.22, BF16 weights, 1,024 input tokens और अधिकतम 256 output tokens थे; तय संख्या में साथ चल रहे requests बनाए रखने के लिए पूरे हुए requests की जगह नए requests रखे गए। यह एक एजेंट की प्रतीक्षा कर रहे व्यक्ति की response rate नहीं है। दोनों माप अलग engineering सवालों का जवाब देते हैं: स्थानीय generation की गति और load में server की कुल क्षमता।

Liquid AI अन्य मॉडलों के साथ 16 benchmarks की तुलना भी प्रकाशित करता है। उदाहरण के लिए LiveClaw पर LFM2.5 के लिए 48.09 और Qwen3.6-35B-A3B के लिए 38.19 बताता है, जबकि उसी तालिका में WebArena Verified और SWE-Bench Verified पर Qwen आगे है। कंपनी कहती है कि सभी मॉडलों का मूल्यांकन vLLM और benchmark-विशिष्ट generation settings से किया गया। BIG CHANGE ने परीक्षण दोहराए नहीं; वे अपने workloads जाँचने के संकेत हैं, स्वतंत्र क्षमता-रैंकिंग नहीं।

व्यावहारिक मूल्यांकन ठोस होना चाहिए: लक्ष्य hardware के अनुकूल artifact और runtime चुनें, लाइसेंस पढ़ें, एजेंट को केवल आवश्यक tools से जोड़ें और अपेक्षित request load में असली task जाँचें। Liquid AI अब इस मूल्यांकन के लिए आवश्यक हिस्से देता है। Production workflow में उनका व्यवहार हर टीम को खुद सत्यापित करना होगा।

## स्रोत और आगे पढ़ें

- [Liquid AI, “LFM2.5-24B-A2B: Built for Fast On-Device Agents”](https://www.liquid.ai/blog/lfm2-5-24b-a2b) (13 अक्टूबर 2026)। यह रिलीज़ LFM2 से बदलाव, प्रशिक्षण के तरीके, समर्थित serving systems और विक्रेता के गुणवत्ता व गति माप बताती है। BIG CHANGE ने benchmarks नहीं दोहराए और मॉडल नहीं चलाया।
- [Liquid AI, LFM2.5-24B-A2B मॉडल कार्ड](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) (14 अक्टूबर 2026 को पढ़ा)। इसमें कुल 24.0B और सक्रिय 2.45B parameters, artifact links, inference settings, tool-use format, benchmark शर्तें और आगे आने वाला DSpark draft मॉडल सूचीबद्ध है। कार्ड विक्रेता संभालता है और बदल सकता है।
- [Liquid AI, LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) (14 अक्टूबर 2026 को पढ़ा)। यह वितरण दायित्व और व्यावसायिक उपयोग के लिए सालाना आय 10 मिलियन डॉलर से कम होने की शर्त रखता है। अपने deployment के निर्णय के लिए लाइसेंस का मूल पाठ देखें।
- [Liquid AI, Agent Harnesses मार्गदर्शिका](https://docs.liquid.ai/examples/agent-harnesses) (मॉडल कार्ड से लिंक, 14 अक्टूबर 2026 को पढ़ी)। यह स्थानीय OpenAI-compatible serving और harness configuration बताने वाली अनुरक्षित setup guide है। यह दस्तावेज़ है; BIG CHANGE ने निर्देश चलाकर नहीं देखे।

## Sources

- [Liquid AI, LFM2.5-24B-A2B: Built for Fast On-Device Agents](https://www.liquid.ai/blog/lfm2-5-24b-a2b) — मॉडल, serving ecosystem और benchmark नतीजों का विक्रेता-विवरण। गति और गुणवत्ता के आँकड़े Liquid AI के माप हैं, BIG CHANGE के परीक्षण नहीं।
- [Liquid AI, LFM2.5-24B-A2B मॉडल कार्ड](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) — अनुरक्षित कार्ड में parameter counts, artifact links, inference व tool-use विवरण, evaluation settings और आगे आने वाले DSpark की स्थिति है। जाँचा गया repository SHA: 1769516ac588c4c558089c94f27d96b0dc67b183।
- [Liquid AI, LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) — मॉडल का वास्तविक लाइसेंस। Section 5 व्यावसायिक उपयोग के लिए सालाना आय 10 मिलियन डॉलर से कम होने की शर्त रखता है; पुनर्वितरण पर सूचनाएँ बनाए रखना जरूरी है।
- [Liquid AI, Agent Harnesses मार्गदर्शिका](https://docs.liquid.ai/examples/agent-harnesses) — मॉडल कार्ड से जुड़ी अनुरक्षित setup guide; स्थानीय OpenAI-compatible serving और harness configuration समझाती है। BIG CHANGE ने निर्देश चलाकर नहीं देखे।