Markdown आवृत्ती

AI-translated from English; not yet reviewed by a fluent editor.

# Liquid AI चे LFM2.5 24B मॉडेल स्थानिक एजंट तयार करणाऱ्यांना अधिक सेवा पर्याय देते

> Liquid AI चे नवे LFM2.5-24B-A2B स्थानिक आणि GPU सेवेसाठी डाउनलोड करता येणारे checkpoints देते. टूल वापरणाऱ्या एजंटसाठी त्याचा परवाना आणि edge व server चाचण्यांतील फरक महत्त्वाचे आहेत.

By BIG CHANGE Editorial

Published: 2026-10-14T14:58:18.169Z
Updated: 2026-10-14T14:58:18.169Z
Canonical: https://bigchange.ai/blog/liquid-lfm25-24b-local-agents-serving

![Conceptual charcoal illustration of two removable storage modules beside an open compact workstation, a separate rackmount server and a small input pad on a workbench.](https://bigchange.ai/api/media/file/liquid-local-serving-components-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE; no Liquid AI hardware, agent test or benchmark result is depicted.

Liquid AI ने [LFM2.5-24B-A2B](https://www.liquid.ai/blog/lfm2-5-24b-a2b) हे 13 ऑक्टोबर रोजी टूल वापरण्यासाठी प्रशिक्षित केलेले, फक्त मजकूरावर आधारित reasoning मॉडेलचे डाउनलोडयोग्य weights म्हणून प्रसिद्ध केले. त्याच्या [मॉडेल कार्डमध्ये](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) अनेक serving systems साठी checkpoints दिले आहेत—स्थानिक quantized फाइलपासून GPU server formats पर्यंत. एजंट तयार करणाऱ्या टीमसाठी या फाइल्स हा संपूर्ण सेटअप नाही: मॉडेल serve करणारा runtime आणि त्याने सुचवलेल्या tool calls चालवणारा harness देखील आवश्यक आहे.

## मोठा बदल

- **काय बदलले:** Liquid AI ने Hugging Face वर post-trained मॉडेल आणि त्याची base आवृत्ती, वेगवेगळ्या उपकरणांसाठी serving formats सह प्रसिद्ध केली. कार्डनुसार एकूण 24 अब्ज parameters आणि inference दरम्यान 2.45 अब्ज सक्रिय असतात; A2B हे गोलाकार नाव आहे.
- **हे का महत्त्वाचे:** स्थानिक एजंटचे मूल्यमापन करणारी टीम tool-using harness जोडण्यापूर्वी checkpoint आणि serving मार्ग निवडू शकते; फक्त मॉडेल डाउनलोड करणे म्हणजे एजंट पूर्ण झाला असे मानावे लागत नाही. परवाना आणि उपलब्ध hardware हे निर्णयावर अजूनही मर्यादा घालतात.
- **कशाकडे लक्ष द्यावे:** Liquid AI ने निर्दिष्ट चाचण्यांमध्ये वेग आणि tool use चे आशादायक निकाल नोंदवले आहेत. टीमने स्वतःची कामे आणि concurrency मोजावी: edge decoding दर आणि कंपनीचा server throughput हे वेगवेगळे workloads दर्शवतात.

## टीम काय डाउनलोड करू शकते

हा [post-trained checkpoint](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) agentic कामासाठी तयार केला आहे. वेगळा [base checkpoint](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-Base) adaptation साठी आहे. Liquid AI नवीन मॉडेलला reasoning-only म्हणते: जुन्या LFM2-24B-A2B पेक्षा वेगळे, ते अंतिम उत्तराआधी thought segment तयार करते. दिलेली context मर्यादा 131,072 tokens आहे; आधीच्या मॉडेलमध्ये ती 32,768 होती. ही मॉडेलची specification आहे, एखादे विशिष्ट application दीर्घ context किती चांगले वापरते याचे मोजमाप नाही.

मॉडेल कार्ड Transformers, vLLM आणि SGLang साठी native checkpoint जोडते; [FP8 weights](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-FP8) GPU serving साठी; [GGUF files](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-GGUF) llama.cpp साठी; [ONNX files](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-ONNX) ONNX Runtime साठी; आणि [4-bit MLX आवृत्ती](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-4bit) Apple Silicon साठी. BIG CHANGE ने base मॉडेलसह या सहा repositories 14 ऑक्टोबरला उपलब्ध असल्याची पुष्टी केली. speculative decoding साठी DSpark draft मॉडेल कार्डमध्ये “लवकरच” असे आहे. फॉरमॅट प्रसिद्ध झाले म्हणजे प्रत्येक backend आणि hardware संयोजन स्वतंत्रपणे तपासले गेले, असे सिद्ध होत नाही.

Weights हे **open-weight** आहेत आणि [LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) अंतर्गत येतात. डाउनलोड आणि बदल करण्याची परवानगी आहे; परंतु वापरकर्ता किंवा कायदेशीर संस्थेचे वार्षिक उत्पन्न $10 दशलक्षपेक्षा कमी असेल तेव्हाच व्यावसायिक वापराची अट पूर्ण होते. या मर्यादेपेक्षा जास्त उत्पन्नावर व्यावसायिक वापरास अटी परवानगी देत नाहीत. तैनातीपूर्वी संस्थांनी संपूर्ण परवाना वाचावा; येथे “open-weight” म्हणजे निर्बंधांशिवाय व्यावसायिक वापर नव्हे.

## मॉडेल, server आणि harness यांची कामे वेगवेगळी आहेत

मॉडेल कार्डमधील [tool-use वर्णन](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) मॉडेलला functions ची यादी देते आणि त्याला call सुचवू देते; software तो call चालवते आणि मॉडेलला उत्तरासाठी निकाल परत देते. मॉडेल स्वतः browser action किंवा file operation चालवत नाही. Serving backend checkpoint लोड करून inference देते. Agent harness tools सोबतचा संवाद समन्वित करते आणि permissions व निकाल कसे हाताळायचे ते ठरवते.

Liquid AI च्या [स्थानिक एजंट सूचना](https://docs.liquid.ai/examples/agent-harnesses) ही विभागणी प्रत्यक्ष दाखवतात: OpenAI-compatible endpoint द्वारे मॉडेल serve करून Hermes Agent, OpenClaw किंवा Pi ला स्थानिक पत्त्याकडे निर्देशित करतात. Port आणि configuration निवडलेल्या server नुसार बदलतात. कंपनी म्हणते की post-trained मॉडेलचे प्रशिक्षण Hermes Agent आणि OpenCode सह agentic harnesses वर झाले. हे प्रशिक्षण आणि समर्थित configuration सांगते; डाउनलोड केलेला एजंट विश्वसनीय आहे किंवा प्रत्येक configuration मध्ये डेटा डिव्हाइसवरच राहतो हे सिद्ध करत नाही. Deployment, tools आणि network connections ही मर्यादा ठरवतात.

## कामाच्या प्रकारानुसार वेगाचे आकडे कसे वाचावेत

Liquid AI नोंदवते **Apple M5 Max वर प्रति सेकंद 184 output tokens** आणि **AMD Ryzen AI Max+ 395 वर 114** edge decoding साठी. मॉडेल कार्डनुसार चाचण्यांमध्ये llama.cpp, Q4\_K\_M quantization आणि 4,000 input-token context वापरून Liquid AI च्या Pipette infrastructure वर मोजमाप केले. ही कंपनीची एका quantized स्थानिक configuration साठीची मोजमापे आहेत. ती native BF16 weights, कोणताही laptop किंवा tools वापरणारे संपूर्ण agent task किती वेगाने चालेल हे ठरवत नाहीत.

कंपनीचा **प्रति सेकंद 21,000 पेक्षा अधिक output tokens** हा GPU चा एकत्रित throughput आहे: उच्च concurrency सतत राखून NVIDIA B300 वर निघालेले एकूण tokens आणि गेलेला वेळ यांचे गुणोत्तर. नमूद configuration मध्ये SGLang 0.5.22, BF16 weights, 1,024 input tokens आणि 256 पर्यंत output tokens वापरले; पूर्ण झालेल्या requests बदलून समांतर requests सतत राखल्या. एजंटची वाट पाहणाऱ्या एका व्यक्तीसाठी हा response rate नाही. दोन्ही मोजमापे वेगवेगळ्या प्रश्नांची उत्तरे देतात: स्थानिक generation चा वेग आणि भाराखाली server ची एकूण क्षमता.

Liquid AI इतर मॉडेल्सशी 16 benchmarks ची तुलना देखील प्रसिद्ध करते. उदाहरणार्थ, LiveClaw वर LFM2.5 साठी 48.09 आणि Qwen3.6-35B-A3B साठी 38.19 नोंदवते; त्याच तक्त्यात WebArena Verified आणि SWE-Bench Verified वर Qwen पुढे आहे. कंपनीच्या मते प्रत्येक मॉडेलची vLLM आणि benchmark-विशिष्ट generation settings सह चाचणी झाली. BIG CHANGE ने या चाचण्या पुन्हा केल्या नाहीत; त्या स्वतःचे workloads तपासण्यासाठी संकेत आहेत, स्वतंत्र क्षमताक्रमवारी नाहीत.

व्यवहार्य मूल्यमापन विशिष्ट असते: लक्ष्य hardware साठी योग्य artifact आणि runtime निवडा, परवाना वाचा, एजंटला आवश्यक तेवढीच tools जोडा आणि अपेक्षित request load सह खरी task तपासा. Liquid AI आता या मूल्यमापनासाठीचे घटक देते. उत्पादनातील workflow मध्ये ते कसे वागतात हे प्रत्येक टीमने अजून तपासावे.

## स्रोत आणि पुढील वाचन

- [Liquid AI, “LFM2.5-24B-A2B: Built for Fast On-Device Agents”](https://www.liquid.ai/blog/lfm2-5-24b-a2b) (13 ऑक्टोबर 2026). या प्रसिद्धीमध्ये LFM2 मधील बदल, training focus, समर्थित serving systems आणि विक्रेत्याने केलेली quality व speed मोजमापे वर्णिली आहेत. BIG CHANGE ने benchmarks पुन्हा केले नाहीत किंवा मॉडेल चालवले नाही.
- [Liquid AI, LFM2.5-24B-A2B मॉडेल कार्ड](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) (14 ऑक्टोबर 2026 रोजी पाहिले). एकूण 24 अब्ज आणि सक्रिय 2.45 अब्ज parameters, artifacts चे links, inference settings, tool-use format, benchmark अटी आणि नंतरसाठी जाहीर केलेला DSpark draft यात आहे. ही माहिती पुरवठादार सांभाळतो आणि बदलू शकतो.
- [Liquid AI, LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) (14 ऑक्टोबर 2026 रोजी पाहिले). वितरणाच्या जबाबदाऱ्या आणि वार्षिक उत्पन्न $10 दशलक्षपेक्षा कमी असण्याची अट नमूद करते. 
- [BIG CHANGE, Agent Harnesses: స్థానిక AI మోడళ్ల చుట్టూ tools జోడించడం](https://docs.liquid.ai/examples/agent-harnesses) (మోడల్ కార్డ్ నుంచి లింక్ చేయబడింది; 14 అక్టోబర్ 2026న చదివింది). స్థానిక OpenAI-compatible serving endpoint, harness configurationను వివరిస్తుంది. BIG CHANGE ఈ సూచనలను అమలు చేయలేదు.

## Sources

- [Liquid AI, LFM2.5-24B-A2B: వేగవంతమైన ఆన్-డివైస్ ఏజెంట్‌ల కోసం](https://www.liquid.ai/blog/lfm2-5-24b-a2b) — మోడల్, serving ecosystem, benchmark ఫలితాలను వివరించే విక్రేత విడుదల సమాచారం. వేగం, నాణ్యత సంఖ్యలు Liquid AI కొలతలు; BIG CHANGE పరీక్షలు కావు.
- [Liquid AI, LFM2.5-24B-A2B మోడల్ కార్డ్](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) — parameters సంఖ్యలు, artifact links, inference మరియు tool-use వివరాలు, evaluation సెట్టింగ్‌లు, రాబోయే DSpark స్థితిని కలిగి ఉన్న నిర్వహిత కార్డ్. Repository SHAను తనిఖీ చేసిన విలువ: 1769516ac588c4c558089c94f27d96b0dc67b183.
- [Liquid AI, LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) — మోడల్‌కు వర్తించే అసలు లైసెన్స్. Section 5 వాణిజ్య వినియోగాన్ని వార్షిక ఆదాయం $10 మిలియన్ల కంటే తక్కువగా ఉన్నప్పుడు మాత్రమే అనుమతిస్తుంది; పునర్వితరణకు నోటీసు బాధ్యతలు ఉంటాయి.
- [Liquid AI, Agent Harnesses మార్గదర్శకం](https://docs.liquid.ai/examples/agent-harnesses) — మోడల్ కార్డ్ లింక్ చేసిన నిర్వహిత సెటప్ గైడ్; స్థానిక OpenAI-compatible serving, harness configurationను వివరిస్తుంది. BIG CHANGE సూచనలను అమలు చేయలేదు.