Markdown সংস্করণ

AI-translated from English; not yet reviewed by a fluent editor.

# Liquid AI-এর LFM2.5 24B মডেল স্থানীয় এজেন্ট নির্মাতাদের জন্য আরও সার্ভিং বিকল্প দেয়

> Liquid AI-এর নতুন LFM2.5-24B-A2B স্থানীয় ও GPU সার্ভিংয়ের জন্য ডাউনলোডযোগ্য checkpoint দেয়। টুল ব্যবহারকারী এজেন্টের জন্য মূল্যায়নে এর লাইসেন্স এবং edge ও server পরীক্ষার পার্থক্য গুরুত্বপূর্ণ।

By BIG CHANGE Editorial

Published: 2026-10-14T14:58:18.169Z
Updated: 2026-10-14T14:58:18.169Z
Canonical: https://bigchange.ai/blog/liquid-lfm25-24b-local-agents-serving

![Conceptual charcoal illustration of two removable storage modules beside an open compact workstation, a separate rackmount server and a small input pad on a workbench.](https://bigchange.ai/api/media/file/liquid-local-serving-components-hero-v1.png)
AI-generated conceptual illustration by BIG CHANGE; no Liquid AI hardware, agent test or benchmark result is depicted.

Liquid AI ১৩ অক্টোবর [LFM2.5-24B-A2B](https://www.liquid.ai/blog/lfm2-5-24b-a2b) প্রকাশ করে; এটি টুল ব্যবহারের জন্য প্রশিক্ষিত text-only reasoning মডেলের ডাউনলোডযোগ্য weights। এর [মডেল কার্ড](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) একাধিক serving system-এর checkpoint তালিকাভুক্ত করে—স্থানীয় quantized ফাইল থেকে GPU server-এর ফরম্যাট পর্যন্ত। এজেন্ট নির্মাতা দলের জন্য এই ফাইলগুলো সেটআপের কেবল এক অংশ: মডেল চালানোর runtime এবং মডেলের প্রস্তাবিত tool call কার্যকর করার harness-ও লাগে।

## বড় পরিবর্তন

- **কী বদলেছে:** Liquid AI Hugging Face-এ post-trained মডেল ও তার base সংস্করণ রেখেছে, বিভিন্ন হার্ডওয়্যারের জন্য serving ফরম্যাটসহ। মডেল কার্ডে মোট ২৪.০ বিলিয়ন parameter এবং inference-এ সক্রিয় ২.৪৫ বিলিয়ন বলা হয়েছে; “A2B” একটি গোল করা নাম।
- **কেন গুরুত্বপূর্ণ:** স্থানীয় এজেন্ট মূল্যায়নকারী দল tool-ব্যবহারকারী harness যুক্ত করার আগে checkpoint ও serving পথ বেছে নিতে পারে; মডেল ডাউনলোডকেই সম্পূর্ণ এজেন্ট ভাবতে হয় না। লাইসেন্স ও পাওয়া হার্ডওয়্যার এখনও সেই সিদ্ধান্তে প্রভাব ফেলে।
- **যা লক্ষ্য করবেন:** নির্দিষ্ট পরীক্ষায় গতি ও টুল ব্যবহারে আশাব্যঞ্জক ফল Liquid AI জানিয়েছে। দলগুলোর নিজেদের কাজ ও concurrency মাপা দরকার; কোম্পানির edge decode rate ও server throughput ভিন্ন workload বোঝায়।

## একটি দল কী ডাউনলোড করতে পারে

এই [post-trained checkpoint](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) agentic কাজের জন্য। আলাদা [base checkpoint](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-Base) adaptation-এর জন্য। Liquid AI নতুন মডেলকে শুধু reasoning-এর বলে বর্ণনা করে: আগের LFM2-24B-A2B-এর বিপরীতে এটি চূড়ান্ত উত্তরের আগে চিন্তার segment তৈরি করে। উল্লিখিত context সীমা ১৩১,০৭২ token, আগেরটির ৩২,৭৬৮ থেকে বেশি। এগুলো মডেলের specification, নির্দিষ্ট application দীর্ঘ context কত ভালো ব্যবহার করে তার মাপ নয়।

মডেল কার্ড Transformers, vLLM ও SGLang-এর native checkpoint-এ লিংক দেয়; [FP8 weights](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-FP8) GPU সার্ভিংয়ের জন্য; [GGUF ফাইল](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-GGUF) llama.cpp-এর জন্য; [ONNX ফাইল](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-ONNX) ONNX Runtime-এর জন্য; এবং [ 4-bit MLX সংস্করণ](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B-MLX-4bit) Apple Silicon-এর জন্য। base মডেলসহ ওই ছয় repository ১৪ অক্টোবর পাওয়া যাচ্ছিল বলে BIG CHANGE নিশ্চিত করেছে। speculative decoding-এর DSpark draft মডেলকে কার্ডে “শিগগির আসছে” বলা হয়েছে। ফরম্যাট প্রকাশ হওয়া প্রতিটি backend ও hardware সমন্বয় স্বাধীনভাবে পরীক্ষিত হওয়ার প্রমাণ নয়।

এই weights **open-weight** এবং [LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) অনুসারে দেওয়া। লাইসেন্স ডাউনলোড ও পরিবর্তনের অনুমতি দেয়, তবে ব্যবহারকারী বা আইনি প্রতিষ্ঠানের বার্ষিক আয় ১০ মিলিয়ন ডলারের কম হলেই বাণিজ্যিক ব্যবহার অনুমোদন করে। ওই সীমার ওপরে বাণিজ্যিক ব্যবহার অনুমোদিত নয়। স্থাপনের আগে প্রতিষ্ঠানগুলোর পুরো লাইসেন্স পড়া উচিত; এখানে “open-weight” মানে সীমাহীন বাণিজ্যিক ব্যবহার নয়।

## মডেল, server ও harness-এর কাজ আলাদা

মডেল কার্ডের [tool-use বর্ণনা](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) মডেলকে function-এর তালিকা দেয় এবং call প্রস্তাব করতে দেয়; software সেই call চালায় ও ফলাফল ফিরিয়ে দেয়, যাতে মডেল উত্তর দিতে পারে। মডেল নিজে browser action বা file operation চালায় না। serving backend checkpoint লোড করে inference দেয়। agent harness টুলের সঙ্গে বিনিময় পরিচালনা করে এবং permission ও ফলাফল কীভাবে সামলাবে ঠিক করে।

Liquid AI-এর [স্থানীয় এজেন্ট নির্দেশনা](https://docs.liquid.ai/examples/agent-harnesses) এই বিভাজন হাতে-কলমে দেখায়: OpenAI-compatible endpoint দিয়ে মডেল চালিয়ে Hermes Agent, OpenClaw বা Pi-কে তার স্থানীয় ঠিকানায় নির্দেশ করুন। বেছে নেওয়া server অনুযায়ী port ও configuration বদলায়। কোম্পানি জানায়, Hermes Agent ও OpenCode-সহ agent harness-এ post-trained মডেলটি প্রশিক্ষণ দিয়েছে। এটি প্রশিক্ষণ ও সমর্থিত সেটআপের বর্ণনা; ডাউনলোড করা এজেন্ট নির্ভরযোগ্য হবে বা সব configuration-এ data device-এ থাকবে—তার প্রমাণ নয়। deployment, tools ও network connection সেই সীমা নির্ধারণ করে।

## workload অনুযায়ী গতির সংখ্যা পড়ুন

Liquid AI জানায়, **Apple M5 Max-এ প্রতি সেকেন্ডে ১৮৪ output token** এবং **AMD Ryzen AI Max+ 395-এ ১১৪** edge decoding-এর জন্য। কার্ড অনুযায়ী পরীক্ষা llama.cpp, Q4\_K\_M quantization ও ৪,০০০-token input context দিয়ে Liquid AI-এর Pipette পরিকাঠামোতে করা হয়েছে। এগুলো quantized স্থানীয় সেটআপের জন্য কোম্পানির মাপ। native BF16 weights, যেকোনো laptop বা tools-সহ পূর্ণ agent task-এর গতি এগুলো স্থির করে না।

কোম্পানির **প্রতি সেকেন্ডে ২১,০০০-এর বেশি output token** সংখ্যা হলো সমষ্টিগত GPU throughput: উচ্চ concurrency বজায় রেখে এক NVIDIA B300-এ মোট output token-কে অতিবাহিত সময় দিয়ে ভাগ করা। উল্লিখিত সেটআপে SGLang 0.5.22, BF16 weights, ১,০২৪ input token ও সর্বোচ্চ ২৫৬ output token ছিল; নির্দিষ্ট সংখ্যক request একসঙ্গে সচল রাখতে সম্পন্ন request-এর বদলে নতুন request আসত। এটি একজন ব্যবহারকারীর এক এজেন্টের উত্তরের অপেক্ষার গতি নয়। দুই মাপ আলাদা প্রকৌশল প্রশ্নের উত্তর দেয়: স্থানীয় generation-এর গতি এবং চাপে server-এর মোট ক্ষমতা।

অন্য মডেলের সঙ্গে ১৬টি benchmark-এর তুলনাও Liquid AI প্রকাশ করেছে। যেমন, LiveClaw-এ LFM2.5-এর জন্য ৪৮.০৯ এবং Qwen3.6-35B-A3B-এর জন্য ৩৮.১৯ জানায়; একই তালিকায় WebArena Verified ও SWE-Bench Verified-এ Qwen এগিয়ে। সব মডেল vLLM ও benchmark-নির্দিষ্ট generation setting-এ মূল্যায়িত হয়েছে বলে কোম্পানি জানায়। BIG CHANGE পরীক্ষাগুলো পুনরায় করেনি; এগুলো নিজস্ব workload যাচাইয়ের সূত্র, স্বাধীন সক্ষমতা-র‌্যাঙ্কিং নয়।

ব্যবহারিক মূল্যায়ন নির্দিষ্ট হওয়া উচিত: লক্ষ্য হার্ডওয়্যারের সঙ্গে মানানসই artifact ও runtime বেছে নিন, লাইসেন্স পড়ুন, এজেন্টের প্রয়োজনীয় tools-ই যুক্ত করুন এবং প্রত্যাশিত request load-এ বাস্তব task পরীক্ষা করুন। Liquid AI এখন সেই মূল্যায়নের উপকরণ দেয়। production workflow-এ সেগুলো কেমন কাজ করে তা প্রতিটি দলকে যাচাই করতে হবে।

## সূত্র ও আরও পড়ুন

- [Liquid AI, “LFM2.5-24B-A2B: Built for Fast On-Device Agents”](https://www.liquid.ai/blog/lfm2-5-24b-a2b) (১৩ অক্টোবর ২০২৬)। প্রকাশনাটি LFM2 থেকে পরিবর্তন, প্রশিক্ষণ পদ্ধতি, সমর্থিত serving system এবং বিক্রেতার গুণমান ও গতির মাপ বর্ণনা করে। BIG CHANGE benchmark পুনরায় করেনি বা মডেল চালায়নি।
- [Liquid AI, LFM2.5-24B-A2B মডেল কার্ড](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) (১৪ অক্টোবর ২০২৬-এ পড়া)। মোট ২৪.০B ও সক্রিয় ২.৪৫B parameter, artifact link, inference setting, tool-use format, benchmark-এর শর্ত ও পরে আসার কথা DSpark draft মডেল তালিকাভুক্ত করে। বিক্রেতা কার্ডটি রক্ষণাবেক্ষণ করে; এটি বদলাতে পারে।
- [Liquid AI, LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) (১৪ অক্টোবর ২০২৬-এ পড়া)। বিতরণের দায় এবং বাণিজ্যিক ব্যবহারের জন্য বার্ষিক আয় ১০ মিলিয়ন ডলারের নিচে থাকার শর্ত নির্ধারণ করে। নিজের deployment সিদ্ধান্তে লাইসেন্সের মূল পাঠ ব্যবহার করুন।
- [Liquid AI, Agent Harnesses নির্দেশিকা](https://docs.liquid.ai/examples/agent-harnesses) (মডেল কার্ড থেকে লিংক, ১৪ অক্টোবর ২০২৬-এ পড়া)। রক্ষণাবেক্ষণ করা এই সেটআপ নির্দেশিকা স্থানীয় OpenAI-compatible serving endpoint ও harness configuration ব্যাখ্যা করে। এটি নথি; BIG CHANGE নির্দেশগুলো চালায়নি।

## Sources

- [Liquid AI, LFM2.5-24B-A2B: Built for Fast On-Device Agents](https://www.liquid.ai/blog/lfm2-5-24b-a2b) — মডেল, serving ecosystem ও benchmark ফল নিয়ে বিক্রেতার প্রকাশনা। গতি ও গুণমানের সংখ্যা Liquid AI-এর মাপ, BIG CHANGE-এর পরীক্ষা নয়।
- [Liquid AI, LFM2.5-24B-A2B মডেল কার্ড](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B) — পরামিতি সংখ্যা, artifact link, inference ও tool-use তথ্য, মূল্যায়ন setting এবং ভবিষ্যৎ DSpark অবস্থা-সহ রক্ষণাবেক্ষণ করা কার্ড। যাচাইকৃত repository SHA: 1769516ac588c4c558089c94f27d96b0dc67b183।
- [Liquid AI, LFM Open License v1.0](https://huggingface.co/LiquidAI/LFM2.5-24B-A2B/blob/main/LICENSE) — মডেলটির প্রকৃত লাইসেন্স। Section 5 বাণিজ্যিক ব্যবহারকে বার্ষিক ১০ মিলিয়ন ডলারের নিচে আয়ের শর্তে সীমিত করে; পুনর্বিতরণে notice রাখতে হয়।
- [Liquid AI, Agent Harnesses নির্দেশিকা](https://docs.liquid.ai/examples/agent-harnesses) — মডেল কার্ড থেকে লিংক করা রক্ষণাবেক্ষণাধীন সেটআপ নির্দেশিকা; স্থানীয় OpenAI-compatible serving ও harness configuration নথিভুক্ত করে। BIG CHANGE নির্দেশগুলো চালায়নি।