Liquid AI యొక్క LFM2.5 24B మోడల్ స్థానిక ఏజెంట్‌లను నిర్మించేవారికి మరిన్ని సర్వింగ్ ఎంపికలను అందిస్తుంది

Liquid AI LFM2.5-24B-A2B ను అక్టోబర్ 13న టూల్స్ ఉపయోగించేందుకు శిక్షణ పొందిన, కేవలం టెక్స్ట్ ఆధారిత reasoning మోడల్‌కు డౌన్‌లోడ్ చేసుకోగల weights‌గా విడుదల చేసింది. దాని మోడల్ కార్డ్ స్థానికంగా quantized ఫైల్ నుంచి GPU server ఫార్మాట్‌ల వరకు పలు serving systems కోసం checkpoints‌ను జాబితా చేస్తుంది. ఏజెంట్ నిర్మించే బృందానికి ఈ ఫైళ్లు మాత్రమే పూర్తి సెటప్ కావు: మోడల్‌ను అందించే runtime, అది సూచించే tool calls‌ను అమలు చేసే harness కూడా అవసరం.

పెద్ద మార్పు

• ఏమి మారింది: Liquid AI Hugging Faceలో post-trained మోడల్‌తో పాటు దాని base వెర్షన్‌ను, వేర్వేరు పరికరాల కోసం serving ఫార్మాట్‌లతో విడుదల చేసింది. కార్డ్ ప్రకారం మొత్తం parameters 24 బిలియన్లు, inference సమయంలో క్రియాశీలంగా ఉండేవి 2.45 బిలియన్లు; A2B అనేది గుండ్రంగా చెప్పిన పేరు.
• ఇది ఎందుకు ముఖ్యం: స్థానిక ఏజెంట్‌ను అంచనా వేసే బృందం tool-using harness‌ను కలపకముందే checkpoint, serving మార్గాన్ని ఎంచుకోవచ్చు; మోడల్‌ను డౌన్‌లోడ్ చేయడమే ఏజెంట్‌ను పూర్తి చేయదు. లైసెన్స్, అందుబాటులో ఉన్న hardware ఈ నిర్ణయాన్ని ఇంకా పరిమితం చేస్తాయి.
• ఏమి గమనించాలి: నిర్దిష్ట పరీక్షల్లో వేగం, tool useకు ఆశాజనక ఫలితాలను Liquid AI నివేదించింది. బృందాలు తమ పనులు, concurrencyని స్వయంగా కొలవాలి: edge decoding వేగం, కంపెనీ server throughput వేర్వేరు workloads‌ను సూచిస్తాయి.

బృందం ఏమి డౌన్‌లోడ్ చేసుకోవచ్చు

ఈ post-trained checkpoint agentic పనుల కోసం ఉద్దేశించబడింది. వేరుగా ఉన్న base checkpoint adaptation కోసం ఉపయోగపడుతుంది. పాత LFM2-24B-A2Bతో భిన్నంగా, కొత్త మోడల్ reasoning-only అని Liquid AI చెబుతోంది: చివరి సమాధానానికి ముందు ఇది thought segment‌ను రూపొందిస్తుంది. పేర్కొన్న context పరిమితి 131,072 tokens; దాని ముందున్న మోడల్‌లో 32,768. ఇవి మోడల్ specifications మాత్రమే; నిర్దిష్ట application దీర్ఘ context‌ను ఎంత బాగా ఉపయోగిస్తుందో కొలిచిన ఫలితం కాదు.

మోడల్ కార్డ్ Transformers, vLLM, SGLang కోసం native checkpoint‌ను లింక్ చేస్తుంది; FP8 weights GPU సర్వింగ్ కోసం; GGUF files llama.cpp కోసం; ONNX files ONNX Runtime కోసం; అలాగే 4-bit MLX వెర్షన్ Apple Silicon కోసం. base మోడల్ సహా ఈ ఆరు repositories అక్టోబర్ 14న అందుబాటులో ఉన్నాయని BIG CHANGE నిర్ధారించింది. speculative decoding కోసం DSpark draft మోడల్ “త్వరలో” వస్తుందని కార్డ్ పేర్కొంది. ఫార్మాట్‌లు విడుదలైనంత మాత్రాన ప్రతి backend, hardware కలయికను స్వతంత్రంగా పరీక్షించారని నిరూపించదు.

Weights open-weightగా ఉన్నాయి, LFM Open License v1.0 కింద వస్తాయి. డౌన్‌లోడ్ చేసి మార్చుకోవచ్చు; అయితే వినియోగదారు లేదా చట్టబద్ధ సంస్థ వార్షిక ఆదాయం $10 మిలియన్ల కంటే తక్కువగా ఉన్నప్పుడే వాణిజ్య వినియోగానికి అనుమతి ఉంటుంది. ఆ పరిమితి దాటినప్పుడు వాణిజ్య వినియోగానికి నిబంధనలు అనుమతించవు. deploymentకు ముందు సంస్థలు పూర్తి లైసెన్స్‌ను చదవాలి; ఇక్కడ “open-weight” అంటే ఎలాంటి పరిమితులు లేని వాణిజ్య వినియోగం కాదు.

మోడల్, server, harness వేర్వేరు పనులు చేస్తాయి

మోడల్ కార్డ్‌లోని tool-use వివరణ మోడల్‌కు functions జాబితాను ఇచ్చి call‌ను సూచించేలా చేస్తుంది; software ఆ call‌ను అమలు చేసి, మోడల్ సమాధానం ఇవ్వడానికి ఫలితాన్ని తిరిగి పంపుతుంది. మోడల్ స్వయంగా browser చర్యను లేదా file operation‌ను అమలు చేయదు. serving backend checkpoint‌ను లోడ్ చేసి inference అందిస్తుంది. agent harness tools‌తో పరస్పర చర్యను సమన్వయం చేసి, permissions మరియు ఫలితాలను ఎలా నిర్వహించాలో నిర్ణయిస్తుంది.

Liquid AI యొక్క స్థానిక ఏజెంట్ సూచనలు ఈ విభజనను ఆచరణలో చూపుతాయి: OpenAI-compatible endpoint ద్వారా మోడల్‌ను అందించి, Hermes Agent, OpenClaw లేదా Piని స్థానిక చిరునామాకు సూచిస్తాయి. ఎంచుకున్న serverపై ఆధారపడి port, configuration మారతాయి. Hermes Agent, OpenCode సహా agentic harnessesపై post-trained మోడల్‌కు శిక్షణ ఇచ్చామని కంపెనీ చెబుతోంది. ఇది శిక్షణ, మద్దతున్న configuration గురించి చెబుతుంది; డౌన్‌లోడ్ చేసిన ఏజెంట్ నమ్మదగినదని లేదా ప్రతి సెటప్‌లో డేటా పరికరంలోనే ఉంటుందని నిరూపించదు. Deployment, tools, network connections ఆ హద్దును నిర్ణయిస్తాయి.

పని తీరును బట్టి వేగ సంఖ్యలను ఎలా చదవాలి

Liquid AI నివేదించిన ప్రకారం Apple M5 Maxపై సెకనుకు 184 output tokens మరియు AMD Ryzen AI Max+ 395పై 114 edge decoding కోసం వచ్చాయి. మోడల్ కార్డ్ ప్రకారం పరీక్షల్లో llama.cpp, Q4_K_M quantization, 4,000 input-token context ఉపయోగించి Liquid AI Pipette infrastructureలో కొలిచారు. ఇవి ఒక quantized స్థానిక configurationకు కంపెనీ కొలతలు. native BF16 weights, ఏ laptop లేదా tools‌తో కూడిన పూర్తి ఏజెంట్ పని వేగాన్ని ఇవి నిర్ధారించవు.

కంపెనీ నివేదించిన సెకనుకు 21,000 కంటే ఎక్కువ output tokens అనేది GPUల సమిష్టి throughput: అధిక concurrencyని నిరంతరం కొనసాగిస్తూ NVIDIA B300పై ఉత్పత్తైన మొత్తం tokens‌ను గడిచిన సమయంతో భాగించిన విలువ. పేర్కొన్న configuration SGLang 0.5.22, BF16 weights, 1,024 input tokens, గరిష్ఠంగా 256 output tokens ఉపయోగించింది; పూర్తైన requests స్థానంలో కొత్తవాటిని పెట్టి ఏకకాల requests‌ను నిరంతరం నిర్వహించింది. ఏజెంట్ కోసం ఎదురుచూసే ఒక్క వ్యక్తికి ఇది response rate కాదు. ఈ రెండు కొలతలు వేర్వేరు ప్రశ్నలకు సమాధానమిస్తాయి: స్థానిక generation వేగం, లోడ్‌లో server మొత్తం సామర్థ్యం.

ఇతర మోడళ్లతో పోల్చిన 16 benchmarks‌ను కూడా Liquid AI ప్రచురించింది. ఉదాహరణకు, LiveClawలో LFM2.5కు 48.09, Qwen3.6-35B-A3Bకు 38.19గా నివేదించింది; అదే పట్టికలో WebArena Verified, SWE-Bench Verifiedలో Qwen ముందుంది. ప్రతి మోడల్‌ను benchmark-ప్రత్యేక generation settingsతో vLLMలో పరీక్షించామని కంపెనీ చెబుతోంది. BIG CHANGE ఆ పరీక్షలను పునరావృతం చేయలేదు; అవి సొంత workloads‌ను పరీక్షించడానికి సూచనలు, స్వతంత్ర సామర్థ్య ర్యాంకింగ్ కాదు.

ఆచరణాత్మక మూల్యాంకనం నిర్దిష్టంగా ఉండాలి: లక్ష్య hardwareకు సరైన artifact, runtime ఎంచుకోండి, లైసెన్స్ చదవండి, ఏజెంట్‌కు అవసరమైన tools మాత్రమే కలపండి, ఆశించిన request loadతో నిజమైన పనిని పరీక్షించండి. ఆ మూల్యాంకనానికి అవసరమైన భాగాలను Liquid AI ఇప్పుడు అందిస్తోంది. production workflowలో అవి ఎలా పనిచేస్తాయో ప్రతి బృందం ఇంకా నిర్ధారించాలి.

మూలాలు మరియు మరింత చదవడానికి

• Liquid AI, “LFM2.5-24B-A2B: Built for Fast On-Device Agents” (అక్టోబర్ 13, 2026). విడుదల సమాచారం LFM2తో పోలిన మార్పులు, training focus, మద్దతున్న serving systems, విక్రేత వేగం మరియు నాణ్యత కొలతలను వివరిస్తుంది. BIG CHANGE benchmarks‌ను పునరావృతం చేయలేదు లేదా మోడల్‌ను అమలు చేయలేదు.
• Liquid AI, LFM2.5-24B-A2B మోడల్ కార్డ్ (అక్టోబర్ 14, 2026న చూసింది). మొత్తం 24 బిలియన్, క్రియాశీల 2.45 బిలియన్ parameters, artifacts links, inference settings, tool-use format, benchmark నిబంధనలు, తరువాత వస్తుందని తెలిపిన DSpark draftను జాబితా చేస్తుంది. ఈ కార్డ్‌ను విక్రేత నిర్వహిస్తాడు; ఇది మారవచ్చు.
• Liquid AI, LFM Open License v1.0 (అక్టోబర్ 14, 2026న చూసింది). పంపిణీ బాధ్యతలు, వార్షిక ఆదాయం $10 మిలియన్ల కంటే తక్కువ ఉండాలనే వాణిజ్య వినియోగ అర్హతను పేర్కొంటుంది.
• BIG CHANGE, Agent Harnesses: స్థానిక AI మోడళ్లకు tools జోడించడం (మోడల్ కార్డ్ నుంచి లింక్ చేయబడింది; అక్టోబర్ 14, 2026న చదివింది). స్థానిక OpenAI-compatible serving endpoint, harness configurationను వివరిస్తుంది. BIG CHANGE ఈ సూచనలను అమలు చేయలేదు.