Model LFM2.5 24B kompanije Liquid AI daje autorima lokalnih agenata više opcija za posluživanje

Liquid AI je 13. oktobra objavio LFM2.5-24B-A2B kao težine za preuzimanje tekstualnog rezonacionog modela treniranog za upotrebu alata. Njegova kartica modela navodi checkpointove za više sistema posluživanja, od kvantizovane lokalne datoteke do formata namenjenih GPU serverima. Za tim koji pravi agenta, te datoteke su samo deo podešavanja: potreban je i runtime koji poslužuje model i harness koji izvršava predložene pozive alata.

Velika promena

• Šta se promenilo: Liquid AI je na Hugging Face postavio post-trenirani model i njegovu osnovnu verziju, uz formate za posluživanje na različitom hardveru. Kartica navodi ukupno 24,0 milijarde parametara i 2,45 milijardi aktivnih tokom inferencije; oznaka „A2B“ je zaokružena.
• Zašto je važno: Tim koji procenjuje lokalnog agenta može prvo da izabere checkpoint i put posluživanja, pa tek onda poveže harness koji koristi alate, umesto da preuzimanje modela smatra kompletnim agentom. Licenca i dostupan hardver i dalje utiču na tu odluku.
• Šta pratiti: Liquid AI prijavljuje obećavajuću brzinu i rezultate upotrebe alata u navedenim testovima. Timovi treba da mere svoje zadatke i paralelnost; stopa edge dekodiranja i serverska propusnost kompanije opisuju različita opterećenja.

Šta tim može da preuzme

Ovaj post-trenirani checkpoint je namenjen agentskom radu. Zaseban osnovni checkpoint služi za prilagođavanje. Liquid AI opisuje novi model kao isključivo rezonacioni: generiše segment razmišljanja pre konačnog odgovora, za razliku od ranijeg LFM2-24B-A2B. Navedeno ograničenje konteksta je 131.072 tokena, u odnosu na 32.768 kod prethodnika. To su specifikacije modela, a ne mera uspešnosti konkretne aplikacije s dugim kontekstom.

Kartica modela povezuje izvorni checkpoint za Transformers, vLLM i SGLang; FP8 težine za GPU posluživanje; GGUF datoteke za llama.cpp; ONNX datoteke za ONNX Runtime; i MLX verziju od 4 bita za Apple Silicon. BIG CHANGE je 14. oktobra potvrdio dostupnost tih šest repozitorijuma, uključujući osnovni model. Kartica navodi da je DSpark nacrt-model za spekulativno dekodiranje „uskoro dostupan“. Objavljeni formati ne dokazuju da je nezavisna strana testirala svaku kombinaciju pozadine i hardvera.

Težine su otvorene težine pod licencom LFM Open License v1.0. Licenca dozvoljava preuzimanje i izmene, ali komercijalnu upotrebu uslovljava godišnjim prihodom korisnika ili pravnog lica manjim od 10 miliona dolara. Komercijalna upotreba iznad tog praga nije dozvoljena tim uslovima. Organizacije treba da pročitaju celu licencu pre primene; „otvorene težine“ ovde ne znače neograničenu komercijalnu upotrebu.

Model, server i harness imaju različite uloge

Opis upotrebe alata u kartici modela daje modelu listu funkcija i omogućava mu da predloži poziv; softver ga izvršava, zatim vraća rezultat da bi model odgovorio. Model sam ne izvršava radnju u pregledaču niti operaciju nad datotekom. Pozadinski servis učitava checkpoint i izlaže inferenciju. Agentski harness upravlja razmenom s alatima i odlučuje kako da postupa s dozvolama i rezultatima.

Liquid AI-jev vodič za lokalne agente pokazuje tu podelu u praksi: poslužite model preko endpointa kompatibilnog s OpenAI-jem i usmerite Hermes Agent, OpenClaw ili Pi na njegovu lokalnu adresu. Port i konfiguracija zavise od izabranog servera. Kompanija kaže da je post-trenirani model trenirala u agentskim harnessima, uključujući Hermes Agent i OpenCode. To opisuje trening i podržano podešavanje, a ne dokazuje da će preuzeti agent biti pouzdan ili da će podaci u svakoj konfiguraciji ostati na uređaju. Granicu određuju primena, alati i mrežne veze.

Brzinu čitajte prema opterećenju

Liquid AI prijavljuje 184 izlazna tokena u sekundi na Apple M5 Max i 114 na AMD Ryzen AI Max+ 395 za edge dekodiranje. Kartica kaže da su testovi koristili llama.cpp, Q4_K_M kvantizaciju i ulazni kontekst od 4.000 tokena, a podaci su prikupljeni na infrastrukturi Pipette kompanije Liquid AI. To su merenja kompanije za kvantizovano lokalno podešavanje. Ne utvrđuju brzinu izvornih BF16 težina, proizvoljnog laptopa niti celog agentskog zadatka s alatima.

Brojka kompanije od više od 21.000 izlaznih tokena u sekundi označava zbirnu GPU propusnost, računatu kao ukupni izlazni tokeni podeljeni proteklim vremenom na jednom NVIDIA B300 pri dugotrajnoj visokoj paralelnosti. Navedeno podešavanje koristilo je SGLang 0.5.22, BF16 težine, 1.024 ulazna tokena i do 256 izlaznih tokena; završeni zahtevi su stalno zamenjivani da bi se održao ciljani broj aktivnih zahteva. To nije brzina odgovora za jednu osobu koja čeka jednog agenta. Dva merenja odgovaraju na različita inženjerska pitanja: lokalni tempo generisanja i ukupni kapacitet servera pod opterećenjem.

Liquid AI objavljuje i poređenje na 16 testova s drugim modelima. Na primer, prijavljuje 48,09 za LFM2.5 na LiveClaw u poređenju s 38,19 za Qwen3.6-35B-A3B, dok Qwen vodi na WebArena Verified i SWE-Bench Verified u istoj tabeli. Kompanija kaže da su svi modeli ocenjivani pomoću vLLM-a i postavki generisanja specifičnih za test. BIG CHANGE nije ponovio te testove, pa su oni korisni tragovi za testiranje sopstvenog opterećenja, a ne nezavisna rang-lista sposobnosti.

Praktična procena zato zavisi od konkretne primene: izaberite artefakt i runtime prema ciljnom hardveru, pročitajte licencu, povežite samo potrebne alate i testirajte stvarni zadatak pri očekivanom broju zahteva. Liquid AI sada nudi delove potrebne za takvu procenu. Svaki tim tek treba da proveri njihovo ponašanje u produkcionom toku rada.

Izvori i dodatna literatura

• Liquid AI, “LFM2.5-24B-A2B: Built for Fast On-Device Agents” (13. oktobar 2026). Objava opisuje promene u odnosu na LFM2, pristup treniranju, podržane sisteme posluživanja i merenja kvaliteta i brzine koja je sproveo proizvođač. BIG CHANGE nije ponovio benchmark testove niti pokrenuo model.
• Liquid AI, kartica modela LFM2.5-24B-A2B (pročitana 14. oktobra 2026). Navodi 24,0 milijarde ukupnih i 2,45 milijardi aktivnih parametara, veze do artefakata, podešavanja inferencije, format upotrebe alata, uslove benchmark testova i najavljeni DSpark nacrt-model. Karticu održava proizvođač i može se menjati.
• Liquid AI, LFM Open License v1.0 (pročitana 14. oktobra 2026). Utvrđuje obaveze pri distribuciji i uslov godišnjeg prihoda ispod 10 miliona dolara za komercijalnu upotrebu. Za odluku o primeni treba koristiti sam tekst licence.
• Liquid AI, vodič Agent Harnesses (povezan s kartice modela, pročitan 14. oktobra 2026). Objašnjava lokalni endpoint za posluživanje kompatibilan s OpenAI-jem i konfiguraciju harness-a. To je dokumentacija; BIG CHANGE nije izvršio ova uputstva.