Markdown edition

AI-translated from English; not yet reviewed by a fluent editor.

# Sinusubukan ng HybridAgent ang latent reasoning kasabay ng paggamit ng tools sa teksto

> Ipinapakita ng bagong preprint at inilabas na code kung paano nagpapalitan ang latent reasoning at paggamit ng tools sa teksto sa HybridAgent. Mula sa benchmark setup ng mga awtor ang nasukat na mga pagbuti.

By BIG CHANGE Editorial

Published: 2026-10-19T07:00:34.991Z
Updated: 2026-10-19T07:00:34.991Z
Canonical: https://bigchange.ai/blog/hybridagents-latent-reasoning-text-tool-use-paper

![Conceptual charcoal illustration of a continuous accordion paper strip with dark folded sections and completely blank pale sections.](https://bigchange.ai/api/media/file/hybridagent-latent-text-accordion-concept-v2.png)
AI-generated conceptual illustration by BIG CHANGE; no actual model trace, architecture or test result is depicted.

Kailangang ipahayag sa teksto ng agent na tumatawag sa search engine ang query nito at basahin ang resulta. Hindi kailangang sundin ng panloob nitong pangangatwiran ang parehong format. Sa isang [preprint noong Oktubre 13](https://arxiv.org/html/2610.18861v1), inilalarawan ng mga mananaliksik mula sa Stanford, University of Illinois Urbana-Champaign, Together AI at Meta ang HybridAgent, isang sistemang nagpapalitan sa mga continuous na panloob na estado at sa teksto para sa tool calls, obserbasyon at sagot. Naglabas sila ng research code at dalawang checkpoint para sa mga gawaing agent. Mula sa mga eksperimento ng mga awtor ang iniulat na performance at efficiency, hindi mula sa independiyenteng pag-uulit o isang na-deploy na serbisyo.

## Ang malaking pagbabago

- **Ano ang nagbago:** Binibigyan ng HybridAgent ang isang language-model agent ng paraan upang lumipat sa mga panloob na hakbang na may tuloy-tuloy na halaga ng estado at karaniwang teksto sa loob ng isang gawain. Teksto pa rin ang interface para sa search, Python at panghuling sagot.
- **Bakit ito mahalaga:** Maaaring siyasatin ng mga developer na nag-aaral ng agents kung kailangang isulat ang bawat hakbang sa pagitan. Iminumungkahi ng mga eksperimento ng mga awtor na magkatugma ang mga kondisyon na mas kaunti ang generation step sa kanilang paraan, habang nasisiyasat ang implementasyon dahil pampubliko ang code. Wala sa mga ito ang nagpapatunay ng mas mababang bill para sa isang serbisyong tumatakbo.
- **Ano ang dapat bantayan:** Maaaring subukan ng mga independiyenteng pagpapatakbo gamit ang inilabas na checkpoint kung mananatili ang nasukat na bentahe sa ibang gawain at gastos sa tools. Mas mahirap siyasatin kung tapat na inilalarawan ng mga nababasang salitang nakuha mula sa latent state kung paano narating ang sagot.

## Paano gumagana ang paglipat

Sa karaniwang text mode, lumilikha ang modelo ng mga token. Kapag naglabas ito ng espesyal na `<latent>` token, iminamapa ng maliit na component na HybridLink ang huling hidden state ng modelo pabalik sa input space nito. Ipinapasok ng sistema ang nabuong continuous vector sa susunod na hakbang nang hindi muna ito ginagawang salita. Bumabalik ito sa text mode kapag natukoy ng paghahambing sa pinakamalapit na token ang `</latent>` marker. Maaari nang magsulat ang modelo ng tool call o sagot nito. Inilalarawan ng papel ang persistent key-value cache na nagdadala ng teksto, latent step at obserbasyon ng tools sa mga susunod na palitan. [Nasa Seksiyon 3 at 4 ng preprint ang arkitektura at mga tuntunin ng paglipat](https://arxiv.org/html/2610.18861v1).

Higit pa ito sa pagkabit ng adapter sa isang pretrained model. Una, ginagawa ng mga awtor na halo ng teksto at latent training sequence ang mga tekstuwal na demonstrasyon. Pagkatapos, gumagamit sila ng supervised training upang turuan ang backbone at HybridLink na gumana nang magkasama. Sinasanay ng yugto ng reinforcement learning ang nabuong agent sa mga gawain ng pangangatwiran at paghahanap. Sa yugtong iyon, ina-update ng mga awtor ang mga probabilidad sa mga sampled text position at muling ipinapasok ang naitalang latent input. Ayon sa papel, binubuo ang training data ng 54,000 na-convert na demonstrasyon, na sinusundan ng magkahiwalay na set ng 12,000 halimbawa ng malalim na pangangatwiran at 1,000 halimbawa ng paghahanap gamit ang agent. [Mga detalye ng training at data](https://arxiv.org/html/2610.18861v1).

## Ano ang sinukat ng mga benchmark

Iniuulat ng pangunahing ebalwasyon ang mga bersiyong 8B at 14B na nakabatay sa Qwen3-Base sa 11 benchmark. Anim ang sumasaklaw sa matematika, kaalamang pang-agham o medikal at multi-hop na tanong; lima ang nakatuon sa paghahanap at mga gawaing agent. Sinusubukan ng hiwalay na apendiks ang 4B sa apat na benchmark: AIME25, AIME26, MATH500 at GPQA-Diamond. Inihahambing ng mga awtor sa agents na sinanay sa teksto gamit ang parehong backbone at training data, mga paraan ng latent reasoning, frontier agents at mga framework sa paggamit ng tools. Magkakaiba ang layunin ng mga grupong iyon sa paghahambing. Halimbawa, sa magkatugmang 14B reinforcement-learning comparison, 88.2% ang HybridAgent sa MATH500 at 87.0% ang text agent na sinanay gamit ang ARPO. Sa GAIA average, iniuulat ang 52.4% para sa HybridAgent 14B at 43.7% para sa ARPO baseline na iyon. Mga resulta ito sa setup ng mga awtor, hindi pangkalahatang ranggo ng mga na-deploy na agent. [Mga pangunahing talahanayan, apendiks ng 4B at mga depinisyon ng baseline](https://arxiv.org/html/2610.18861v1).

Mahalaga ang setup. Ginagamit ng papel ang mga checkpoint na sinanay sa malalim na pangangatwiran para sa mga ebalwasyon sa matematika, at mga checkpoint na sinanay sa paghahanap gamit ang agent para sa mga ebalwasyon ng kaalaman at gawaing agent. Sinasabi nitong temperature 0.6, top-p 0.95 at top-k 20 ang ginamit sa inference, at kapwa binibilang sa budget ang text token at latent step. Pinayagan ang 4,096 hakbang sa matematika at kaalaman, at 24,000 sa mas mahihirap na gawaing agent. Hindi bababa sa 16 at hindi hihigit sa 256 hakbang ang latent span; may limitasyon ang mga trajectory sa tool calls. Ang tools ay sandboxed Python interpreter at live search, kasama ang modelong nagbubuod ng mga search page at humuhusga sa output. Iniuulat ng mga awtor ang training at inference sa 32 H100 GPU. Maaaring baguhin ng ibang tool service, retrieval result o kundisyon ng operasyon ang paghahambing. [Setup ng eksperimento](https://arxiv.org/html/2610.18861v1).

Ang 10.4% na pagbuti ng performance sa abstract ay tumutukoy sa paghahambing sa katumbas na text at latent baseline sa yugto ng reinforcement learning, na magkatugma ang laki ng modelo at training budget. Hindi ito dapat basahin bilang pangkalahatang pagbuti laban sa bawat frontier agent. Iniuulat din ng papel ang limang independiyenteng pagpapatakbo para sa pangunahing talahanayan ng gawaing agent, na may average standard deviation na 0.014 sa accuracy. [Mga resulta at paliwanag ng talahanayan](https://arxiv.org/html/2610.18861v1).

## Mas makitid ang saklaw ng kalkulasyon sa pahayag ng efficiency

Iniuulat ng papel ang 2.7 beses na mas kaunting text token at hanggang 54% na mas kaunting kabuuang generation step laban sa text-based baseline. Ibinibigay ng abstract ang 1.8 hanggang 2.6 beses na bilis ng inference at 2.7 hanggang 3.7 beses na mas mababang tinantiyang gastos. Kailangan pa rin ng latent step ang komputasyon ng modelo. Binibilang ng cost table ng mga awtor ang bawat text o latent step bilang isang buong backbone forward pass, at tinatantiya ang isang milyong sagot gamit ang H100 na US$2.50 kada oras sa 10% ng peak BF16 throughput. Para sa 8B backbone, mula 62.5 ay nagiging 17.2 trilyong floating-point operation kada tanong ang kalkulasyon, at mula US$439 ay US$121 kada isang milyong tanong. [Seksiyon ng efficiency at cost table](https://arxiv.org/html/2610.18861v1).

Malinaw na hindi kasama sa parehong apendiks ang prompt processing, mga gastos sa attention na nagbabago ayon sa context, at pagpapatakbo ng external tools. Nasa labas samakatuwid ng paghahambing sa dolyar ang search calls, hosting at ibang gastos sa serbisyo. Kapaki-pakinabang ang mga bilang bilang ebidensiya ng nasukat na generation path at ipinahayag na compute model ng mga awtor, ngunit hindi nila itinatakda ang gastos ng pagpapatakbo ng buong agent service.

## Kailangan pa ring siyasatin ang nababasang latent span

Maaaring magpakita ang HybridAgent ng pseudo-text readout sa pagmamapa ng bawat latent step sa pinakamalapit na token embedding nito. Ang [halimbawa sa repository](https://github.com/togethercomputer/HybridAgent) ay nagpapakita ng ganitong readout kasama ang aktuwal na search at Python calls. Sa hiwalay na eksperimento sa papel, bumababa ang MATH500 accuracy kapag binago o pinalitan ang mga latent vector, na sumusuporta sa pahayag na nakaaapekto sa sagot ang mga estadong iyon. Hindi nito ipinapakitang nagbibigay ang pinakamalapit na mga salita ng buo o tapat na paliwanag ng komputasyon. [Talahanayan ng latent intervention](https://arxiv.org/html/2610.18861v1).

Sinusubukan din ng mga awtor kung gaano kapaki-pakinabang ang nakikitang teksto para sa external monitoring sa 560 problemang matematika. Mas kaunting nakikitang text token ang iniuulat ng talahanayan para sa HybridAgent kaysa sa katugmang text agent, kasama ang ilang sukatan ng monitoring at debugging na hinuhusgahan ng modelo. Bumubuti ang ilang sukatan; ang strong-monitor AUROC sa 14B ay 0.989 para sa HybridAgent at 0.990 para sa text agent. Partikular na monitor at gawain ang sinusuri ng mga test na ito. Hindi nila mapatutunayan ang pangkalahatang transparency o safety, lalo na para sa mga nakatagong latent span. [Eksperimento sa kakayahang ma-audit](https://arxiv.org/html/2610.18861v1).

## Ano ang available ngayon

Ang [repository na may lisensiyang MIT](https://github.com/togethercomputer/HybridAgent) ay may hybrid generation engine, Python at search tools, supervised at reinforcement-learning pipeline, batch inference at pseudo-text inspector. Nag-uugnay ang mga awtor sa mga pampublikong [8B](https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic) at [14B](https://huggingface.co/togethercomputer/HybridAgent-14B-Agentic) **checkpoint para sa mga gawaing agent**, kasama ang training datasets. Gumamit ang mga ebalwasyong matematika ng papel ng hiwalay na sinanay na deep-reasoning checkpoint; tinutukoy ng released-model list sa README ang dalawang agentic checkpoint. Kasama sa bawat pampublikong checkpoint ang backbone at HybridLink weights. Ayon sa model card, text-only na modelo ang makukuha kung backbone lamang ang ilo-load gamit ang Transformers; kailangan ang project code para sa latent generation at paggamit ng tools.

Inirerekomenda ng README ang 8 o 16 GPU para sa supervised training at 32 GPU sa apat na node para sa launcher nito ng reinforcement learning sa paghahanap gamit ang agent. May search API key sa mga tagubilin ng pag-install. Mahahalagang pangangailangan ang mga ito para sa sinumang susubok sa nakadokumentong research pipeline. Sinuri ng BIG CHANGE ang papel, repository at model cards; hindi nito pinatakbo ang code, na-download ang mga checkpoint o naulit ang mga benchmark.

## Sources

- [Zou at iba pa, Hybrid Reasoning Agents, arXiv:2610.18861v1 (2026-10-13)](https://arxiv.org/html/2610.18861v1) — Pangunahing preprint. Itinatakda ng Seksiyon 3–6 at Apendiks E, G, H ang paraan, training, benchmark, 32-H100 setup at mga palagay sa gastos. Hindi independiyenteng pag-uulit ang resulta ng mga awtor; hindi kasama sa tantiyang dolyar ang prefill, context attention at tools.
- [Together Computer, HybridAgent code at README](https://github.com/togethercomputer/HybridAgent) — Opisyal na research implementation na may lisensiyang MIT. Nasa README ang engine, SFT/RL pipeline, 8B/14B checkpoint, Tavily key, rekomendasyong 8/16 GPU para sa SFT at 32 GPU para sa search RL. Hindi ito pinatakbo ng BIG CHANGE.
- [Together Computer, HybridAgent-8B-Agentic model card](https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic) — Opisyal na card ng pampublikong 8B checkpoint. Inilalarawan ang backbone at HybridLink weights; kailangan ang repository code para sa hybrid generation at paggamit ng tools.
- [Together Computer, HybridAgent-14B-Agentic model card](https://huggingface.co/togethercomputer/HybridAgent-14B-Agentic) — Opisyal na card ng pampublikong 14B checkpoint. Pareho ang pangangailangan sa code; research checkpoint ito, hindi ebidensiya ng isang na-deploy na serbisyo.