AI-translated from English; not yet reviewed by a fluent editor.

# HybridAgent、潜在推論とテキストによるツール利用の併用を検証

> 新たなプレプリントと公開コードが、HybridAgentの潜在推論とテキストによるツール利用の切り替えを示す。測定された改善は著者らのベンチマーク設定で得られたものだ。

By BIG CHANGE Editorial

Published: 2026-10-19T07:00:34.991Z
Updated: 2026-10-19T07:00:34.991Z
Canonical: https://bigchange.ai/blog/hybridagents-latent-reasoning-text-tool-use-paper

![Conceptual charcoal illustration of a continuous accordion paper strip with dark folded sections and completely blank pale sections.](https://bigchange.ai/api/media/file/hybridagent-latent-text-accordion-concept-v2.png)
AI-generated conceptual illustration by BIG CHANGE; no actual model trace, architecture or test result is depicted.

検索エンジンを呼ぶエージェントは、クエリをテキストで表し、結果を読まなければならない。内部の推論まで同じ形式に従う必要はない。[10月13日のプレプリント](https://arxiv.org/html/2610.18861v1)で、スタンフォード、イリノイ大学アーバナ・シャンペーン校、Together AI、Metaの研究者らはHybridAgentを説明している。連続的な内部状態と、ツール呼び出し、観測、回答のためのテキストを交互に使うシステムだ。研究コードとエージェント用チェックポイント2つを公開した。報告された性能・効率の結果は著者らの実験によるもので、独立した再現や稼働中のサービスの結果ではない。

## 大きな変化

- **何が変わったか：** HybridAgentは、言語モデルのエージェントが1つのタスクの中で、内部の連続状態のステップと通常のテキストを行き来する方法を提供する。検索、Python、最終回答のインターフェースはテキストのままだ。
- **なぜ重要か：** エージェントを研究する開発者は、すべての中間ステップを書き出す必要があるかを調べられる。条件をそろえた著者らの実験は、この手法の生成ステップが少ない可能性を示し、公開コードは実装の点検を可能にする。いずれも稼働サービスの請求が下がる証明ではない。
- **注目点：** 公開チェックポイントを使った独立した実行で、測定された優位が別のタスクやツール費用でも保たれるかを試せる。点検上さらに難しいのは、潜在状態から得た読みやすい単語が、回答に至る過程を忠実に説明しているかという問題だ。

## 切り替えの仕組み

通常のテキストモードではモデルはトークンを生成する。特別な`<latent>`トークンを出すと、HybridLinkという小さな部品がモデルの最後の隠れ状態を入力空間へ写像し直す。システムは得られた連続ベクトルを、先に単語に変換せず次のステップへ入れる。最も近いトークンとの比較で`</latent>`マーカーを識別すると、テキストモードに戻る。その後、モデルはツール呼び出しや回答を書ける。論文は、テキスト、潜在ステップ、ツールの観測を後続のターンへ引き継ぐ永続的なキー・バリューキャッシュを説明している。[構造と遷移ルールはプレプリントの第3・4節にある](https://arxiv.org/html/2610.18861v1)。

これは事前学習モデルにアダプターを付ける以上の作業を要する。著者らはまずテキストの実演を、テキストと潜在状態が混在する学習系列に変換し、教師あり学習で基盤モデルとHybridLinkを協調させる。その後の強化学習で、できたエージェントを推論と検索タスクに学習させる。この段階では、サンプリングされたテキスト位置の確率を更新し、記録済みの潜在入力を再生する。論文によると、学習データは変換した5万4000件の実演と、その後の別々の集合である深い推論1万2000例、エージェント検索1000例からなる。[学習とデータの詳細](https://arxiv.org/html/2610.18861v1)。

## ベンチマークが測定したもの

主要評価は、Qwen3-Baseを基にした8B・14B版を11ベンチマークで報告する。6つは数学、科学・医学知識、複数段階の質問を扱い、5つは検索とエージェントタスクに重点を置く。別の付録は4B版をAIME25、AIME26、MATH500、GPQA-Diamondの4つで試す。比較相手は、同じ基盤モデルと学習データを使うテキスト学習エージェント、潜在推論手法、最先端エージェント、ツール利用フレームワークで、それぞれ比較目的が異なる。例えば条件をそろえた14Bの強化学習比較では、MATH500でHybridAgentが88.2%、ARPOで学習したテキストエージェントが87.0%となる。GAIA平均ではHybridAgent 14Bが52.4%、そのARPO基準が43.7%と報告する。著者らの設定での結果であり、配備済みエージェントの一般的な順位ではない。[主要表、4B付録、比較基準の定義](https://arxiv.org/html/2610.18861v1)。

設定が重要だ。論文は数学評価に深い推論で学習したチェックポイントを、知識・エージェント評価にエージェント検索で学習したものを使う。推論時はtemperature 0.6、top-p 0.95、top-k 20とし、予算にはテキストトークンと潜在ステップの両方を数えたという。数学・知識タスクには4096ステップ、難しいエージェントタスクには2万4000ステップを認めた。潜在区間は16〜256ステップで、軌跡にはツール呼び出し数の制限があった。ツールはサンドボックス化したPythonインタープリターとライブ検索で、検索ページの要約や出力の判定にもモデルを用いた。著者らはH100 GPU 32基で学習と推論を行ったと報告する。ツールサービス、検索結果、運用条件が違えば比較も変わり得る。[実験設定](https://arxiv.org/html/2610.18861v1)。

要旨の性能10.4%改善は、モデル規模と学習予算をそろえた強化学習段階で、対応するテキスト・潜在方式の基準と比べた結果だ。すべての最先端エージェントに対する普遍的な改善とは読めない。主要なエージェント評価表には5回の独立した実行結果もあり、正確性の平均標準偏差は0.014とされる。[結果と表の説明](https://arxiv.org/html/2610.18861v1)。

## 効率の主張は計算に含む範囲が狭い

論文はテキスト方式の基準に比べ、テキストトークンが従来の約1/2.7、総生成ステップが最大54%減ったと報告する。要旨では推論速度が1.8〜2.6倍、推定費用が従来の約1/2.7〜1/3.7とされる。潜在ステップにもモデル計算は必要だ。著者らの費用表は、テキストまたは潜在ステップごとに基盤モデル全体の順伝播1回を計上し、H100を1時間2.50ドル、BF16のピーク処理量の10%として100万回答を推定する。8B基盤モデルでは1問当たりの浮動小数点演算が62.5兆回から17.2兆回、100万問当たりの費用が439ドルから121ドルとなる。[効率の節と費用表](https://arxiv.org/html/2610.18861v1)。

同じ付録はプロンプト処理、文脈で変動するアテンション費用、外部ツール実行を明示的に除外する。検索呼び出し、ホスティングなどのサービス費用は、このドル比較に含まれない。数字は著者らが測定した生成経路と明記した計算モデルの有用な根拠だが、完全なエージェントサービスの運用費用を示すものではない。

## 読める潜在区間にも検証が必要

HybridAgentは各潜在ステップを最も近いトークン埋め込みへ写像して、擬似テキストを表示できる。[リポジトリの例](https://github.com/togethercomputer/HybridAgent)はこうした表示を実際の検索・Python呼び出しと並べて示す。論文の別実験では、潜在ベクトルを変更または置換するとMATH500の正確性が下がるため、その状態が回答に影響するという主張を支える。最も近い単語が計算を完全かつ忠実に説明することまでは示していない。[潜在状態への介入の表](https://arxiv.org/html/2610.18861v1)。

著者らは数学560問で、見えるテキストが外部監視にどれほど役立つかも試す。表は条件をそろえたテキストエージェントよりHybridAgentの可視テキストトークンが少ないと報告し、モデルが判定した複数の監視・デバッグ指標も載せている。改善する指標もあるが、14Bの強い監視モデルのAUROCはHybridAgentが0.989、テキストエージェントが0.990だ。これらは特定の監視モデルとタスクを評価する試験であり、特に隠れた潜在区間について、一般的な透明性や安全性を確立できるものではない。[監査可能性の実験](https://arxiv.org/html/2610.18861v1)。

## 現在利用できるもの

この[MITライセンスのリポジトリ](https://github.com/togethercomputer/HybridAgent)にはハイブリッド生成エンジン、Python・検索ツール、教師あり・強化学習のパイプライン、バッチ推論、擬似テキスト検査器が含まれる。著者らは公開の[8B](https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic)と[14B](https://huggingface.co/togethercomputer/HybridAgent-14B-Agentic) **エージェント用**チェックポイントと学習データセットへリンクしている。論文の数学評価は別途学習した深い推論用チェックポイントを使い、READMEの公開モデル一覧は2つのエージェント用チェックポイントを示す。各公開チェックポイントには基盤モデルとHybridLinkの重みが入っている。モデルカードによると、Transformersで基盤モデルだけを読み込むとテキスト専用モデルになる。潜在生成とツール利用にはプロジェクトのコードが必要だ。

READMEは教師あり学習にGPU 8基または16基、エージェント検索の強化学習ランチャーに4ノードで32基を推奨する。導入手順には検索APIキーも含まれる。文書化された研究パイプラインを試す人にとって重要な要件だ。BIG CHANGEは論文、リポジトリ、モデルカードを確認したが、コード実行、チェックポイントのダウンロード、ベンチマーク再現は行っていない。

## Sources

- [Zouほか、Hybrid Reasoning Agents、arXiv:2610.18861v1（2026-10-13）](https://arxiv.org/html/2610.18861v1) — 主要プレプリント。第3〜6節と付録E・G・Hは手法、学習、ベンチマーク、H100 32基の設定、費用の仮定を説明する。著者らの結果は独立した再現ではなく、ドル推定はプリフィル、文脈アテンション、ツールを除く。
- [Together Computer、HybridAgentコードとREADME](https://github.com/togethercomputer/HybridAgent) — MITライセンスの公式研究実装。READMEはエンジン、SFT/RLパイプライン、8B/14Bチェックポイント、Tavilyキー、SFTのGPU 8/16基、検索RLの32基という推奨を示す。BIG CHANGEは実行していない。
- [Together Computer、HybridAgent-8B-Agenticモデルカード](https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic) — 公開8Bチェックポイントの公式カード。基盤モデルとHybridLinkの重みを説明する。ハイブリッド生成とツール利用にはリポジトリのコードが必要だ。
- [Together Computer、HybridAgent-14B-Agenticモデルカード](https://huggingface.co/togethercomputer/HybridAgent-14B-Agentic) — 公開14Bチェックポイントの公式カード。コード要件は同じで、研究用チェックポイントであり稼働サービスの証拠ではない。