Markdown 버전

AI-translated from English; not yet reviewed by a fluent editor.

# HybridAgent, 잠재 추론과 텍스트 기반 도구 사용의 병행을 시험하다

> 새 프리프린트와 공개 코드가 HybridAgent의 잠재 추론과 텍스트 도구 사용 전환 방식을 보여준다. 측정된 개선은 저자들의 벤치마크 설정에서 나온 결과다.

By BIG CHANGE Editorial

Published: 2026-10-19T07:00:34.991Z
Updated: 2026-10-19T07:00:34.991Z
Canonical: https://bigchange.ai/blog/hybridagents-latent-reasoning-text-tool-use-paper

![Conceptual charcoal illustration of a continuous accordion paper strip with dark folded sections and completely blank pale sections.](https://bigchange.ai/api/media/file/hybridagent-latent-text-accordion-concept-v2.png)
AI-generated conceptual illustration by BIG CHANGE; no actual model trace, architecture or test result is depicted.

검색 엔진을 호출하는 에이전트는 질의를 텍스트로 표현하고 결과를 읽어야 한다. 내부 추론까지 같은 형식을 따를 필요는 없다. [10월 13일 프리프린트](https://arxiv.org/html/2610.18861v1)에서 스탠퍼드, 일리노이대학교 어배너-섐페인, Together AI, Meta 연구진은 연속적인 내부 상태와 도구 호출·관측·응답용 텍스트를 번갈아 사용하는 HybridAgent를 설명한다. 연구 코드와 에이전트용 체크포인트 두 개도 공개했다. 보고된 성능·효율 결과는 저자들의 실험에서 나온 것이며, 독립 재현이나 배포된 서비스의 결과가 아니다.

## 큰 변화

- **무엇이 달라졌나:** HybridAgent는 언어 모델 에이전트가 하나의 작업 중에 내부 연속 상태 단계와 일반 텍스트를 오갈 수 있게 한다. 검색, Python, 최종 응답의 인터페이스는 여전히 텍스트다.
- **왜 중요한가:** 에이전트를 연구하는 개발자는 모든 중간 단계를 글로 써야 하는지 검토할 수 있다. 저자들의 조건을 맞춘 실험은 이 방법의 생성 단계가 더 적을 수 있음을 보여주며, 공개 코드는 구현을 살펴볼 수 있게 한다. 어느 쪽도 운영 중인 서비스의 청구액이 낮아진다는 것을 입증하지는 않는다.
- **무엇을 지켜볼까:** 공개 체크포인트를 사용한 독립 실행은 측정된 우위가 다른 작업과 도구 비용에서도 유지되는지 검증할 수 있다. 더 어려운 점검 과제는 잠재 상태에서 복원한 읽을 수 있는 단어가 답에 도달한 과정을 충실하게 설명하는지다.

## 전환 방식

일반 텍스트 모드에서 모델은 토큰을 생성한다. 특별한 `<latent>` 토큰을 내보내면 HybridLink라는 작은 구성요소가 모델의 마지막 은닉 상태를 입력 공간으로 다시 매핑한다. 시스템은 그 연속 벡터를 먼저 단어로 바꾸지 않고 다음 단계에 넣는다. 가장 가까운 토큰과 비교해 `</latent>` 마커를 식별하면 텍스트 모드로 돌아온다. 그러면 모델이 도구 호출이나 응답을 작성할 수 있다. 논문은 텍스트, 잠재 단계, 도구 관측을 후속 턴으로 전달하는 지속적인 키-값 캐시를 설명한다. [구조와 전환 규칙은 프리프린트 3·4절에 있다](https://arxiv.org/html/2610.18861v1).

이는 사전 학습 모델에 어댑터를 붙이는 것 이상을 요구한다. 저자들은 먼저 텍스트 시연을 텍스트와 잠재 상태가 섞인 학습 시퀀스로 변환한 뒤, 지도 학습으로 기반 모델과 HybridLink가 함께 작동하도록 가르친다. 강화 학습 단계에서는 그렇게 만든 에이전트를 추론과 검색 작업에 학습시킨다. 이 단계에서 저자들은 샘플링된 텍스트 위치의 확률을 갱신하고 기록된 잠재 입력을 재생한다. 논문은 변환된 시연 54,000개와 그 이후 별도의 심층 추론 예시 12,000개, 에이전트 검색 예시 1,000개로 학습 데이터를 구성했다고 설명한다. [학습과 데이터 상세](https://arxiv.org/html/2610.18861v1).

## 벤치마크가 측정한 것

주요 평가는 Qwen3-Base 기반 8B·14B 버전을 11개 벤치마크에서 보고한다. 여섯 개는 수학, 과학·의학 지식, 여러 단계를 거치는 질문을 다루고, 다섯 개는 검색과 에이전트 작업에 초점을 맞춘다. 별도 부록은 4B 버전을 AIME25, AIME26, MATH500, GPQA-Diamond 네 벤치마크에서 시험한다. 저자들은 같은 기반 모델과 학습 데이터를 쓴 텍스트 학습 에이전트, 잠재 추론 방법, 최첨단 에이전트, 도구 사용 프레임워크와 비교한다. 이 집단들은 비교 목적이 서로 다르다. 예를 들어 조건을 맞춘 14B 강화 학습 비교에서 HybridAgent는 MATH500 88.2%, ARPO로 학습한 텍스트 에이전트는 87.0%를 기록한다. GAIA 평균은 HybridAgent 14B가 52.4%, 해당 ARPO 기준 모델이 43.7%라고 보고한다. 이는 저자들의 설정에서 나온 벤치마크 결과이며, 배포된 에이전트의 일반 순위가 아니다. [주요 표, 4B 부록, 기준 모델 정의](https://arxiv.org/html/2610.18861v1).

설정이 중요하다. 논문은 수학 평가에 심층 추론 학습 체크포인트를, 지식·에이전트 평가에 에이전트 검색 학습 체크포인트를 사용한다. 추론 시 temperature 0.6, top-p 0.95, top-k 20을 사용했고, 예산에는 텍스트 토큰과 잠재 단계를 모두 포함했다고 설명한다. 수학·지식 작업은 4,096단계, 더 어려운 에이전트 작업은 24,000단계를 허용했다. 잠재 구간은 최소 16단계, 최대 256단계였고, 궤적에는 도구 호출 횟수 제한이 있었다. 도구는 샌드박스 Python 인터프리터와 실시간 검색이었으며, 검색 페이지 요약과 출력 판정에도 모델을 사용했다. 저자들은 H100 GPU 32개에서 학습과 추론을 수행했다고 보고한다. 도구 서비스, 검색 결과, 운영 조건이 달라지면 비교도 달라질 수 있다. [실험 설정](https://arxiv.org/html/2610.18861v1).

초록의 성능 10.4% 개선은 모델 크기와 학습 예산을 맞춘 강화 학습 단계에서 대응하는 텍스트·잠재 기준 방법과 비교한 결과다. 모든 최첨단 에이전트보다 보편적으로 개선됐다는 뜻으로 읽어서는 안 된다. 논문은 주요 에이전트 평가 표에 대해 독립 실행 다섯 번의 결과도 제시하며, 정확도의 평균 표준편차를 0.014로 보고한다. [결과와 표 설명](https://arxiv.org/html/2610.18861v1).

## 효율성 주장은 계산 범위가 더 좁다

논문은 텍스트 기반 기준 방법과 비교해 텍스트 토큰이 약 1/2.7 수준이고 총 생성 단계는 최대 54% 적다고 보고한다. 초록은 추론 속도가 1.8\~2.6배이며, 추정 비용이 약 1/2.7\~1/3.7 수준이라고 제시한다. 잠재 단계도 모델 계산이 필요하다. 저자들의 비용 표는 텍스트나 잠재 단계마다 기반 모델 전체의 순전파 한 번을 계산하고, 시간당 2.50달러의 H100 가격과 최대 BF16 처리량의 10%를 가정해 답변 100만 개를 추정한다. 8B 기반 모델에서는 계산량이 질문당 부동소수점 연산 62.5조 회에서 17.2조 회로, 비용은 질문 100만 개당 439달러에서 121달러로 바뀐다. [효율성 절과 비용 표](https://arxiv.org/html/2610.18861v1).

같은 부록은 프롬프트 처리, 문맥에 따라 달라지는 어텐션 비용, 외부 도구 실행을 명시적으로 제외한다. 따라서 검색 호출, 호스팅, 기타 서비스 비용은 이 달러 비교에 포함되지 않는다. 수치는 저자들이 측정한 생성 경로와 명시한 계산 모델에 관해 유용한 근거가 되지만, 완전한 에이전트 서비스의 운영 비용을 입증하지는 않는다.

## 읽을 수 있는 잠재 구간도 검토가 필요하다

HybridAgent는 각 잠재 단계를 가장 가까운 토큰 임베딩에 매핑해 의사 텍스트를 표시할 수 있다. [저장소의 예시](https://github.com/togethercomputer/HybridAgent)는 이런 표시를 실제 검색·Python 호출과 함께 보여준다. 논문의 별도 실험에서는 잠재 벡터를 변경하거나 대체하면 MATH500 정확도가 낮아진다. 이는 그 상태들이 응답에 영향을 준다는 주장을 뒷받침한다. 가장 가까운 단어들이 계산을 완전하거나 충실하게 설명한다는 뜻은 아니다. [잠재 상태 개입 표](https://arxiv.org/html/2610.18861v1).

저자들은 수학 문제 560개에서 가시적인 텍스트가 외부 모니터링에 얼마나 유용한지도 시험한다. 표는 조건을 맞춘 텍스트 에이전트보다 HybridAgent의 가시적 텍스트 토큰이 더 적다고 보고하며, 여러 모델 판정 모니터링·디버깅 지표도 함께 제시한다. 일부 지표는 개선된다. 14B에서 강력한 모니터의 AUROC는 HybridAgent 0.989, 텍스트 에이전트 0.990이다. 이 시험은 특정 모니터와 작업을 평가한다. 특히 숨겨진 잠재 구간에 대해 일반적인 투명성이나 안전성을 입증할 수는 없다. [감사 가능성 실험](https://arxiv.org/html/2610.18861v1).

## 현재 공개된 것

이 [MIT 라이선스 저장소](https://github.com/togethercomputer/HybridAgent)에는 하이브리드 생성 엔진, Python·검색 도구, 지도·강화 학습 파이프라인, 배치 추론, 의사 텍스트 검사기가 포함돼 있다. 저자들은 공개 [8B](https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic) 및 [14B](https://huggingface.co/togethercomputer/HybridAgent-14B-Agentic) **에이전트용** 체크포인트와 학습 데이터셋을 연결해 두었다. 논문의 수학 평가는 별도로 학습한 심층 추론 체크포인트를 사용했으며, README의 공개 모델 목록은 두 에이전트용 체크포인트를 명시한다. 각 공개 체크포인트에는 기반 모델과 HybridLink 가중치가 포함된다. 모델 카드에 따르면 Transformers로 기반 모델만 불러오면 텍스트 전용 모델이 된다. 잠재 생성과 도구 사용에는 프로젝트 코드가 필요하다.

README는 지도 학습에 GPU 8개 또는 16개, 에이전트 검색 강화 학습 실행기에는 네 노드에 걸친 GPU 32개를 권장한다. 설치 안내에는 검색 API 키도 포함된다. 문서의 연구 파이프라인을 실행하려는 사람에게는 의미 있는 요구사항이다. BIG CHANGE는 논문, 저장소, 모델 카드를 검토했지만 코드를 실행하거나 체크포인트를 내려받거나 벤치마크를 재현하지 않았다.

## Sources

- [Zou 외, Hybrid Reasoning Agents, arXiv:2610.18861v1 (2026-10-13)](https://arxiv.org/html/2610.18861v1) — 주요 프리프린트. 3~6절과 부록 E·G·H는 방법, 학습, 벤치마크, H100 32개 설정, 비용 가정을 설명한다. 저자들의 결과는 독립 재현이 아니며, 달러 추정에서는 프리필, 문맥 어텐션, 도구를 제외한다.
- [Together Computer, HybridAgent 코드 및 README](https://github.com/togethercomputer/HybridAgent) — MIT 라이선스의 공식 연구 구현. README에는 엔진, SFT/RL 파이프라인, 8B/14B 체크포인트, Tavily 키, SFT GPU 8/16개와 검색 RL GPU 32개 권장 사항이 나와 있다. BIG CHANGE는 이를 실행하지 않았다.
- [Together Computer, HybridAgent-8B-Agentic 모델 카드](https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic) — 공개 8B 체크포인트의 공식 카드. 기반 모델과 HybridLink 가중치를 설명한다. 하이브리드 생성과 도구 사용에는 저장소 코드가 필요하다.
- [Together Computer, HybridAgent-14B-Agentic 모델 카드](https://huggingface.co/togethercomputer/HybridAgent-14B-Agentic) — 공개 14B 체크포인트의 공식 카드. 같은 코드 요구사항이 적용된다. 연구용 체크포인트이며, 배포된 서비스의 근거가 아니다.