Markdown-Ausgabe

AI-translated from English; not yet reviewed by a fluent editor.

# HybridAgent erprobt latentes Schlussfolgern neben textbasierter Werkzeugnutzung

> Ein neuer Preprint und veröffentlichter Code zeigen, wie HybridAgent zwischen latentem Schlussfolgern und textbasierter Werkzeugnutzung wechselt. Die gemessenen Verbesserungen stammen aus dem Benchmark-Aufbau der Autoren.

By BIG CHANGE Editorial

Published: 2026-10-19T07:00:34.991Z
Updated: 2026-10-19T07:00:34.991Z
Canonical: https://bigchange.ai/blog/hybridagents-latent-reasoning-text-tool-use-paper

![Conceptual charcoal illustration of a continuous accordion paper strip with dark folded sections and completely blank pale sections.](https://bigchange.ai/api/media/file/hybridagent-latent-text-accordion-concept-v2.png)
AI-generated conceptual illustration by BIG CHANGE; no actual model trace, architecture or test result is depicted.

Ein Agent, der eine Suchmaschine aufruft, muss die Anfrage als Text formulieren und das Ergebnis lesen. Sein internes Schlussfolgern muss nicht demselben Format folgen. In einem [Preprint vom 13. Oktober](https://arxiv.org/html/2610.18861v1) beschreiben Forschende von Stanford, der University of Illinois Urbana-Champaign, Together AI und Meta HybridAgent: ein System, das zwischen kontinuierlichen internen Zuständen und Text für Werkzeugaufrufe, Beobachtungen und Antworten wechselt. Sie haben Forschungscode und zwei Agenten-Checkpoints veröffentlicht. Die berichteten Leistungs- und Effizienzergebnisse stammen aus ihren Experimenten, nicht aus einer unabhängigen Replikation oder einem bereitgestellten Dienst.

## Die große Veränderung

- **Was sich geändert hat:** HybridAgent ermöglicht einem Sprachmodell-Agenten, während einer Aufgabe zwischen internen Schritten mit kontinuierlichen Zuständen und gewöhnlichem Text zu wechseln. Text bleibt die Schnittstelle für Suche, Python und die endgültige Antwort.
- **Warum das wichtig ist:** Entwickler, die Agenten erforschen, können untersuchen, ob jeder Zwischenschritt ausgeschrieben werden muss. Die Experimente der Autoren unter angeglichenen Bedingungen deuten auf weniger Generierungsschritte für ihre Methode hin. Der öffentliche Code macht die Implementierung überprüfbar. Beides belegt keine niedrigere Rechnung für einen laufenden Dienst.
- **Worauf zu achten ist:** Unabhängige Durchläufe mit den veröffentlichten Checkpoints können prüfen, ob der gemessene Vorteil bei anderen Aufgaben und Werkzeugkosten bestehen bleibt. Die schwierigere Prüffrage ist, ob lesbare Wörter aus einem latenten Zustand getreu beschreiben, wie eine Antwort zustande kam.

## Wie der Wechsel funktioniert

Im normalen Textmodus erzeugt das Modell Token. Gibt es ein spezielles `<latent>`-Token aus, bildet eine kleine Komponente namens HybridLink den letzten verborgenen Zustand des Modells auf dessen Eingaberaum zurück ab. Das System speist den entstandenen kontinuierlichen Vektor in den nächsten Schritt ein, ohne ihn zuvor in ein Wort umzuwandeln. Es kehrt zum Textmodus zurück, wenn ein Vergleich mit dem nächstgelegenen Token die Markierung `</latent>` erkennt. Das Modell kann dann einen Werkzeugaufruf oder seine Antwort schreiben. Das Paper beschreibt einen beständigen Schlüssel-Wert-Cache, der Text, latente Schritte und Werkzeugbeobachtungen in folgende Dialogrunden mitnimmt. [Architektur und Übergangsregeln stehen in den Abschnitten 3 und 4 des Preprints](https://arxiv.org/html/2610.18861v1).

Dafür reicht es nicht, einen Adapter an ein vortrainiertes Modell anzuhängen. Die Autoren wandeln zunächst Textdemonstrationen in gemischte Trainingsfolgen aus Text und latenten Zuständen um. Anschließend lernen das Basismodell und HybridLink durch überwachtes Training, zusammenzuarbeiten. Eine Phase mit bestärkendem Lernen trainiert den entstandenen Agenten auf Schlussfolgerungs- und Suchaufgaben. Dabei aktualisieren die Autoren Wahrscheinlichkeiten an gezogenen Textpositionen und spielen die aufgezeichneten latenten Eingaben erneut ein. Laut Paper bestehen die Trainingsdaten aus 54.000 umgewandelten Demonstrationen und danach getrennten Sätzen mit 12.000 Beispielen für tiefes Schlussfolgern und 1.000 Beispielen für agentische Suche. [Details zu Training und Daten](https://arxiv.org/html/2610.18861v1).

## Was die Benchmarks gemessen haben

Die Hauptevaluation berichtet über 8B- und 14B-Versionen auf Basis von Qwen3-Base in elf Benchmarks. Sechs decken Mathematik, naturwissenschaftliches oder medizinisches Wissen und mehrstufige Fragen ab; fünf betonen Suche und Agentenaufgaben. Ein gesonderter Anhang testet die 4B-Version auf AIME25, AIME26, MATH500 und GPQA-Diamond. Die Autoren vergleichen mit texttrainierten Agenten mit denselben Basismodellen und Trainingsdaten, Methoden für latentes Schlussfolgern, führenden Agenten und Frameworks für Werkzeugnutzung. Diese Gruppen erfüllen unterschiedliche Vergleichszwecke. Im angeglichenen 14B-Vergleich beim bestärkenden Lernen erreicht HybridAgent beispielsweise 88,2% auf MATH500 gegenüber 87,0% für den mit ARPO trainierten Textagenten. Beim GAIA-Mittel berichtet das Paper 52,4% für HybridAgent 14B und 43,7% für diese ARPO-Baseline. Das sind Benchmark-Ergebnisse im Aufbau der Autoren, kein allgemeines Ranking eingesetzter Agenten. [Haupttabellen, 4B-Anhang und Baseline-Definitionen](https://arxiv.org/html/2610.18861v1).

Der Aufbau ist entscheidend. Für die Mathematikevaluationen nutzt das Paper Checkpoints mit Training auf tiefes Schlussfolgern, für Wissens- und Agentenevaluationen dagegen auf agentische Suche trainierte Checkpoints. Laut Paper liefen die Inferenzen mit Temperatur 0,6, top-p 0,95 und top-k 20; die Budgets zählen sowohl Text-Token als auch latente Schritte. Für Mathematik und Wissensaufgaben waren 4.096 Schritte erlaubt, für schwierigere Agentenaufgaben 24.000. Latente Abschnitte dauerten mindestens 16 und höchstens 256 Schritte; für die Abläufe galten Grenzen für Werkzeugaufrufe. Werkzeuge waren ein abgeschotteter Python-Interpreter und Live-Suche. Ein Modell fasste außerdem Suchseiten zusammen und bewertete Ausgaben. Die Autoren berichten über Training und Inferenz auf 32 H100-GPUs. Andere Werkzeugdienste, Suchergebnisse oder Betriebsbedingungen könnten einen Vergleich verändern. [Versuchsaufbau](https://arxiv.org/html/2610.18861v1).

Die Leistungsverbesserung von 10,4% im Abstract bezieht sich auf Vergleiche mit entsprechenden Text- und latenten Baselines in der Phase des bestärkenden Lernens, bei angeglichenen Modellgrößen und Trainingsbudgets. Sie ist keine allgemeingültige Verbesserung gegenüber jedem führenden Agenten. Das Paper berichtet auch Ergebnisse aus fünf unabhängigen Durchläufen für seine Haupttabelle zu Agentenaufgaben, mit einer mittleren Standardabweichung der Genauigkeit von 0,014. [Ergebnisse und Tabellenlegende](https://arxiv.org/html/2610.18861v1).

## Die Effizienzbehauptung hat eine engere Berechnungsgrundlage

Das Paper berichtet im Vergleich mit textbasierten Baselines um den Faktor 2,7 weniger Text-Token und bis zu 54% weniger Generierungsschritte insgesamt. Sein Abstract nennt eine 1,8- bis 2,6-fache Inferenzgeschwindigkeit und um den Faktor 2,7 bis 3,7 niedrigere geschätzte Kosten. Auch latente Schritte benötigen Modellberechnungen. Die Kostentabelle der Autoren rechnet pro Text- oder latentem Schritt einen vollständigen Vorwärtsdurchlauf des Basismodells an. Eine Million Antworten werden mit 2,50 US-Dollar pro H100-Stunde und 10% des maximalen BF16-Durchsatzes geschätzt. Für das 8B-Basismodell sinkt die Berechnung von 62,5 auf 17,2 Billionen Gleitkommaoperationen pro Frage und von 439 auf 121 US-Dollar je Million Fragen. [Effizienzabschnitt und Kostentabelle](https://arxiv.org/html/2610.18861v1).

Derselbe Anhang schließt Prompt-Verarbeitung, kontextabhängige Aufmerksamkeitskosten und die Ausführung externer Werkzeuge ausdrücklich aus. Suchaufrufe, Hosting und andere Dienstkosten liegen damit außerhalb dieses Dollarvergleichs. Die Zahlen liefern nützliche Belege zu den gemessenen Generierungspfaden und dem angegebenen Rechenmodell der Autoren. Sie bestimmen aber nicht die Betriebskosten eines vollständigen Agentendienstes.

## Auch lesbare latente Abschnitte müssen geprüft werden

HybridAgent kann Pseudotext ausgeben, indem es jeden latenten Schritt auf die nächstgelegene Token-Einbettung abbildet. Das [Beispiel im Repository](https://github.com/togethercomputer/HybridAgent) zeigt solche Darstellungen neben tatsächlichen Such- und Python-Aufrufen. In einem separaten Experiment des Papers senkt das Verändern oder Ersetzen latenter Vektoren die MATH500-Genauigkeit. Das stützt die Aussage, dass diese Zustände die Antwort beeinflussen. Es zeigt nicht, dass die nächstgelegenen Wörter eine vollständige oder getreue Darstellung der Berechnung liefern. [Tabelle zu latenten Eingriffen](https://arxiv.org/html/2610.18861v1).

Die Autoren testen außerdem auf 560 Mathematikaufgaben, wie nützlich der sichtbare Text für externe Überwachung ist. Ihre Tabelle berichtet für HybridAgent weniger sichtbare Text-Token als für angeglichene Textagenten und mehrere modellbewertete Überwachungs- und Debugging-Maße. Einige Maße verbessern sich; die AUROC des starken Überwachungsmodells bei 14B beträgt 0,989 für HybridAgent und 0,990 für den Textagenten. Die Tests bewerten bestimmte Überwachungsmodelle und Aufgaben. Allgemeine Transparenz oder Sicherheit belegen sie nicht, insbesondere bei verborgenen latenten Abschnitten. [Experiment zur Auditierbarkeit](https://arxiv.org/html/2610.18861v1).

## Was jetzt verfügbar ist

Das [MIT-lizenzierte Repository](https://github.com/togethercomputer/HybridAgent) enthält die hybride Generierungs-Engine, Python- und Suchwerkzeuge, Pipelines für überwachtes und bestärkendes Lernen, Batch-Inferenz und einen Pseudotext-Inspektor. Die Autoren verlinken öffentliche Checkpoints der Größen [8B](https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic) und [14B](https://huggingface.co/togethercomputer/HybridAgent-14B-Agentic) **für Agenten** sowie Trainingsdatensätze. Die Mathematikevaluationen des Papers nutzten separat trainierte Checkpoints für tiefes Schlussfolgern; die Liste veröffentlichter Modelle im README nennt die beiden Agenten-Checkpoints. Jeder öffentliche Checkpoint enthält die Gewichte des Basismodells und von HybridLink. Laut Modellkarte ergibt das Laden des Basismodells allein über Transformers ein reines Textmodell. Latente Generierung und Werkzeugnutzung benötigen den Projektcode.

Das README empfiehlt 8 oder 16 GPUs für überwachtes Training und 32 GPUs über vier Knoten für seinen Starter zum bestärkenden Lernen mit agentischer Suche. Die Installationsanleitung schließt einen Such-API-Schlüssel ein. Das sind erhebliche Anforderungen für alle, die die dokumentierte Forschungspipeline ausführen wollen. BIG CHANGE hat Paper, Repository und Modellkarten geprüft, aber weder den Code ausgeführt noch die Checkpoints heruntergeladen oder Benchmarks reproduziert.

## Sources

- [Zou et al., Hybrid Reasoning Agents, arXiv:2610.18861v1 (2026-10-13)](https://arxiv.org/html/2610.18861v1) — Primärer Preprint. Abschnitte 3–6 und Anhänge E, G, H belegen Methode, Training, Benchmarks, 32-H100-Aufbau und Kostenannahmen. Die Ergebnisse der Autoren sind keine unabhängige Replikation; die Dollarschätzung schließt Prefill, Kontextaufmerksamkeit und Werkzeuge aus.
- [Together Computer, HybridAgent-Code und README](https://github.com/togethercomputer/HybridAgent) — Offizielle Forschungsimplementierung mit MIT-Lizenz. Das README nennt Engine, SFT/RL-Pipelines, 8B/14B-Checkpoints, Tavily-Schlüssel sowie Empfehlungen von 8/16 GPUs für SFT und 32 GPUs für Such-RL. BIG CHANGE hat sie nicht ausgeführt.
- [Together Computer, Modellkarte HybridAgent-8B-Agentic](https://huggingface.co/togethercomputer/HybridAgent-8B-Agentic) — Offizielle Karte des öffentlichen 8B-Checkpoints. Beschreibt die Gewichte des Basismodells und von HybridLink; hybride Generierung und Werkzeugnutzung benötigen den Repository-Code.
- [Together Computer, Modellkarte HybridAgent-14B-Agentic](https://huggingface.co/togethercomputer/HybridAgent-14B-Agentic) — Offizielle Karte des öffentlichen 14B-Checkpoints. Dieselbe Codeanforderung; ein Forschungscheckpoint, kein Beleg für einen bereitgestellten Dienst.