Agen yang memanggil mesin pencari harus menyampaikan kueri dalam teks dan membaca hasilnya. Penalaran internalnya tidak harus mengikuti format yang sama. Dalam preprint 13 Oktober, peneliti dari Stanford, University of Illinois Urbana-Champaign, Together AI, dan Meta menjelaskan HybridAgent, sistem yang bergantian memakai keadaan internal kontinu dan teks untuk panggilan alat, observasi, serta jawaban. Mereka merilis kode riset dan dua checkpoint untuk tugas agen. Hasil kinerja dan efisiensi yang dilaporkan berasal dari eksperimen penulis, bukan replikasi independen atau layanan yang telah diterapkan.

Perubahan besarnya

  • Apa yang berubah: HybridAgent memberi agen model bahasa cara untuk berpindah antara langkah keadaan internal kontinu dan teks biasa selama satu tugas. Teks tetap menjadi antarmuka untuk pencarian, Python, dan jawaban akhir.
  • Mengapa penting: Pengembang yang meneliti agen dapat memeriksa apakah setiap langkah antara harus dituliskan. Eksperimen penulis dengan kondisi yang disetarakan menunjukkan kemungkinan lebih sedikit langkah generasi untuk metode mereka, sementara kode publik membuat implementasinya dapat diperiksa. Keduanya tidak membuktikan tagihan yang lebih rendah untuk layanan yang sedang beroperasi.
  • Yang perlu diperhatikan: Eksekusi independen dengan checkpoint yang dirilis dapat menguji apakah keunggulan terukur bertahan pada tugas dan biaya alat yang berbeda. Pertanyaan pemeriksaan yang lebih sulit adalah apakah kata-kata terbaca yang dipulihkan dari keadaan laten benar-benar menjelaskan bagaimana jawaban dicapai.

Cara perpindahan bekerja

Dalam mode teks normal, model menghasilkan token. Saat mengeluarkan token khusus <latent>, komponen kecil bernama HybridLink memetakan keadaan tersembunyi terakhir model kembali ke ruang masukannya. Sistem memasukkan vektor kontinu yang dihasilkan ke langkah berikutnya tanpa terlebih dahulu mengubahnya menjadi kata. Sistem kembali ke mode teks saat perbandingan dengan token terdekat mengenali penanda </latent>. Model lalu dapat menulis panggilan alat atau jawabannya. Makalah menjelaskan cache kunci-nilai persisten yang membawa teks, langkah laten, dan observasi alat ke giliran berikutnya. Arsitektur dan aturan transisi ada di Bagian 3 dan 4 preprint.

Ini memerlukan lebih dari sekadar memasang adaptor pada model pralatih. Penulis terlebih dahulu mengubah demonstrasi teks menjadi urutan pelatihan campuran teks dan laten, lalu memakai pelatihan terawasi untuk mengajarkan backbone dan HybridLink bekerja bersama. Tahap pembelajaran penguatan melatih agen hasilnya pada tugas penalaran dan pencarian. Pada tahap itu, penulis memperbarui probabilitas pada posisi teks yang disampel dan memutar ulang masukan laten yang direkam. Makalah menyebut data pelatihan terdiri dari 54.000 demonstrasi yang dikonversi, diikuti kumpulan terpisah berisi 12.000 contoh penalaran mendalam dan 1.000 contoh pencarian berbasis agen. Rincian pelatihan dan data.

Apa yang diukur tolok ukur

Evaluasi utama melaporkan versi 8B dan 14B berbasis Qwen3-Base pada 11 tolok ukur. Enam mencakup matematika, pengetahuan ilmiah atau medis, dan pertanyaan multilangkah; lima menekankan pencarian serta tugas agen. Lampiran terpisah menguji versi 4B pada empat tolok ukur: AIME25, AIME26, MATH500, dan GPQA-Diamond. Penulis membandingkan dengan agen yang dilatih menggunakan teks dengan backbone dan data pelatihan yang sama, metode penalaran laten, agen terdepan, serta kerangka penggunaan alat. Kelompok-kelompok itu melayani tujuan perbandingan berbeda. Misalnya, dalam perbandingan pembelajaran penguatan 14B yang disetarakan, HybridAgent memperoleh 88,2% pada MATH500, sedangkan agen teks yang dilatih dengan ARPO memperoleh 87,0%. Pada rata-rata GAIA, makalah melaporkan 52,4% untuk HybridAgent 14B dan 43,7% untuk baseline ARPO tersebut. Ini adalah hasil tolok ukur dalam pengaturan penulis, bukan peringkat umum agen yang telah diterapkan. Tabel utama, lampiran 4B, dan definisi baseline.

Pengaturannya penting. Makalah memakai checkpoint yang dilatih untuk penalaran mendalam dalam evaluasi matematika, dan checkpoint yang dilatih untuk pencarian berbasis agen dalam evaluasi pengetahuan dan tugas agen. Menurut makalah, inferensi memakai temperature 0,6, top-p 0,95, dan top-k 20, dengan anggaran yang menghitung token teks maupun langkah laten. Batasnya 4.096 langkah untuk tugas matematika dan pengetahuan, serta 24.000 untuk tugas agen yang lebih sulit. Rentang laten berlangsung sedikitnya 16 dan paling banyak 256 langkah; lintasan memiliki batas panggilan alat. Alat yang dipakai adalah interpreter Python dalam sandbox dan pencarian langsung, dengan model yang juga merangkum halaman pencarian serta menilai keluaran. Penulis melaporkan pelatihan dan inferensi pada 32 GPU H100. Layanan alat, hasil pengambilan informasi, atau kondisi operasi yang berbeda dapat mengubah perbandingan. Pengaturan eksperimen.

Peningkatan kinerja 10,4% dalam abstrak merujuk pada perbandingan dengan baseline teks dan laten terkait pada tahap pembelajaran penguatan, dengan ukuran model dan anggaran pelatihan yang disetarakan. Angka itu tidak boleh dibaca sebagai peningkatan universal atas semua agen terdepan. Makalah juga melaporkan lima eksekusi independen untuk tabel utama tugas agennya, dengan rata-rata simpangan baku akurasi 0,014. Hasil dan keterangan tabel.

Klaim efisiensi memakai cakupan perhitungan yang lebih sempit

Makalah melaporkan token teks 2,7 kali lebih sedikit dan total langkah generasi hingga 54% lebih sedikit dibanding baseline berbasis teks. Abstraknya memberikan rentang kecepatan inferensi 1,8–2,6 kali dan perkiraan biaya 2,7–3,7 kali lebih rendah. Langkah laten tetap memerlukan komputasi model. Tabel biaya penulis menghitung setiap langkah teks atau laten sebagai satu forward pass penuh backbone dan memperkirakan satu juta jawaban dengan harga H100 US$2,50 per jam pada 10% throughput puncak BF16. Untuk backbone 8B, perhitungan itu berubah dari 62,5 menjadi 17,2 triliun operasi titik mengambang per pertanyaan dan dari US$439 menjadi US$121 per juta pertanyaan. Bagian efisiensi dan tabel biaya.

Lampiran yang sama secara eksplisit mengecualikan pemrosesan prompt, biaya attention yang berubah menurut konteks, dan eksekusi alat eksternal. Karena itu, panggilan pencarian, hosting, dan biaya layanan lain berada di luar perbandingan dolar tersebut. Angka-angka ini merupakan bukti berguna tentang jalur generasi yang diukur penulis dan model komputasi yang mereka nyatakan, tetapi tidak menetapkan biaya pengoperasian layanan agen secara menyeluruh.

Rentang laten yang terbaca tetap perlu ditelaah

HybridAgent dapat menampilkan pembacaan teks semu dengan memetakan setiap langkah laten ke embedding token terdekat. Contoh dalam repositori memperlihatkan pembacaan tersebut bersama panggilan pencarian dan Python yang sebenarnya. Dalam eksperimen terpisah pada makalah, mengubah atau mengganti vektor laten mengurangi akurasi MATH500, yang mendukung klaim bahwa keadaan itu memengaruhi jawaban. Hal ini tidak menunjukkan bahwa kata-kata terdekat memberikan uraian komputasi yang lengkap atau setia. Tabel intervensi laten.

Penulis juga menguji kegunaan teks yang terlihat untuk pemantauan eksternal pada 560 soal matematika. Tabel mereka melaporkan lebih sedikit token teks terlihat pada HybridAgent daripada pada agen teks setara, bersama beberapa ukuran pemantauan dan debugging yang dinilai model. Sebagian ukuran membaik; AUROC pemantau kuat pada 14B adalah 0,989 untuk HybridAgent dan 0,990 untuk agen teks. Pengujian ini mengevaluasi pemantau dan tugas tertentu. Hasilnya tidak dapat menetapkan transparansi atau keamanan secara umum, terutama untuk rentang laten yang tersembunyi. Eksperimen kemampuan audit.

Apa yang tersedia sekarang

Repositori berlisensi MIT mencakup mesin generasi hibrida, alat Python dan pencarian, alur pelatihan terawasi dan pembelajaran penguatan, inferensi batch, serta pemeriksa teks semu. Penulis menautkan checkpoint publik 8B dan 14B untuk tugas agen, serta dataset pelatihan. Evaluasi matematika dalam makalah menggunakan checkpoint penalaran mendalam yang dilatih terpisah; daftar model yang dirilis dalam README mengidentifikasi dua checkpoint agen tersebut. Setiap checkpoint publik mencakup bobot backbone dan HybridLink. Kartu modelnya menyatakan bahwa memuat backbone melalui Transformers saja menghasilkan model teks saja; generasi laten dan penggunaan alat memerlukan kode proyek.

README menyarankan 8 atau 16 GPU untuk pelatihan terawasi dan 32 GPU di empat node untuk peluncur pembelajaran penguatan pencarian berbasis agen. Petunjuk instalasinya mencakup kunci API pencarian. Itu merupakan persyaratan penting bagi siapa pun yang mencoba alur riset terdokumentasi. BIG CHANGE telah memeriksa makalah, repositori, dan kartu model; kami tidak menjalankan kode, mengunduh checkpoint, atau mereplikasi tolok ukur.