सर्च इंजन को कॉल करने वाले एजेंट को सवाल टेक्स्ट में लिखकर नतीजा पढ़ना पड़ता है। उसके भीतरी तर्क को उसी रूप में होना ज़रूरी नहीं। 13 अक्टूबर के प्रीप्रिंट में, Stanford, University of Illinois Urbana-Champaign, Together AI और Meta के शोधकर्ता HybridAgent बताते हैं। यह टूल कॉल, अवलोकन और जवाब के टेक्स्ट तथा निरंतर मानों वाली भीतरी स्थितियों के बीच अदल-बदल करता है। उन्होंने शोध कोड और एजेंट के दो चेकपॉइंट जारी किए हैं। बताए गए प्रदर्शन और दक्षता के नतीजे लेखकों के प्रयोगों के हैं, स्वतंत्र पुनरुत्पादन या तैनात सेवा के नहीं।
बड़ा बदलाव
- क्या बदला: HybridAgent भाषा-मॉडल एजेंट को एक ही काम में निरंतर मान वाली भीतरी स्थिति के चरणों और सामान्य टेक्स्ट के बीच बदलने का तरीका देता है। सर्च, Python और अंतिम उत्तर का इंटरफेस टेक्स्ट ही रहता है।
- यह अहम क्यों है: एजेंट का अध्ययन करने वाले डेवलपर जाँच सकते हैं कि हर बीच का चरण लिखना ज़रूरी है या नहीं। लेखकों के समान परिस्थितियों वाले प्रयोग उनके तरीके में कम जनरेशन चरणों का संकेत देते हैं। सार्वजनिक कोड से उसकी बनावट जाँची जा सकती है। इनमें से कोई भी चलती सेवा का बिल कम होने को साबित नहीं करता।
- किस पर नज़र रखें: जारी चेकपॉइंट के साथ स्वतंत्र रन जाँच सकते हैं कि मापा गया फायदा अलग कामों और टूल लागत पर बना रहता है या नहीं। जाँच का कठिन सवाल यह है कि लेटेंट स्थिति से निकाले गए पढ़ने योग्य शब्द उत्तर तक पहुँचने का सही विवरण देते हैं या नहीं।
बदलाव कैसे होता है
सामान्य टेक्स्ट मोड में मॉडल टोकन बनाता है। खास <latent> टोकन निकलने पर HybridLink नाम का छोटा घटक मॉडल की आखिरी हिडन स्टेट को वापस उसके इनपुट स्पेस में मैप करता है। सिस्टम बने हुए निरंतर वेक्टर को पहले शब्द में बदले बिना अगले चरण में देता है। सबसे नज़दीकी टोकन से तुलना में </latent> मार्कर पहचाने जाने पर यह टेक्स्ट मोड में लौटता है। फिर मॉडल टूल कॉल या उत्तर लिख सकता है। पेपर स्थायी की-वैल्यू कैश बताता है जो टेक्स्ट, लेटेंट चरण और टूल के अवलोकन अगली संवाद बारी तक ले जाता है। आर्किटेक्चर और बदलाव के नियम प्रीप्रिंट के खंड 3 और 4 में हैं।
इसके लिए पहले से प्रशिक्षित मॉडल में अडैप्टर जोड़ने से अधिक काम चाहिए। लेखक पहले टेक्स्ट प्रदर्शनों को टेक्स्ट और लेटेंट स्थितियों के मिले-जुले प्रशिक्षण क्रम में बदलते हैं। फिर सुपरवाइज़्ड प्रशिक्षण से मूल मॉडल और HybridLink को साथ काम करना सिखाते हैं। रीइन्फोर्समेंट लर्निंग का चरण बने हुए एजेंट को तर्क और सर्च कामों पर प्रशिक्षित करता है। उस चरण में लेखक सैंपल किए गए टेक्स्ट स्थानों की प्रायिकताएँ बदलते हैं और रिकॉर्ड किए लेटेंट इनपुट दोबारा चलाते हैं। पेपर के अनुसार प्रशिक्षण डेटा में 54,000 बदले गए प्रदर्शन हैं; उसके बाद गहरे तर्क के 12,000 और एजेंट सर्च के 1,000 उदाहरणों वाले अलग सेट हैं। प्रशिक्षण और डेटा का विवरण।
बेंचमार्क ने क्या मापा
मुख्य मूल्यांकन Qwen3-Base पर बने 8B और 14B संस्करणों को 11 बेंचमार्क पर बताता है। छह में गणित, वैज्ञानिक या चिकित्सा ज्ञान और कई चरण वाले सवाल हैं; पाँच सर्च और एजेंट कामों पर केंद्रित हैं। अलग परिशिष्ट 4B को चार बेंचमार्क पर जाँचता है: AIME25, AIME26, MATH500 और GPQA-Diamond। लेखक उन्हीं मूल मॉडलों और प्रशिक्षण डेटा वाले टेक्स्ट-प्रशिक्षित एजेंट, लेटेंट तर्क के तरीके, अग्रणी एजेंट और टूल-इस्तेमाल फ्रेमवर्क से तुलना करते हैं। इन समूहों के तुलनात्मक उद्देश्य अलग हैं। उदाहरण के लिए समान परिस्थितियों की 14B रीइन्फोर्समेंट लर्निंग तुलना में MATH500 पर HybridAgent 88.2% और ARPO से प्रशिक्षित टेक्स्ट एजेंट 87.0% पाता है। GAIA औसत में पेपर HybridAgent 14B के लिए 52.4% और उस ARPO बेसलाइन के लिए 43.7% बताता है। ये लेखकों की व्यवस्था के बेंचमार्क नतीजे हैं, तैनात एजेंट की आम रैंकिंग नहीं। मुख्य तालिकाएँ, 4B परिशिष्ट और बेसलाइन की परिभाषाएँ।
व्यवस्था अहम है। पेपर गणित के मूल्यांकन में गहरे तर्क पर प्रशिक्षित चेकपॉइंट और ज्ञान व एजेंट के मूल्यांकन में एजेंट सर्च पर प्रशिक्षित चेकपॉइंट इस्तेमाल करता है। इसमें इन्फरेंस के लिए temperature 0.6, top-p 0.95 और top-k 20 बताए गए हैं। बजट में टेक्स्ट टोकन और लेटेंट चरण दोनों गिने गए। गणित व ज्ञान के कामों में 4,096 और कठिन एजेंट कामों में 24,000 चरण की अनुमति थी। लेटेंट हिस्से कम-से-कम 16 और अधिक-से-अधिक 256 चरण चले; प्रक्रिया-पथों में टूल कॉल की सीमाएँ थीं। टूल सैंडबॉक्स Python इंटरप्रेटर और लाइव सर्च थे। सर्च पेज का सार बनाने और आउटपुट पर निर्णय देने में भी मॉडल लगा। लेखक 32 H100 GPU पर प्रशिक्षण और इन्फरेंस बताते हैं। दूसरी टूल सेवाएँ, खोज के नतीजे या कामकाजी परिस्थितियाँ तुलना बदल सकती हैं। प्रयोग की व्यवस्था।
सारांश का 10.4% प्रदर्शन सुधार समान मॉडल आकार और प्रशिक्षण बजट पर रीइन्फोर्समेंट लर्निंग चरण में संबंधित टेक्स्ट और लेटेंट बेसलाइन से तुलना है। इसे हर अग्रणी एजेंट पर सार्वभौमिक सुधार नहीं समझना चाहिए। पेपर मुख्य एजेंट तालिका के लिए पाँच स्वतंत्र रन के नतीजे भी देता है, जिनमें सटीकता का औसत मानक विचलन 0.014 है। नतीजे और तालिका का विवरण।
दक्षता के दावे की गणना का दायरा छोटा है
टेक्स्ट-आधारित बेसलाइन की तुलना में पेपर 2.7 गुना कम टेक्स्ट टोकन और कुल जनरेशन चरणों में 54% तक कमी बताता है। सारांश में इन्फरेंस की गति 1.8 से 2.6 गुना और अनुमानित लागत 2.7 से 3.7 गुना कम बताई गई है। लेटेंट चरणों को भी मॉडल की गणना चाहिए। लेखकों की लागत तालिका हर टेक्स्ट या लेटेंट चरण के लिए मूल मॉडल का पूरा फॉरवर्ड पास गिनती है। H100 की प्रति घंटे 2.50 डॉलर कीमत और अधिकतम BF16 थ्रूपुट का 10% मानकर दस लाख जवाबों का अनुमान बनता है। 8B मूल मॉडल में गणना प्रति सवाल 62.5 से 17.2 ट्रिलियन फ्लोटिंग-पॉइंट ऑपरेशन और प्रति दस लाख सवाल 439 से 121 डॉलर होती है। दक्षता खंड और लागत तालिका।
वही परिशिष्ट प्रॉम्प्ट प्रोसेसिंग, संदर्भ के साथ बदलने वाली अटेंशन लागत और बाहरी टूल चलाना साफ तौर पर बाहर रखता है। इसलिए सर्च कॉल, होस्टिंग और दूसरी सेवा लागत उस डॉलर तुलना में नहीं हैं। ये आँकड़े लेखकों के मापे जनरेशन पथ और बताए कंप्यूट मॉडल के उपयोगी प्रमाण हैं, लेकिन पूरी एजेंट सेवा चलाने का खर्च तय नहीं करते।
पढ़ने योग्य लेटेंट हिस्सों को भी जाँचना होगा
HybridAgent हर लेटेंट चरण को सबसे नज़दीकी टोकन एम्बेडिंग में मैप करके छद्म-टेक्स्ट दिखा सकता है। रिपॉज़िटरी का उदाहरण ऐसे रूप को वास्तविक सर्च और Python कॉल के साथ दिखाता है। पेपर के एक अलग प्रयोग में लेटेंट वेक्टर बदलने या उनकी जगह दूसरे रखने से MATH500 की सटीकता घटती है। इससे यह दावा समर्थित होता है कि उन स्थितियों का जवाब पर असर है। यह नहीं दिखाता कि सबसे नज़दीकी शब्द गणना का पूरा या सही ब्योरा देते हैं। लेटेंट हस्तक्षेप तालिका।
लेखक 560 गणित सवालों पर बाहरी निगरानी में दिखने वाले टेक्स्ट की उपयोगिता भी जाँचते हैं। तालिका समान परिस्थितियों वाले टेक्स्ट एजेंट की तुलना में HybridAgent में कम दृश्य टेक्स्ट टोकन और मॉडल के निर्णय वाले कई निगरानी व डिबगिंग माप बताती है। कुछ माप बेहतर होते हैं; 14B में मज़बूत मॉनिटर का AUROC HybridAgent के लिए 0.989 और टेक्स्ट एजेंट के लिए 0.990 है। ये परीक्षण खास मॉनिटर और कामों को जाँचते हैं। खासकर छिपे लेटेंट हिस्सों के लिए ये सामान्य पारदर्शिता या सुरक्षा साबित नहीं कर सकते। ऑडिट की क्षमता का प्रयोग।
अभी क्या उपलब्ध है
इस MIT-लाइसेंस वाली रिपॉज़िटरी में हाइब्रिड जनरेशन इंजन, Python व सर्च टूल, सुपरवाइज़्ड और रीइन्फोर्समेंट लर्निंग पाइपलाइन, बैच इन्फरेंस व छद्म-टेक्स्ट इंस्पेक्टर हैं। लेखक सार्वजनिक 8B और 14B एजेंट चेकपॉइंट व प्रशिक्षण डेटासेट के लिंक देते हैं। पेपर के गणित मूल्यांकन में अलग से प्रशिक्षित गहरे तर्क के चेकपॉइंट लगे; README की जारी मॉडल सूची दो एजेंट चेकपॉइंट बताती है। हर सार्वजनिक चेकपॉइंट में मूल मॉडल और HybridLink के वेट हैं। मॉडल कार्ड के अनुसार केवल Transformers से मूल मॉडल लोड करने पर टेक्स्ट-केवल मॉडल मिलता है; लेटेंट जनरेशन और टूल इस्तेमाल के लिए परियोजना का कोड चाहिए।
README सुपरवाइज़्ड प्रशिक्षण के लिए 8 या 16 GPU और एजेंट-सर्च रीइन्फोर्समेंट लर्निंग लांचर के लिए चार नोड पर 32 GPU की सलाह देता है। इंस्टॉलेशन निर्देशों में सर्च API कुंजी शामिल है। दस्तावेज़ में बताई शोध प्रक्रिया आज़माने वालों के लिए ये महत्वपूर्ण आवश्यकताएँ हैं। BIG CHANGE ने पेपर, रिपॉज़िटरी और मॉडल कार्ड देखे हैं; कोड चलाया नहीं, चेकपॉइंट डाउनलोड नहीं किए या बेंचमार्क दोहराए नहीं हैं।
