மறைநிலைப் பகுத்தறிதலுடன் உரை வழி கருவிப் பயன்பாட்டைச் சோதிக்கும் HybridAgent

தேடுபொறியை அழைக்கும் ஏஜென்ட் வினவலை உரையில் வெளிப்படுத்தி முடிவைப் படிக்க வேண்டும். அதன் உள்பகுத்தறிதலும் அதே வடிவத்தைப் பின்பற்ற வேண்டியதில்லை. அக்டோபர் 13 முன்வெளியீட்டு ஆய்வில், Stanford, University of Illinois Urbana-Champaign, Together AI, Meta ஆய்வாளர்கள் HybridAgent-ஐ விளக்குகின்றனர். இது தொடர்மதிப்புள்ள உள் நிலைகளுக்கும் கருவி அழைப்புகள், கவனிப்புகள், பதில்களுக்கான உரைக்கும் இடையே மாறும் அமைப்பு. ஆய்வு நிரலையும் இரண்டு ஏஜென்ட் செக்பாயிண்ட்களையும் அவர்கள் வெளியிட்டுள்ளனர். தெரிவிக்கப்பட்ட செயல்திறன் மற்றும் திறன் முடிவுகள் ஆசிரியர்களின் பரிசோதனைகளிலிருந்து வந்தவை; தனித்த மறுஆய்வோ செயல்பாட்டிலுள்ள சேவையோ அளித்தவை அல்ல.

பெரிய மாற்றம்

• என்ன மாறியது: HybridAgent, மொழி மாடல் ஏஜென்ட் ஒரே பணியில் தொடர்மதிப்புள்ள உள் நிலைப் படிகளுக்கும் வழக்கமான உரைக்கும் இடையே மாறும் வழியைத் தருகிறது. தேடல், Python, இறுதிப் பதில் ஆகியவற்றுக்கான இடைமுகம் உரையாகவே உள்ளது.
• இது ஏன் முக்கியம்: ஏஜென்ட்களை ஆய்வு செய்யும் உருவாக்குநர்கள் ஒவ்வொரு இடைப்பட்ட படியையும் எழுத வேண்டுமா என்று பரிசோதிக்கலாம். ஒரேபோன்ற நிபந்தனைகளில் ஆசிரியர்கள் நடத்திய சோதனைகள் அவர்களின் முறையில் குறைந்த உருவாக்கப் படிகள் இருக்கலாம் எனக் காட்டுகின்றன. பொது நிரல் அதன் செயலாக்கத்தைப் பரிசோதிக்க உதவுகிறது. இவை இரண்டுமே இயங்கும் சேவையின் கட்டணம் குறையும் என்பதை நிறுவவில்லை.
• கவனிக்க வேண்டியது: வெளியிடப்பட்ட செக்பாயிண்ட்களுடன் செய்யும் தனித்த இயக்கங்கள், வேறு பணிகள் மற்றும் கருவிச் செலவுகளிலும் அளவிடப்பட்ட ஆதாயம் நிலைக்கிறதா என்பதைச் சோதிக்கலாம். மறைநிலையிலிருந்து மீட்கப்படும் வாசிக்கக்கூடிய சொற்கள், பதில் எவ்வாறு வந்தது என்பதை உண்மையாக விளக்குகின்றனவா என்பது மேலும் கடினமான ஆய்வுக் கேள்வி.

மாற்றம் செயல்படும் விதம்

வழக்கமான உரை முறையில் மாடல் டோக்கன்களை உருவாக்குகிறது. சிறப்பு <latent> டோக்கனை வெளியிடும்போது, HybridLink என்ற சிறு கூறு மாடலின் கடைசி மறைந்த நிலையை மீண்டும் அதன் உள்ளீட்டு வெளிக்கு மாற்றுகிறது. உருவாகும் தொடர்மதிப்பு வெக்டரை முதலில் சொல்லாக மாற்றாமல் அமைப்பு அடுத்த படிக்கு அளிக்கிறது. மிக அருகிலுள்ள டோக்கனுடனான ஒப்பீடு </latent> குறியைக் கண்டறியும்போது அது மீண்டும் உரை முறைக்குத் திரும்புகிறது. அப்போது மாடல் கருவி அழைப்பையோ தனது பதிலையோ எழுதலாம். உரை, மறைநிலைப் படிகள், கருவிக் கவனிப்புகளை அடுத்த உரையாடல் சுற்றுகளுக்குக் கொண்டு செல்லும் நிலைத்த விசை-மதிப்பு கேஷை ஆய்வு விவரிக்கிறது. கட்டமைப்பும் மாற்ற விதிகளும் முன்வெளியீட்டின் 3, 4 பிரிவுகளில் உள்ளன.

முன்பயிற்சி பெற்ற மாடலில் அடாப்டர் இணைப்பதைவிட இதற்கு அதிகம் தேவை. ஆசிரியர்கள் முதலில் உரைச் செயல்விளக்கங்களை உரையும் மறைநிலையும் கலந்த பயிற்சி வரிசைகளாக மாற்றுகின்றனர். பிறகு அடிப்படை மாடலும் HybridLink-உம் சேர்ந்து செயல்பட மேற்பார்வைப் பயிற்சி அளிக்கின்றனர். வலுவூட்டல் கற்றல் கட்டம் உருவான ஏஜென்ட்டுக்குப் பகுத்தறிதல் மற்றும் தேடல் பணிகளில் பயிற்சி அளிக்கிறது. அந்தக் கட்டத்தில் ஆசிரியர்கள் மாதிரியாகத் தேர்ந்தெடுத்த உரை இடங்களின் நிகழ்தகவுகளைப் புதுப்பித்து, பதிவுசெய்த மறைநிலை உள்ளீடுகளை மீண்டும் பயன்படுத்துகின்றனர். பயிற்சித் தரவில் மாற்றப்பட்ட 54,000 செயல்விளக்கங்களும், அதற்குப் பின் ஆழமான பகுத்தறிதலின் 12,000 எடுத்துக்காட்டுகள் மற்றும் ஏஜென்ட் தேடலின் 1,000 எடுத்துக்காட்டுகள் கொண்ட தனித்த தொகுப்புகளும் உள்ளதாக ஆய்வு கூறுகிறது. பயிற்சி மற்றும் தரவு விவரங்கள்.

சோதனைகள் அளவிட்டது என்ன

முதன்மை மதிப்பீடு Qwen3-Base அடிப்படையிலான 8B, 14B பதிப்புகளை 11 சோதனைகளில் விவரிக்கிறது. ஆறு சோதனைகள் கணிதம், அறிவியல் அல்லது மருத்துவ அறிவு, பல படி வினாக்களை உள்ளடக்குகின்றன; ஐந்து தேடலுக்கும் ஏஜென்ட் பணிகளுக்கும் முக்கியத்துவம் தருகின்றன. தனி இணைப்பு 4B பதிப்பை AIME25, AIME26, MATH500, GPQA-Diamond ஆகிய நான்கு சோதனைகளில் பரிசோதிக்கிறது. அதே அடிப்படை மாடல்கள் மற்றும் பயிற்சித் தரவுடன் உரைப் பயிற்சி பெற்ற ஏஜென்ட்கள், மறைநிலைப் பகுத்தறிதல் முறைகள், முன்னணி ஏஜென்ட்கள், கருவிப் பயன்பாட்டுக் கட்டமைப்புகள் ஆகியவற்றுடன் ஆசிரியர்கள் ஒப்பிடுகின்றனர். இந்தக் குழுக்களின் ஒப்பீட்டு நோக்கங்கள் வேறுபடுகின்றன. எடுத்துக்காட்டாக, ஒரேபோன்ற நிபந்தனைகளின் 14B வலுவூட்டல் கற்றல் ஒப்பீட்டில் MATH500-இல் HybridAgent 88.2%, ARPO மூலம் பயிற்சி பெற்ற உரை ஏஜென்ட் 87.0% பெறுகின்றன. GAIA சராசரியில் HybridAgent 14B-க்கு 52.4%, அந்த ARPO அடிப்படை ஒப்பீட்டுக்கு 43.7% என ஆய்வு கூறுகிறது. இவை ஆசிரியர்களின் அமைப்பிலான சோதனை முடிவுகள்; செயல்பாட்டிலுள்ள ஏஜென்ட்களின் பொதுத் தரவரிசை அல்ல. முதன்மை அட்டவணைகள், 4B இணைப்பு, அடிப்படை ஒப்பீடுகளின் வரையறைகள்.

அமைப்பு முக்கியம். கணித மதிப்பீடுகளுக்கு ஆழமான பகுத்தறிதல் பயிற்சி பெற்ற செக்பாயிண்ட்களையும், அறிவு மற்றும் ஏஜென்ட் மதிப்பீடுகளுக்கு ஏஜென்ட் தேடல் பயிற்சி பெற்ற செக்பாயிண்ட்களையும் ஆய்வு பயன்படுத்துகிறது. ஊக இயக்கத்தில் temperature 0.6, top-p 0.95, top-k 20 பயன்படுத்தியதாகவும், உரை டோக்கன்களையும் மறைநிலைப் படிகளையும் வரம்பில் கணக்கிட்டதாகவும் கூறுகிறது. கணிதம், அறிவுப் பணிகளுக்கு 4,096 படிகளும் கடினமான ஏஜென்ட் பணிகளுக்கு 24,000 படிகளும் அனுமதிக்கப்பட்டன. மறைநிலைப் பகுதிகள் குறைந்தது 16, அதிகபட்சம் 256 படிகள் நீண்டன; இயக்கப் பாதைகளுக்குக் கருவி அழைப்பு வரம்புகள் இருந்தன. தனிமைப்படுத்தப்பட்ட Python இன்டர்பிரிட்டரும் நேரடித் தேடலும் கருவிகளாக இருந்தன. தேடல் பக்கங்களைச் சுருக்கவும் வெளியீடுகளை மதிப்பிடவும் ஒரு மாடல் பயன்படுத்தப்பட்டது. 32 H100 GPU-களில் பயிற்சியும் ஊக இயக்கமும் நடந்ததாக ஆசிரியர்கள் தெரிவிக்கின்றனர். வேறு கருவிச் சேவைகள், மீட்டெடுத்தல் முடிவுகள் அல்லது இயங்கும் சூழல்கள் ஒப்பீட்டை மாற்றலாம். பரிசோதனை அமைப்பு.

சுருக்கத்திலுள்ள 10.4% செயல்திறன் முன்னேற்றம் என்பது ஒரேபோன்ற மாடல் அளவுகள் மற்றும் பயிற்சி வரம்புகளில், வலுவூட்டல் கற்றல் கட்டத்தில் தொடர்புடைய உரை மற்றும் மறைநிலை அடிப்படை முறைகளுடன் செய்த ஒப்பீடு. எல்லா முன்னணி ஏஜென்ட்களையும்விட பொதுவான முன்னேற்றமாக இதைப் படிக்கக்கூடாது. முதன்மை ஏஜென்ட் அட்டவணைக்கான ஐந்து தனித்த இயக்கங்களின் முடிவுகளையும் ஆய்வு தருகிறது; துல்லியத்தின் சராசரி திட்டவிலக்கம் 0.014. முடிவுகளும் அட்டவணை விளக்கமும்.

திறன் கூற்றின் கணக்கீட்டு வரம்பு குறுகியது

உரை அடிப்படை முறைகளுடன் ஒப்பிடும்போது, உரை டோக்கன்கள் முந்தைய அளவின் சுமார் 1/2.7 ஆகவும், மொத்த உருவாக்கப் படிகள் அதிகபட்சம் 54% குறைவாகவும் இருப்பதாக ஆய்வு தெரிவிக்கிறது. சுருக்கத்தில் ஊக இயக்க வேகம் 1.8 முதல் 2.6 மடங்காகவும் மதிப்பிடப்பட்ட செலவு முந்தைய அளவின் சுமார் 1/2.7 முதல் 1/3.7 ஆகவும் கூறப்பட்டுள்ளது. மறைநிலைப் படிகளுக்கும் மாடல் கணக்கீடு தேவை. ஆசிரியர்களின் செலவு அட்டவணை ஒவ்வொரு உரை அல்லது மறைநிலைப் படிக்கும் அடிப்படை மாடலின் முழு முன்னோக்குச் சுற்றைக் கணக்கிடுகிறது. H100 மணிக்கு 2.50 டாலர் விலை மற்றும் உச்ச BF16 செயலாக்க வீதத்தின் 10% என்ற அடிப்படையில் பத்து இலட்சம் பதில்களை மதிப்பிடுகிறது. 8B அடிப்படை மாடலில் இந்தக் கணக்கு ஒரு கேள்விக்கு 62.5 டிரில்லியனிலிருந்து 17.2 டிரில்லியன் மிதவைப் புள்ளிச் செயல்பாடுகளாகவும், பத்து இலட்சம் கேள்விகளுக்கு 439 டாலரிலிருந்து 121 டாலராகவும் மாறுகிறது. திறன் பிரிவும் செலவு அட்டவணையும்.

அதே இணைப்பு, பிராம்ப்ட் செயலாக்கம், சூழலைப் பொறுத்து மாறும் அட்டென்ஷன் செலவுகள், வெளிக் கருவிகளை இயக்குதல் ஆகியவற்றை வெளிப்படையாக விலக்குகிறது. எனவே தேடல் அழைப்புகள், ஹோஸ்டிங் மற்றும் பிற சேவைச் செலவுகள் அந்த டாலர் ஒப்பீட்டுக்கு வெளியே உள்ளன. ஆசிரியர்கள் அளவிட்ட உருவாக்கப் பாதைகள் மற்றும் கூறிய கணக்கீட்டு மாதிரியைப் பற்றி இந்த எண்கள் பயனுள்ள ஆதாரம் தருகின்றன. ஆனால் முழு ஏஜென்ட் சேவையை இயக்கும் செலவை அவை நிறுவவில்லை.

வாசிக்கக்கூடிய மறைநிலைப் பகுதிகளும் ஆராயப்பட வேண்டும்

ஒவ்வொரு மறைநிலைப் படியையும் மிக அருகிலுள்ள டோக்கன் எம்பெடிங்கிற்கு மாற்றி HybridAgent போலி உரை வடிவில் காட்டலாம். ரிப்போசிட்டரியின் எடுத்துக்காட்டு இத்தகைய வாசிப்புகளை உண்மையான தேடல் மற்றும் Python அழைப்புகளுடன் காட்டுகிறது. ஆய்வின் தனிப் பரிசோதனையில் மறைநிலை வெக்டர்களை மாற்றுவது அல்லது வேறு வெக்டர்களால் பதிலிடுவது MATH500 துல்லியத்தைக் குறைக்கிறது. அந்த நிலைகள் பதிலைப் பாதிக்கின்றன என்ற கூற்றை இது ஆதரிக்கிறது. மிக அருகிலுள்ள சொற்கள் கணக்கீட்டின் முழுமையான அல்லது உண்மையான விவரத்தைத் தருகின்றன என்பதை இது காட்டவில்லை. மறைநிலைத் தலையீட்டு அட்டவணை.

560 கணிதச் சிக்கல்களில் வெளிக் கண்காணிப்புக்கு வெளிப்படையான உரை எவ்வளவு பயனுள்ளதாக உள்ளது என்பதையும் ஆசிரியர்கள் சோதிக்கின்றனர். ஒரேபோன்ற நிபந்தனைகளின் உரை ஏஜென்ட்களைவிட HybridAgent-இல் குறைவான வெளிப்படையான உரை டோக்கன்கள் இருப்பதாக அட்டவணை கூறுகிறது; மாடல் மதிப்பிடும் கண்காணிப்பு மற்றும் பிழைநீக்க அளவுகளும் தரப்பட்டுள்ளன. சில அளவுகள் மேம்படுகின்றன. 14B-இல் வலுவான கண்காணிப்பாளரின் AUROC, HybridAgent-க்கு 0.989, உரை ஏஜென்ட்டுக்கு 0.990. இந்தச் சோதனைகள் குறிப்பிட்ட கண்காணிப்பாளர்களையும் பணிகளையும் மதிப்பிடுகின்றன. குறிப்பாக மறைந்த மறைநிலைப் பகுதிகளுக்கு பொதுவான வெளிப்படைத்தன்மை அல்லது பாதுகாப்பை இவை நிறுவ முடியாது. தணிக்கை செய்யும் திறனுக்கான பரிசோதனை.

இப்போது கிடைப்பவை

இந்த MIT உரிமம் பெற்ற ரிப்போசிட்டரி ஹைப்ரிட் உருவாக்க இயந்திரம், Python மற்றும் தேடல் கருவிகள், மேற்பார்வை மற்றும் வலுவூட்டல் கற்றல் செயல்முறைகள், தொகுதி ஊக இயக்கம், போலி உரை ஆய்வி ஆகியவற்றைக் கொண்டுள்ளது. ஆசிரியர்கள் பொதுவில் உள்ள 8B மற்றும் 14B ஏஜென்ட் செக்பாயிண்ட்களுக்கும் பயிற்சித் தரவுத் தொகுப்புகளுக்கும் இணைப்புத் தருகின்றனர். ஆய்வின் கணித மதிப்பீடுகள் தனியாகப் பயிற்சி பெற்ற ஆழமான பகுத்தறிதல் செக்பாயிண்ட்களைப் பயன்படுத்தின. README வெளியிடப்பட்ட மாடல் பட்டியலில் இரண்டு ஏஜென்ட் செக்பாயிண்ட்கள் உள்ளன. ஒவ்வொரு பொதுச் செக்பாயிண்டிலும் அடிப்படை மாடல் மற்றும் HybridLink எடைகள் உள்ளன. Transformers வழியாக அடிப்படை மாடலை மட்டும் ஏற்றினால் உரை-மட்டும் மாடல் கிடைக்கும் என மாடல் அட்டை கூறுகிறது; மறைநிலை உருவாக்கத்துக்கும் கருவிப் பயன்பாட்டுக்கும் திட்ட நிரல் தேவை.

மேற்பார்வைப் பயிற்சிக்கு 8 அல்லது 16 GPU-களையும், ஏஜென்ட் தேடல் வலுவூட்டல் கற்றல் இயக்கிக்கு நான்கு கணினி முனைகளில் 32 GPU-களையும் README பரிந்துரைக்கிறது. நிறுவல் வழிமுறைகளில் தேடல் API விசையும் உள்ளது. ஆவணப்படுத்திய ஆய்வுச் செயல்முறையை முயற்சிப்பவர்களுக்கு இவை முக்கியத் தேவைகள். BIG CHANGE ஆய்வு, ரிப்போசிட்டரி, மாடல் அட்டைகளைப் பார்த்துள்ளது; நிரலை இயக்கவோ செக்பாயிண்ட்களைப் பதிவிறக்கவோ சோதனைகளை மீண்டும் செய்யவோ இல்லை.