సెర్చ్ ఇంజిన్‌ను పిలిచే ఏజెంట్ ప్రశ్నను టెక్స్ట్‌లో వ్యక్తం చేసి ఫలితాన్ని చదవాలి. దాని అంతర్గత తర్కం కూడా అదే రూపంలో ఉండాల్సిన అవసరం లేదు. అక్టోబర్ 13 ప్రీప్రింట్‌లో, Stanford, University of Illinois Urbana-Champaign, Together AI, Meta పరిశోధకులు HybridAgentను వివరిస్తున్నారు. ఇది నిరంతర విలువల అంతర్గత స్థితులు, టూల్ కాల్స్, పరిశీలనలు, సమాధానాల కోసం టెక్స్ట్ మధ్య మారే వ్యవస్థ. వారు పరిశోధన కోడ్, రెండు ఏజెంట్ చెక్‌పాయింట్లను విడుదల చేశారు. నివేదించిన పనితీరు, సామర్థ్య ఫలితాలు రచయితల ప్రయోగాలవి; స్వతంత్ర పునరుత్పత్తి లేదా అమల్లో ఉన్న సేవకు చెందినవి కావు.
పెద్ద మార్పు
- ఏం మారింది: HybridAgent ఒకే పనిలో భాషా మోడల్ ఏజెంట్ అంతర్గత నిరంతర-స్థితి దశలు, సాధారణ టెక్స్ట్ మధ్య మారే మార్గాన్ని ఇస్తుంది. శోధన, Python, తుది సమాధానానికి టెక్స్ట్ ఇంటర్‌ఫేస్‌గానే ఉంటుంది.
- ఇది ఎందుకు ముఖ్యం: ఏజెంట్లను అధ్యయనం చేసే డెవలపర్లు ప్రతి మధ్యంతర దశనూ రాయాల్సిన అవసరం ఉందా అని పరిశీలించవచ్చు. రచయితల సమాన పరిస్థితుల ప్రయోగాలు తమ పద్ధతికి తక్కువ జనరేషన్ దశలు అవసరమవుతాయని సూచిస్తున్నాయి. బహిరంగ కోడ్ దాని అమలును పరిశీలించే వీలు కల్పిస్తుంది. వీటిలో ఏదీ నిర్వహణలో ఉన్న సేవ బిల్లు తగ్గుతుందని నిర్ధారించదు.
- గమనించాల్సినది: విడుదల చేసిన చెక్‌పాయింట్లతో స్వతంత్ర అమలులు ఇతర పనులు, సాధనాల ఖర్చుల్లోనూ కొలిచిన ఆధిక్యం నిలుస్తుందా అని పరీక్షించవచ్చు. లేటెంట్ స్థితి నుంచి తిరిగి పొందిన చదవగల పదాలు సమాధానం ఎలా వచ్చిందో విశ్వసనీయంగా వివరిస్తాయా అనేది మరింత కఠినమైన పరిశీలన ప్రశ్న.
మార్పు ఎలా పనిచేస్తుంది
సాధారణ టెక్స్ట్ మోడ్‌లో మోడల్ టోకెన్లను సృష్టిస్తుంది. ప్రత్యేక <latent> టోకెన్‌ను ఇచ్చినప్పుడు HybridLink అనే చిన్న భాగం మోడల్ చివరి హిడెన్ స్టేట్‌ను తిరిగి ఇన్‌పుట్ స్పేస్‌కు మ్యాప్ చేస్తుంది. వచ్చిన నిరంతర వెక్టర్‌ను ముందుగా పదంగా మార్చకుండా వ్యవస్థ తదుపరి దశలోకి పంపుతుంది. సమీప టోకెన్‌తో పోలిక </latent> మార్కర్‌ను గుర్తించినప్పుడు మళ్లీ టెక్స్ట్ మోడ్‌కు వస్తుంది. అప్పుడు మోడల్ టూల్ కాల్ లేదా సమాధానాన్ని రాయగలదు. టెక్స్ట్, లేటెంట్ దశలు, సాధనాల పరిశీలనలను తదుపరి సంభాషణ దశలకు తీసుకెళ్లే నిరంతర కీ-వాల్యూ క్యాష్‌ను పత్రం వివరిస్తుంది. ఆర్కిటెక్చర్, మార్పు నియమాలు ప్రీప్రింట్‌లోని 3, 4 విభాగాల్లో ఉన్నాయి.
ఇందుకు ముందుగా శిక్షణ పొందిన మోడల్‌కు అడాప్టర్ జోడించడం కంటే ఎక్కువ అవసరం. రచయితలు మొదట టెక్స్ట్ ప్రదర్శనలను టెక్స్ట్, లేటెంట్ స్థితులు కలిసిన శిక్షణ క్రమాలుగా మారుస్తారు. ఆ తర్వాత మూల మోడల్, HybridLink కలిసి పనిచేసేలా పర్యవేక్షిత శిక్షణ ఇస్తారు. రీన్‌ఫోర్స్‌మెంట్ లెర్నింగ్ దశలో వచ్చిన ఏజెంట్‌కు తర్కం, శోధన పనులపై శిక్షణ ఇస్తారు. ఆ దశలో రచయితలు నమూనాగా ఎంచుకున్న టెక్స్ట్ స్థానాల్లో సంభావ్యతలను నవీకరించి, నమోదైన లేటెంట్ ఇన్‌పుట్లను మళ్లీ వినియోగిస్తారు. శిక్షణ డేటాలో మార్పు చేసిన 54,000 ప్రదర్శనలు, ఆ తర్వాత వేరుగా 12,000 లోతైన తర్క ఉదాహరణలు, 1,000 ఏజెంట్ శోధన ఉదాహరణలు ఉన్నట్లు పత్రం చెబుతుంది. శిక్షణ, డేటా వివరాలు.
బెంచ్‌మార్క్‌లు ఏం కొలిచాయి
ప్రధాన మూల్యాంకనం Qwen3-Base ఆధారిత 8B, 14B వెర్షన్లను 11 బెంచ్‌మార్క్‌లపై నివేదిస్తుంది. ఆరు పరీక్షలు గణితం, శాస్త్రీయ లేదా వైద్య జ్ఞానం, బహుళ దశల ప్రశ్నలను కవర్ చేస్తాయి; ఐదు శోధన, ఏజెంట్ పనులపై దృష్టి పెడతాయి. వేరే అనుబంధం 4B వెర్షన్‌ను AIME25, AIME26, MATH500, GPQA-Diamond అనే నాలుగు బెంచ్‌మార్క్‌లపై పరీక్షిస్తుంది. అదే మూల మోడళ్లు, శిక్షణ డేటాతో టెక్స్ట్ శిక్షణ పొందిన ఏజెంట్లు, లేటెంట్ తర్క పద్ధతులు, అగ్రశ్రేణి ఏజెంట్లు, టూల్ వినియోగ ఫ్రేమ్‌వర్క్‌లతో రచయితలు పోల్చారు. ఆ సమూహాల పోలిక ఉద్దేశాలు వేర్వేరు. ఉదాహరణకు సమాన పరిస్థితుల 14B రీన్‌ఫోర్స్‌మెంట్ లెర్నింగ్ పోలికలో MATH500పై HybridAgent 88.2%, ARPOతో శిక్షణ పొందిన టెక్స్ట్ ఏజెంట్ 87.0% సాధించాయి. GAIA సగటులో HybridAgent 14Bకి 52.4%, ఆ ARPO బేస్‌లైన్‌కు 43.7% అని పత్రం నివేదిస్తుంది. ఇవి రచయితల అమరికలోని బెంచ్‌మార్క్ ఫలితాలు; అమల్లో ఉన్న ఏజెంట్లకు సాధారణ ర్యాంకింగ్ కాదు. ప్రధాన పట్టికలు, 4B అనుబంధం, బేస్‌లైన్ నిర్వచనాలు.
అమరిక ముఖ్యం. గణిత మూల్యాంకనాలకు లోతైన తర్కంపై శిక్షణ పొందిన చెక్‌పాయింట్లను, జ్ఞానం, ఏజెంట్ మూల్యాంకనాలకు ఏజెంట్ శోధనపై శిక్షణ పొందిన చెక్‌పాయింట్లను పత్రం ఉపయోగిస్తుంది. ఇన్‌ఫరెన్స్‌లో temperature 0.6, top-p 0.95, top-k 20 వాడామని, బడ్జెట్లలో టెక్స్ట్ టోకెన్లు, లేటెంట్ దశలు రెండూ లెక్కించామని చెబుతుంది. గణితం, జ్ఞాన పనులకు 4,096 దశలు, కష్టమైన ఏజెంట్ పనులకు 24,000 దశలు అనుమతించింది. లేటెంట్ భాగాలు కనీసం 16, గరిష్ఠంగా 256 దశలు నడిచాయి; ప్రక్రియ మార్గాలకు టూల్ కాల్ పరిమితులున్నాయి. సాధనాలు శాండ్‌బాక్స్ Python ఇంటర్‌ప్రెటర్, ప్రత్యక్ష శోధన. శోధన పేజీల సారాంశం, అవుట్‌పుట్ తీర్పులకు కూడా ఒక మోడల్‌ను వాడారు. రచయితలు 32 H100 GPUలపై శిక్షణ, ఇన్‌ఫరెన్స్ చేశామని నివేదించారు. సాధన సేవలు, రిట్రీవల్ ఫలితాలు, నిర్వహణ పరిస్థితులు వేరైతే పోలిక మారవచ్చు. ప్రయోగ అమరిక.
సారాంశంలోని 10.4% పనితీరు మెరుగుదల సమాన మోడల్ పరిమాణాలు, శిక్షణ బడ్జెట్లతో రీన్‌ఫోర్స్‌మెంట్ లెర్నింగ్ దశలో సంబంధిత టెక్స్ట్, లేటెంట్ బేస్‌లైన్‌లతో చేసిన పోలికలకు సంబంధించినది. ప్రతి అగ్రశ్రేణి ఏజెంట్‌పై సార్వత్రిక మెరుగుదలగా దీన్ని చదవకూడదు. ప్రధాన ఏజెంట్ పట్టికకు ఐదు స్వతంత్ర అమలుల ఫలితాలనూ పత్రం ఇస్తుంది; ఖచ్చితత్వంలో సగటు ప్రామాణిక విచలనం 0.014. ఫలితాలు, పట్టిక వివరణ.
సామర్థ్య దావా లెక్కింపు పరిధి మరింత పరిమితం
టెక్స్ట్ ఆధారిత బేస్‌లైన్‌లతో పోలికలో 2.7 రెట్లు తక్కువ టెక్స్ట్ టోకెన్లు, మొత్తం జనరేషన్ దశల్లో గరిష్ఠంగా 54% తగ్గుదల ఉన్నట్లు పత్రం నివేదిస్తుంది. సారాంశంలో ఇన్‌ఫరెన్స్ వేగం 1.8 నుంచి 2.6 రెట్లు, అంచనా ఖర్చు 2.7 నుంచి 3.7 రెట్లు తక్కువగా ఉన్నట్లు చెబుతుంది. లేటెంట్ దశలకూ మోడల్ గణన అవసరం. రచయితల ఖర్చు పట్టిక ప్రతి టెక్స్ట్ లేదా లేటెంట్ దశకు పూర్తి మూల మోడల్ ఫార్వర్డ్ పాస్‌ను లెక్కిస్తుంది. H100 గంటకు 2.50 డాలర్ల ధర, గరిష్ఠ BF16 త్రూపుట్‌లో 10% ఉపయోగించి పది లక్షల సమాధానాలను అంచనా వేస్తుంది. 8B మూల మోడల్‌లో ప్రతి ప్రశ్నకు 62.5 నుంచి 17.2 ట్రిలియన్ ఫ్లోటింగ్ పాయింట్ ఆపరేషన్లకు, పది లక్షల ప్రశ్నలకు 439 నుంచి 121 డాలర్లకు ఆ లెక్క మారుతుంది. సామర్థ్య విభాగం, ఖర్చు పట్టిక.
అదే అనుబంధం ప్రాంప్ట్ ప్రాసెసింగ్, సందర్భాన్ని బట్టి మారే అటెన్షన్ ఖర్చులు, బాహ్య సాధనాల అమలును స్పష్టంగా మినహాయిస్తుంది. కాబట్టి శోధన కాల్స్, హోస్టింగ్, ఇతర సేవా ఖర్చులు ఆ డాలర్ పోలిక బయట ఉన్నాయి. రచయితలు కొలిచిన జనరేషన్ మార్గాలు, పేర్కొన్న గణన నమూనాపై ఈ గణాంకాలు ఉపయోగకరమైన ఆధారాలు. కానీ పూర్తి ఏజెంట్ సేవ నిర్వహణ ఖర్చును అవి నిర్ధారించవు.
చదవగల లేటెంట్ భాగాలకూ పరిశీలన అవసరం
ప్రతి లేటెంట్ దశను సమీప టోకెన్ ఎంబెడింగ్‌కు మ్యాప్ చేసి HybridAgent సూడో-టెక్స్ట్‌ను చూపగలదు. రిపాజిటరీ ఉదాహరణ ఇటువంటి ప్రదర్శనలను వాస్తవ శోధన, Python కాల్స్‌తో పాటు చూపుతుంది. పత్రంలోని వేరే ప్రయోగంలో లేటెంట్ వెక్టర్లను మార్చడం లేదా భర్తీ చేయడం MATH500 ఖచ్చితత్వాన్ని తగ్గించింది. ఆ స్థితులు సమాధానాన్ని ప్రభావితం చేస్తాయనే వాదనకు ఇది మద్దతిస్తుంది. సమీప పదాలు గణనను పూర్తిగా లేదా విశ్వసనీయంగా వివరిస్తాయని మాత్రం చూపదు. లేటెంట్ జోక్యాల పట్టిక.
560 గణిత సమస్యల్లో కనిపించే టెక్స్ట్ బాహ్య పర్యవేక్షణకు ఎంత ఉపయోగకరమో కూడా రచయితలు పరీక్షించారు. సమాన పరిస్థితుల టెక్స్ట్ ఏజెంట్ల కంటే HybridAgentలో కనిపించే టెక్స్ట్ టోకెన్లు తక్కువగా ఉన్నట్లు పట్టిక చెబుతుంది. మోడల్ తీర్పుతో వచ్చిన పర్యవేక్షణ, డీబగ్గింగ్ కొలమానాలనూ ఇస్తుంది. కొన్ని కొలమానాలు మెరుగవుతాయి; 14Bలో బలమైన మానిటర్ AUROC HybridAgentకు 0.989, టెక్స్ట్ ఏజెంట్‌కు 0.990. ఈ పరీక్షలు నిర్దిష్ట మానిటర్లు, పనులను మూల్యాంకనం చేస్తాయి. ముఖ్యంగా దాగి ఉన్న లేటెంట్ భాగాల విషయంలో సార్వత్రిక పారదర్శకత లేదా భద్రతను అవి నిర్ధారించలేవు. ఆడిట్ సాధ్యత ప్రయోగం.
ఇప్పుడు అందుబాటులో ఉన్నది
ఈ MIT లైసెన్స్ రిపాజిటరీలో హైబ్రిడ్ జనరేషన్ ఇంజిన్, Python, శోధన సాధనాలు, పర్యవేక్షిత, రీన్‌ఫోర్స్‌మెంట్ లెర్నింగ్ పైప్‌లైన్లు, బ్యాచ్ ఇన్‌ఫరెన్స్, సూడో-టెక్స్ట్ ఇన్‌స్పెక్టర్ ఉన్నాయి. రచయితలు బహిరంగ 8B మరియు 14B ఏజెంట్ చెక్‌పాయింట్లు, శిక్షణ డేటాసెట్లకు లింకులు ఇస్తారు. పత్రంలోని గణిత మూల్యాంకనాలు వేరుగా శిక్షణ పొందిన లోతైన తర్క చెక్‌పాయింట్లను వాడాయి; README విడుదలైన మోడల్ జాబితా రెండు ఏజెంట్ చెక్‌పాయింట్లను గుర్తిస్తుంది. ప్రతి బహిరంగ చెక్‌పాయింట్‌లో మూల మోడల్, HybridLink వెయిట్లు ఉన్నాయి. Transformers ద్వారా మూల మోడల్‌ను మాత్రమే లోడ్ చేస్తే టెక్స్ట్-మాత్రమే మోడల్ వస్తుందని మోడల్ కార్డు చెబుతుంది. లేటెంట్ జనరేషన్, సాధనాల వినియోగానికి ప్రాజెక్ట్ కోడ్ అవసరం.
పర్యవేక్షిత శిక్షణకు 8 లేదా 16 GPUలు, ఏజెంట్ శోధన రీన్‌ఫోర్స్‌మెంట్ లెర్నింగ్ లాంచర్‌కు నాలుగు నోడ్లలో 32 GPUలను README సిఫార్సు చేస్తుంది. ఇన్‌స్టాలేషన్ సూచనల్లో శోధన API కీ ఉంది. పత్రబద్ధమైన పరిశోధన పైప్‌లైన్‌ను ప్రయత్నించే వారికి ఇవి ముఖ్యమైన అవసరాలు. BIG CHANGE పత్రం, రిపాజిటరీ, మోడల్ కార్డులను పరిశీలించింది; కోడ్ నడపలేదు, చెక్‌పాయింట్లు డౌన్‌లోడ్ చేయలేదు, బెంచ్‌మార్క్‌లను పునరుత్పత్తి చేయలేదు.
