সার্চ ইঞ্জিনকে কল করা এজেন্টকে প্রশ্নটি টেক্সটে প্রকাশ করে ফল পড়তে হয়। তার ভেতরের যুক্তিপ্রক্রিয়ার একই বিন্যাস অনুসরণ করার প্রয়োজন নেই। ১৩ অক্টোবরের প্রিপ্রিন্টে, Stanford, University of Illinois Urbana-Champaign, Together AI ও Meta-র গবেষকেরা HybridAgent বর্ণনা করেছেন। সিস্টেমটি অবিচ্ছিন্ন মানের অভ্যন্তরীণ অবস্থা এবং টুল কল, পর্যবেক্ষণ ও উত্তরের টেক্সটের মধ্যে পালাবদল করে। তারা গবেষণার কোড ও দুটি এজেন্ট চেকপয়েন্ট প্রকাশ করেছেন। প্রকাশিত পারফরম্যান্স ও দক্ষতার ফল লেখকদের পরীক্ষার, স্বাধীন পুনরুৎপাদন বা চালু সেবার নয়।
বড় পরিবর্তন
- কী বদলেছে: HybridAgent ভাষা-মডেল এজেন্টকে একটি কাজের মধ্যেই ভেতরের অবিচ্ছিন্ন-অবস্থার ধাপ ও সাধারণ টেক্সটের মধ্যে বদলের উপায় দেয়। সার্চ, Python ও চূড়ান্ত উত্তরের ইন্টারফেস টেক্সটই থাকে।
- এটি কেন গুরুত্বপূর্ণ: এজেন্ট নিয়ে গবেষণাকারী ডেভেলপাররা প্রতিটি মাঝের ধাপ লিখতে হয় কি না তা পরীক্ষা করতে পারেন। লেখকদের সমতুল্য শর্তের পরীক্ষায় তাদের পদ্ধতিতে কম জেনারেশন ধাপের ইঙ্গিত পাওয়া যায়। প্রকাশ্য কোড বাস্তবায়নটি পরীক্ষা করার সুযোগ দেয়। এর কোনোটিই চলমান সেবার বিল কমে যাওয়া প্রতিষ্ঠা করে না।
- যা খেয়াল রাখতে হবে: প্রকাশিত চেকপয়েন্ট দিয়ে স্বাধীনভাবে চালিয়ে দেখা যায়, ভিন্ন কাজ ও টুল খরচেও মাপা সুবিধা টেকে কি না। আরও কঠিন যাচাইয়ের প্রশ্ন হলো, ল্যাটেন্ট অবস্থা থেকে পাওয়া পাঠযোগ্য শব্দগুলো উত্তর কীভাবে এসেছে তা বিশ্বস্তভাবে বর্ণনা করে কি না।
বদল কীভাবে কাজ করে
সাধারণ টেক্সট মোডে মডেল টোকেন তৈরি করে। বিশেষ <latent> টোকেন দিলে HybridLink নামের ছোট উপাদান মডেলের শেষ হিডেন স্টেটকে তার ইনপুট স্পেসে ফিরিয়ে ম্যাপ করে। সিস্টেম তৈরি হওয়া অবিচ্ছিন্ন ভেক্টরকে আগে শব্দে না বদলে পরের ধাপে পাঠায়। নিকটতম টোকেনের সঙ্গে তুলনা করে </latent> মার্কার চেনা গেলে এটি টেক্সট মোডে ফেরে। তখন মডেল টুল কল বা উত্তর লিখতে পারে। পেপারে স্থায়ী কী-ভ্যালু ক্যাশের কথা বলা হয়েছে, যা টেক্সট, ল্যাটেন্ট ধাপ ও টুলের পর্যবেক্ষণ পরের কথোপকথনের ধাপে বহন করে। স্থাপত্য ও বদলের নিয়ম প্রিপ্রিন্টের ৩ ও ৪ নম্বর অংশে আছে।
এতে পূর্বপ্রশিক্ষিত মডেলে অ্যাডাপ্টার জুড়লেই হয় না। লেখকেরা প্রথমে টেক্সটের প্রদর্শনগুলোকে টেক্সট ও ল্যাটেন্ট অবস্থার মিশ্র প্রশিক্ষণক্রমে বদলান। তারপর সুপারভাইজড প্রশিক্ষণে মূল মডেল ও HybridLink-কে একসঙ্গে কাজ শেখান। রিইনফোর্সমেন্ট লার্নিং ধাপে তৈরি এজেন্টকে যুক্তি ও সার্চের কাজ শেখানো হয়। ওই ধাপে লেখকেরা নমুনা নেওয়া টেক্সট অবস্থানের সম্ভাবনা বদলান এবং রেকর্ড করা ল্যাটেন্ট ইনপুট আবার চালান। পেপার অনুযায়ী, প্রশিক্ষণ ডেটায় ৫৪,০০০ রূপান্তরিত প্রদর্শন আছে; এর পর আলাদা সেটে গভীর যুক্তির ১২,০০০ ও এজেন্ট সার্চের ১,০০০ উদাহরণ রয়েছে। প্রশিক্ষণ ও ডেটার বিস্তারিত।
বেঞ্চমার্ক কী মেপেছে
মূল মূল্যায়নে Qwen3-Base-ভিত্তিক 8B ও 14B সংস্করণকে ১১টি বেঞ্চমার্কে দেখানো হয়েছে। ছয়টি গণিত, বিজ্ঞান বা চিকিৎসাজ্ঞান এবং বহু ধাপের প্রশ্ন নিয়ে; পাঁচটি সার্চ ও এজেন্টের কাজকে গুরুত্ব দেয়। আলাদা পরিশিষ্ট 4B সংস্করণকে AIME25, AIME26, MATH500 ও GPQA-Diamond—এই চারটিতে পরীক্ষা করে। লেখকেরা একই মূল মডেল ও প্রশিক্ষণ ডেটার টেক্সট-প্রশিক্ষিত এজেন্ট, ল্যাটেন্ট যুক্তিপদ্ধতি, অগ্রবর্তী এজেন্ট ও টুল-ব্যবহার কাঠামোর সঙ্গে তুলনা করেন। প্রতিটি গোষ্ঠীর তুলনার উদ্দেশ্য আলাদা। যেমন, সমতুল্য 14B রিইনফোর্সমেন্ট লার্নিং তুলনায় MATH500-এ HybridAgent পায় ৮৮.২%, ARPO-তে প্রশিক্ষিত টেক্সট এজেন্ট পায় ৮৭.০%। GAIA গড়ে পেপার HybridAgent 14B-র জন্য ৫২.৪% ও ওই ARPO ভিত্তির জন্য ৪৩.৭% জানায়। এগুলো লেখকদের ব্যবস্থায় বেঞ্চমার্ক ফল, চালু এজেন্টের সাধারণ র্যাঙ্কিং নয়। মূল সারণি, 4B পরিশিষ্ট ও তুলনার ভিত্তির সংজ্ঞা।
ব্যবস্থাটি গুরুত্বপূর্ণ। গণিত মূল্যায়নে পেপার গভীর যুক্তিতে প্রশিক্ষিত চেকপয়েন্ট এবং জ্ঞান ও এজেন্ট মূল্যায়নে এজেন্ট সার্চে প্রশিক্ষিত চেকপয়েন্ট ব্যবহার করে। ইনফারেন্সে temperature ০.৬, top-p ০.৯৫ ও top-k ২০ এবং বাজেটে টেক্সট টোকেন ও ল্যাটেন্ট ধাপ দুটোই গণনা করা হয়েছে বলে জানায়। গণিত ও জ্ঞানের কাজে ৪,০৯৬, কঠিন এজেন্টের কাজে ২৪,০০০ ধাপ অনুমোদিত ছিল। ল্যাটেন্ট অংশ অন্তত ১৬, সর্বোচ্চ ২৫৬ ধাপ চলেছে; কার্যপথে টুল কলের সীমা ছিল। টুল ছিল স্যান্ডবক্স Python ইন্টারপ্রেটার ও সরাসরি সার্চ। সার্চ পৃষ্ঠার সারাংশ ও আউটপুটের বিচারেও মডেল ব্যবহৃত হয়েছে। লেখকেরা ৩২টি H100 GPU-তে প্রশিক্ষণ ও ইনফারেন্সের কথা জানান। টুল সেবা, উদ্ধার করা ফল বা কার্যপরিস্থিতি বদলালে তুলনা বদলাতে পারে। পরীক্ষার ব্যবস্থা।
সারাংশের ১০.৪% পারফরম্যান্স উন্নতি একই মডেল আকার ও প্রশিক্ষণ বাজেটে রিইনফোর্সমেন্ট লার্নিং ধাপে সংশ্লিষ্ট টেক্সট ও ল্যাটেন্ট ভিত্তির সঙ্গে তুলনাকে বোঝায়। প্রতিটি অগ্রবর্তী এজেন্টের তুলনায় সার্বজনীন উন্নতি হিসেবে এটি পড়া যাবে না। পেপার মূল এজেন্ট সারণির জন্য পাঁচটি স্বাধীন রানের ফলও দেয়, যেখানে নির্ভুলতার গড় প্রমিত বিচ্যুতি ০.০১৪। ফল ও সারণির ব্যাখ্যা।
দক্ষতার দাবির হিসাবের পরিসর ছোট
টেক্সট-ভিত্তিক তুলনায় পেপার ২.৭ গুণ কম টেক্সট টোকেন ও মোট জেনারেশন ধাপে সর্বোচ্চ ৫৪% হ্রাস জানায়। সারাংশে ইনফারেন্স গতি ১.৮ থেকে ২.৬ গুণ এবং আনুমানিক খরচ ২.৭ থেকে ৩.৭ গুণ কম বলা হয়েছে। ল্যাটেন্ট ধাপেও মডেলের গণনা লাগে। লেখকদের খরচের সারণি প্রতি টেক্সট বা ল্যাটেন্ট ধাপের জন্য মূল মডেলের একটি সম্পূর্ণ ফরওয়ার্ড পাস ধরে। ঘণ্টায় H100-এর দাম ২.৫০ মার্কিন ডলার ও সর্বোচ্চ BF16 থ্রুপুটের ১০% ধরে দশ লাখ উত্তরের অনুমান করা হয়। 8B মূল মডেলে হিসাব প্রতি প্রশ্নে ৬২.৫ থেকে ১৭.২ ট্রিলিয়ন ফ্লোটিং-পয়েন্ট অপারেশন এবং প্রতি দশ লাখ প্রশ্নে ৪৩৯ থেকে ১২১ মার্কিন ডলারে নামে। দক্ষতার অংশ ও খরচের সারণি।
একই পরিশিষ্ট স্পষ্টভাবে প্রম্পট প্রক্রিয়াকরণ, প্রসঙ্গ অনুযায়ী বদলানো অ্যাটেনশনের খরচ এবং বাইরের টুল চালানো বাদ দেয়। তাই সার্চ কল, হোস্টিং ও অন্য সেবার খরচ ওই ডলারের তুলনার বাইরে। সংখ্যাগুলো লেখকদের মাপা জেনারেশন পথ ও ঘোষিত কম্পিউট মডেলের উপযোগী প্রমাণ, কিন্তু সম্পূর্ণ এজেন্ট সেবা চালানোর খরচ প্রতিষ্ঠা করে না।
পাঠযোগ্য ল্যাটেন্ট অংশেরও যাচাই প্রয়োজন
HybridAgent প্রতি ল্যাটেন্ট ধাপকে নিকটতম টোকেন এমবেডিংয়ে ম্যাপ করে ছদ্ম-টেক্সট দেখাতে পারে। রিপোজিটরির উদাহরণ প্রকৃত সার্চ ও Python কলের পাশে এমন পাঠ দেখায়। পেপারের আলাদা পরীক্ষায় ল্যাটেন্ট ভেক্টর বদলানো বা প্রতিস্থাপন করলে MATH500 নির্ভুলতা কমে, যা ওই অবস্থাগুলো উত্তরে প্রভাব ফেলে—এই দাবিকে সমর্থন করে। নিকটতম শব্দগুলো গণনার সম্পূর্ণ বা বিশ্বস্ত বিবরণ দেয়, তা এতে প্রমাণিত হয় না। ল্যাটেন্ট হস্তক্ষেপের সারণি।
লেখকেরা ৫৬০টি গণিত সমস্যায় বাহ্যিক পর্যবেক্ষণের জন্য দৃশ্যমান টেক্সট কতটা কাজে লাগে তাও পরীক্ষা করেন। সারণিতে সমতুল্য টেক্সট এজেন্টের চেয়ে HybridAgent-এ কম দৃশ্যমান টেক্সট টোকেন এবং মডেল-বিচারিত পর্যবেক্ষণ ও ডিবাগিংয়ের কয়েকটি মাপ আছে। কিছু মাপে উন্নতি হয়; 14B-তে শক্তিশালী পর্যবেক্ষকের AUROC HybridAgent-এর জন্য ০.৯৮৯, টেক্সট এজেন্টের জন্য ০.৯৯০। এই পরীক্ষাগুলো নির্দিষ্ট পর্যবেক্ষক ও কাজ মূল্যায়ন করে। বিশেষ করে লুকানো ল্যাটেন্ট অংশের ক্ষেত্রে সাধারণ স্বচ্ছতা বা নিরাপত্তা প্রতিষ্ঠা করতে পারে না। নিরীক্ষাযোগ্যতার পরীক্ষা।
এখন কী পাওয়া যাচ্ছে
এই MIT-লাইসেন্সের রিপোজিটরিতে হাইব্রিড জেনারেশন ইঞ্জিন, Python ও সার্চ টুল, সুপারভাইজড ও রিইনফোর্সমেন্ট লার্নিং প্রক্রিয়া, ব্যাচ ইনফারেন্স এবং ছদ্ম-টেক্সট পরিদর্শক আছে। লেখকেরা প্রকাশ্য 8B ও 14B এজেন্ট চেকপয়েন্ট ও প্রশিক্ষণ ডেটাসেটের লিংক দিয়েছেন। পেপারের গণিত মূল্যায়নে আলাদা করে প্রশিক্ষিত গভীর যুক্তির চেকপয়েন্ট ব্যবহৃত হয়েছে; README-র প্রকাশিত মডেলের তালিকায় দুটি এজেন্ট চেকপয়েন্ট আছে। প্রতিটি প্রকাশ্য চেকপয়েন্টে মূল মডেল ও HybridLink-এর ওয়েট আছে। মডেল কার্ড বলে, শুধু Transformers দিয়ে মূল মডেল লোড করলে টেক্সট-শুধু মডেল পাওয়া যায়; ল্যাটেন্ট জেনারেশন ও টুল ব্যবহারে প্রকল্পের কোড লাগে।
README সুপারভাইজড প্রশিক্ষণে ৮ বা ১৬ GPU এবং এজেন্ট সার্চ রিইনফোর্সমেন্ট লার্নিং লঞ্চারের জন্য চার নোডে ৩২ GPU সুপারিশ করে। ইনস্টলেশনের নির্দেশনায় সার্চ API কী আছে। নথিভুক্ত গবেষণা প্রক্রিয়া চেষ্টা করতে চাইলে এগুলো গুরুত্বপূর্ণ চাহিদা। BIG CHANGE পেপার, রিপোজিটরি ও মডেল কার্ড দেখেছে; কোড চালায়নি, চেকপয়েন্ট নামায়নি বা বেঞ্চমার্ক পুনরুৎপাদন করেনি।
