Subquadratic ने 12 अक्टूबर को SubQ Snap को AI एजेंटों के भीतर सीमित निर्णयों के मॉडल के रूप में जारी किया। खुला उत्तर लिखने के बजाय, यह ऐप द्वारा तय किए गए प्रश्नों के आधार पर दिए गए पाठ और वैकल्पिक छवियों का मूल्यांकन करता है। इसका सार्वजनिक प्रीव्यू API विकल्प, स्कोर और संभावनाएँ लौटाता है जिन्हें सॉफ्टवेयर सीधे इस्तेमाल कर सकता है।

डेवलपरों के लिए व्यावहारिक बदलाव ऐसा निर्णय कॉल है जो लंबा इनपुट ले सकता है और हर routing या checking चरण पर एजेंट से गद्य लिखवाने की जरूरत नहीं पड़ती। SubQ 393,216 टोकन (384K) संदर्भ विंडो और प्रति दस लाख इनपुट टोकन 0.05 डॉलर मूल्य बताता है; आउटपुट टोकन का शुल्क नहीं है। ये कंपनी के मौजूदा प्रीव्यू नियम हैं। क्षमता सीमित रहने तक प्रवेश पहले आवेदन करने वालों को मिलेगा और बाद के आवेदक प्रतीक्षा सूची में जा सकते हैं।

बड़ा बदलाव

  • क्या बदला:सार्वजनिक प्रीव्यू में Snap ऐप द्वारा तय किए गए उत्तरों का क्षेत्र देता है, जिसमें 393,216 टोकन (384K) तक पाठ और छवि संदर्भ शामिल हो सकता है। डेवलपर उससे नामित विकल्पों में चुनाव या किसी परिणाम का स्कोर माँग सकता है, बिना जनरेट किए गए गद्य की माँग किए।
  • यह क्यों मायने रखता है:एजेंट बनाने वाले लोग टूल चुनने और परिणाम जाँचने जैसे सीमित कॉल बार-बार करते हैं। टाइप किया हुआ उत्तर सीधे अगले सॉफ्टवेयर चरण में जा सकता है, जबकि खुले उत्तर की जरूरत वाले काम के लिए generative model उपलब्ध रहता है। यह विभाजन किसी वास्तविक एजेंट को बेहतर बनाता है या नहीं, यह निर्णय की सटीकता और आसपास के workflow पर निर्भर करता है।
  • क्या देखना है:SubQ के लॉन्च बेंचमार्क कई निर्णय परीक्षणों में Snap के पक्ष में हैं, लेकिन मूल्यांकन कंपनी ने स्वयं किया। स्वतंत्र कार्य-स्तरीय परीक्षण और व्यापक प्रीव्यू पहुँच बताएगी कि तैनात एजेंट workflow में गति, लागत और त्रुटि दर कैसी रहती है।

Snap कॉल क्या लौटाता है

यह Decisions API का दस्तावेज़ इसे subq-snap-preview के मॉडल के रूप में नाम देता है। एक अनुरोध में POST /v1/systemone. अनुरोध में एक stateहोता है, जो पाठ या संरचित डेटा हो सकता है, और एक या अधिक नामित प्रश्न होते हैं। एक noul हाँ या नहीं का निर्णय है जिसे हाँ की संभावना के रूप में व्यक्त किया जाता है। एक choice दो से 255 नामित विकल्पों में से चुनता है और प्रत्येक के लिए संभावना लौटाता है। एक score दो से दस क्रमबद्ध स्तरों का उपयोग करता है और संभावना-वितरण के साथ भारित स्कोर लौटाता है।

ये उत्तर-रूप उत्पाद के नाम से अधिक मायने रखते हैं। डेवलपर अनुमत उत्तर तय करता है और चुनता है कि ऐप उनके साथ क्या करेगा। API की संभावनाएँ मॉडल के आउटपुट हैं, न कि इस बात के सत्यापित माप कि कोई विशेष वास्तविक निर्णय कितनी बार सही होगा। SubQ के अपने दस्तावेज़ में डेवलपर सीमाएँ लागू करते और अनिश्चित मामलों को व्यक्ति के पास लौटाते दिखाए गए हैं; हर कार्य के लिए कोई सार्वभौमिक सीमा तय नहीं है।

Snap state के साथ अधिकतम चार PNG, JPEG या WebP छवियाँ स्वीकार करता है। डिकोड होने के बाद हर छवि अधिकतम 4 MiB और उनका संयुक्त डिकोड आकार अधिकतम 8 MiB हो सकता है। API दस्तावेज़ कहता है कि छवि और पाठ टोकन एक ही 393,216-token संदर्भ सीमा में गिने जाते हैं। वीडियो समर्थित नहीं है; सुझाया गया तरीका अधिकतम चार फ़्रेम को छवियों के रूप में नमूना लेना है। ये प्रीव्यू API की ठोस इनपुट सीमाएँ हैं, यह गारंटी नहीं कि मॉडल हर लंबे दस्तावेज़ या छवि को भरोसेमंद ढंग से समझेगा।

बेंचमार्क का अंतर जिस पर ध्यान देना चाहिए

अपने लॉन्च मूल्यांकनमें SubQ ने Decision Index 0.2.1 के पूरे सार्वजनिक सेट में Snap के लिए 61.7 और Jev के लिए 57.9 स्कोर बताया। 16 चुने हुए enterprise-केंद्रित बेंचमार्क के समूह में औसत 67.6 बनाम 61.6 भी बताया। Snap उनमें 13 में आगे और तीन में पीछे है, जिनमें यह परीक्षण भी शामिल है कि एजेंट को कब call, ask, answer या decline करना चाहिए। ये आंकड़े SubQ के मूल्यांकन से हैं; BIG CHANGE ने इन्हें दोहराया नहीं और किसी मॉडल को एजेंट में नहीं परखा।

कंपनी ने एक मिलियन टोकन पर अपने अनुकूलित Decision RULER परीक्षण में Snap के लिए 96.3 परिणाम भी बताया। यह अलग बेंचमार्क मूल्यांकन है। वर्तमान API अनुरोध सीमा 393,216 टोकन है; दस्तावेज़ कहता है कि सीमा से बड़ा अनुरोध विफल होगा। पाठकों को एक मिलियन टोकन वाले बेंचमार्क को प्रीव्यू API का इनपुट विनिर्देश नहीं मानना चाहिए।

SubQ का कहना है कि Snap 100,000-token अनुरोध संसाधित कर लगभग एक सेकंड में निर्णय लौटा सकता है। सार्वजनिक दावे में अलग-अलग खाते, समवर्ती ट्रैफ़िक या प्रश्न प्रकारों पर BIG CHANGE द्वारा देखे गए latency वितरण का विवरण नहीं है। किसी महत्वपूर्ण workflow में चरण बदलने से पहले पाठक को अपने निर्णय-समूह, त्रुटि लागत और प्रतिक्रिया-समय की जरूरतों पर प्रीव्यू जाँचना चाहिए।

पहुँच, मूल्य और डेटा प्रबंधन

मॉडल सूची मॉडल सूची Snap को पाठ और छवि इनपुट वाले सार्वजनिक प्रीव्यू के रूप में दिखाती है; इसमें प्रति दस लाख इनपुट टोकन 0.05 डॉलर और मुफ़्त आउटपुट दर्ज है। लॉन्च पेज कहता है कि क्षमता के कारण नए उपयोगकर्ता प्रतीक्षा सूची में जा सकते हैं। कोई स्रोत यह साबित नहीं करता कि हर संगठन को तुरंत पहुँच या कोई विशेष rate limit मिलेगा।

संवेदनशील कार्य का मूल्यांकन करने वाली टीमों को दस्तावेज़ या छवियाँ भेजने से पहले डेटा प्रतिधारण नीति भी जाँचनी चाहिए। दस्तावेज़ में बताया गया संगठन का डिफ़ॉल्ट प्रॉम्प्ट, completion और बातचीत का इतिहास मिटाए जाने तक रखता है। SubQ तय दिनों वाली नीति और अनुरोध पर संगठन-व्यापी zero data retention देता है। कंपनी कहती है कि zero retention में भी billing और support रिकॉर्ड में मॉडल, टोकन संख्या, समय और metadata tag रहते हैं, लेकिन प्रॉम्प्ट या completion की सामग्री नहीं। उस संगठन सेटिंग में Decisions endpoint उपलब्ध रहता है। BIG CHANGE ने सेवा के भंडारण व्यवहार का स्वतंत्र सत्यापन नहीं किया।

SubQ का योगदान बड़े संदर्भ पर बार-बार सीमित निर्णयों के लिए एक विशिष्ट API रूप है, जिसकी प्रकाशित टोकन दर कम है। खुला प्रश्न यह है कि संगठन जिन कामों को वास्तव में इसके माध्यम से भेजेगा, उनमें ऐसे निर्णय कितनी बार सही साबित होंगे। उत्तर के लिए लॉन्च स्कोर से आगे स्वतंत्र परीक्षण चाहिए।

स्रोत और आगे पढ़ें

  • SubQ की 12 अक्टूबर की लॉन्च पोस्टएजेंटों में इच्छित भूमिका, मूल्य, प्रीव्यू उपलब्धता और कंपनी के मूल्यांकन समझाती है। गति और बेंचमार्क के आँकड़े विक्रेता के दावे हैं; एक मिलियन टोकन वाला Decision RULER परिणाम प्रीव्यू API सीमा से अलग है।
  • SubQ Decisions API संदर्भendpoint, टाइप किए गए प्रश्न और जवाब, टोकन व छवि सीमाएँ तथा त्रुटि व्यवहार दर्ज करता है। यह मौजूदा उत्पाद दस्तावेज़ है, तैनात workflow में विश्वसनीयता का प्रमाण नहीं।
  • SubQ मॉडलप्रीव्यू मॉडल ID, modality और प्रकाशित अमेरिकी डॉलर टोकन दरें देता है। प्रीव्यू के दौरान शर्तें और उपलब्धता बदल सकती हैं।
  • SubQ डेटा प्रतिधारण दस्तावेज़डिफ़ॉल्ट और वैकल्पिक संगठन नीतियों का वर्णन करता है। नीति सेवा के इच्छित व्यवहार का वर्णन करती है; BIG CHANGE ने भंडारण या मिटाने का audit नहीं किया।