Subquadratic ने 12 ऑक्टोबर रोजी SubQ Snap हे AI एजंटमधील मर्यादित निर्णयांसाठीचे मॉडेल म्हणून प्रसिद्ध केले. मुक्त स्वरूपाचे उत्तर लिहिण्याऐवजी, ते अनुप्रयोगाने ठरवलेल्या प्रश्नांनुसार दिलेला मजकूर आणि ऐच्छिक प्रतिमांचे मूल्यांकन करते. त्याचे सार्वजनिक पूर्वावलोकन API सॉफ्टवेअरला थेट वापरता येतील असे पर्याय, गुण आणि संभाव्यता परत करते.

विकसकांसाठी व्यावहारिक बदल म्हणजे लांब इनपुट घेऊ शकणारा निर्णय-कॉल; प्रत्येक रूटिंग किंवा तपासणीच्या टप्प्यावर एजंटने मजकूर तयार करण्याची गरज नाही. SubQ 393,216 टोकन (384K) संदर्भ-विंडो आणि प्रत्येक दहा लाख इनपुट टोकनसाठी 0.05 डॉलर किंमत सांगते; आउटपुट टोकनसाठी शुल्क नाही. या कंपनीच्या सध्याच्या पूर्वावलोकनाच्या अटी आहेत. क्षमता मर्यादित असेपर्यंत प्रवेश प्रथम येणाऱ्यास प्रथम मिळेल; नंतर नोंदणी करणाऱ्यांना प्रतीक्षा-सूचीत ठेवले जाऊ शकते.

मोठा बदल

  • काय बदलले:Snap सार्वजनिक पूर्वावलोकनात अनुप्रयोगाने ठरवलेली उत्तर-व्यवस्था देते, ज्यात मजकूर आणि प्रतिमांचा संदर्भ 393,216 टोकनपर्यंत (384K) असू शकतो. तयार मजकूर मागण्याऐवजी, विकसक त्याला नाव दिलेल्या पर्यायांमधून निवडण्यास किंवा निकालाला गुण देण्यास सांगू शकतो.
  • हे महत्त्वाचे का:एजंट तयार करणारे लोक साधन निवडणे किंवा निकाल तपासणे यांसारखे मर्यादित कॉल वारंवार करतात. टाइप केलेले उत्तर थेट पुढील सॉफ्टवेअर टप्प्यात जाऊ शकते; मुक्त स्वरूपाचे उत्तर आवश्यक असलेल्या कामांसाठी जनरेटिव्ह मॉडेल उपलब्ध राहते. या विभागणीमुळे प्रत्यक्ष एजंट सुधारतो की नाही हे निर्णयांची अचूकता आणि आजूबाजूच्या कार्यप्रवाहावर अवलंबून आहे.
  • कशावर लक्ष ठेवावे:SubQ च्या लाँच बेंचमार्कमध्ये अनेक निर्णय-चाचण्यांवर Snap ला आघाडी आहे, पण मूल्यमापन कंपनीनेच केले. स्वतंत्र कामनिहाय चाचण्या आणि पूर्वावलोकनाचा व्यापक प्रवेश यामुळे प्रत्यक्ष एजंट कार्यप्रवाहात त्याचा वेग, खर्च आणि त्रुटीदर कसा असतो हे दिसेल.

Snap कॉल काय परत करतो

त्या Decisions API दस्तऐवज मध्ये subq-snap-preview हे API साठी मॉडेल म्हणून POST /v1/systemone नमूद आहे. विनंतीमध्ये state असू शकते, तसेच एक किंवा अधिक नामांकित प्रश्न असू शकतात. एक noul हा हो/नाही निर्णय असून होकाराच्या संभाव्यतेने व्यक्त होतो. एक choice दोन ते 255 नामांकित पर्यायांपैकी निवडतो आणि प्रत्येकाची संभाव्यता परत करतो. एक score दोन ते दहा क्रमबद्ध पातळ्या वापरतो आणि भारित गुणांसह संभाव्यता-वितरण परत करतो.

उत्पादनाच्या नावापेक्षा हे प्रतिसाद-आकार अधिक महत्त्वाचे आहेत. विकासक अनुमत उत्तरे ठरवतो आणि अनुप्रयोग त्यांचा काय उपयोग करेल हे ठरवतो. API मधील संभाव्यता हे मॉडेलचे आउटपुट आहे; विशिष्ट वास्तविक निर्णय किती वेळा अचूक ठरेल याचे पडताळलेले मोजमाप नाही. SubQ च्या स्वतःच्या दस्तऐवजात विकासक मर्यादा लागू करून अनिश्चित प्रकरणे व्यक्तीकडे पाठवतात असे दाखवले आहे; प्रत्येक कामासाठी सार्वत्रिक मर्यादा त्यात स्थापित केलेली नाही.

Snap state सोबत जास्तीत जास्त चार PNG, JPEG किंवा WebP प्रतिमा स्वीकारतो. प्रत्येक प्रतिमा डीकोड केल्यानंतर कमाल 4 MiB असू शकते आणि त्यांचा एकत्रित डीकोड आकार 8 MiB पेक्षा जास्त नसावा. API दस्तऐवजानुसार प्रतिमांचे आणि मजकुराचे टोकन समान 393,216-token संदर्भ-मर्यादेत मोजले जातात. व्हिडिओ समर्थित नाही; सुचवलेला मार्ग म्हणजे जास्तीत जास्त चार फ्रेम प्रतिमा म्हणून नमुना घेणे. या पूर्वावलोकन API च्या ठोस इनपुट मर्यादा आहेत; प्रत्येक मोठा दस्तऐवज किंवा प्रतिमा मॉडेल विश्वसनीयपणे समजेल याची हमी नाही.

लक्षात ठेवण्यासारखी बेंचमार्कमधील तफावत

त्याच्या प्रक्षेपण मूल्यांकनातSubQ ने Decision Index 0.2.1 च्या संपूर्ण सार्वजनिक संचात Snap साठी 61.7 आणि Jev साठी 57.9 गुण नोंदवले. उद्योग-केंद्रित निवडक 16 बेंचमार्कच्या गटात सरासरी 67.6 विरुद्ध 61.6 असल्याचेही नोंदवले. त्या 16 पैकी 13 मध्ये Snap आघाडीवर आणि तीनमध्ये मागे आहे; त्यात एजंटने कधी कॉल करावा, विचारावे, उत्तर द्यावे किंवा नकार द्यावा याची चाचणी समाविष्ट आहे. हे आकडे SubQ च्या मूल्यांकनातून आले आहेत; BIG CHANGE ने ते पुन्हा तपासलेले नाहीत किंवा कोणत्याही मॉडेलची एजंटमध्ये चाचणी केलेली नाही.

कंपनीने दहा लाख टोकनच्या रूपांतरित Decision RULER चाचणीत Snap ला 96.3 गुण मिळाल्याचेही नोंदवले. तो निकाल स्वतंत्र बेंचमार्क मूल्यांकनाचा आहे. API विनंतीची सध्याची मर्यादा 393,216 टोकन आहे आणि मर्यादा ओलांडणारी विनंती अयशस्वी होते असे दस्तऐवज सांगते. वाचकांनी दहा लाख टोकनची चाचणी पूर्वावलोकन API च्या इनपुट-विशिष्टतेसाठी वापरू नये.

100,000-टोकन विनंतीवर प्रक्रिया करून सुमारे एका सेकंदात निर्णय परत करता येतो, असे SubQ सांगते. वेगवेगळी खाती, एकाच वेळी होणारा ट्रॅफिक किंवा प्रश्नांच्या प्रकारांनुसार विलंबाचे वितरण BIG CHANGE ने पाहिल्याचा तपशील या सार्वजनिक दाव्यात नाही. महत्त्वाच्या कार्यप्रवाहातील पायरी बदलण्याआधी वाचकाने स्वतःच्या निर्णय-संच, त्रुटींच्या खर्च आणि प्रतिसाद-वेळेच्या गरजांवर पूर्वावलोकन तपासावे.

प्रवेश, किंमत आणि डेटा हाताळणी

ही मॉडेल सूची Snap ला मजकूर व प्रतिमा इनपुट असलेले सार्वजनिक पूर्वावलोकन म्हणते; त्यात प्रति दहा लाख इनपुट टोकन 0.05 डॉलर आणि मोफत आउटपुट दिले आहे. क्षमता मर्यादित असल्याने नवीन वापरकर्त्यांना प्रतीक्षा-सूचीत ठेवले जाऊ शकते असे लॉन्च पृष्ठ सांगते. प्रत्येक संस्थेला त्वरित प्रवेश किंवा विशिष्ट दरमर्यादा आहे असे कोणताही स्रोत सिद्ध करत नाही.

संवेदनशील कामाचे मूल्यांकन करणाऱ्या पथकांनी डेटा-धारण धोरण कागदपत्रे किंवा प्रतिमा पाठवण्यापूर्वी तपासावे. दस्तऐवजीकृत संस्थात्मक डीफॉल्टमध्ये हटवले जाईपर्यंत प्रॉम्प्ट, पूर्ण उत्तरे आणि संभाषण इतिहास साठवला जातो. SubQ ठरावीक दिवसांची धोरण-कालमर्यादा आणि विनंतीनुसार संपूर्ण संस्थेसाठी शून्य डेटा-धारण देतो. कंपनी म्हणते की शून्य धारण असतानाही बिलिंग व समर्थन नोंदींमध्ये मॉडेल, टोकन संख्या, वेळ आणि मेटाडेटा टॅग राहतात; प्रॉम्प्ट किंवा पूर्ण उत्तरांचा मजकूर नसतो. त्या संस्थात्मक सेटिंगमध्ये Decisions endpoint उपलब्ध राहतो. BIG CHANGE ने सेवेत डेटा कसा साठवला जातो हे स्वतंत्रपणे पडताळलेले नाही.

मोठ्या संदर्भावर वारंवार मर्यादित निर्णय घेण्यासाठी, जाहीर केलेल्या कमी टोकन दरात विशिष्ट API-रचना देणे हे SubQ चे योगदान आहे. एखादी संस्था प्रत्यक्षात जी कामे त्याकडे सोपवेल त्यावर हे निर्णय किती वेळा योग्य ठरतात हा प्रश्न अद्याप अनुत्तरित आहे. त्यासाठी लॉन्च गुणांपलीकडील स्वतंत्र चाचण्या आवश्यक आहेत.

स्रोत आणि पुढील वाचन

  • SubQ ची 12 ऑक्टोबरची लॉन्च पोस्टएजंटमधील अपेक्षित भूमिका, किंमत, पूर्वावलोकन प्रवेश आणि कंपनीने केलेली मूल्यांकने स्पष्ट करते. वेग आणि बेंचमार्कचे आकडे पुरवठादाराचे दावे आहेत; दहा लाख टोकनचा Decision RULER निकाल पूर्वावलोकन API मर्यादेपासून वेगळा आहे.
  • SubQ Decisions API संदर्भendpoint, टाइप केलेले प्रश्न आणि प्रतिसाद, टोकन व प्रतिमा मर्यादा आणि त्रुटींचे वर्तन दस्तऐवजीकृत करतो. हे सध्याचे उत्पादन दस्तऐवज आहे; प्रत्यक्ष कार्यप्रवाहातील विश्वासार्हतेचा पुरावा नाही.
  • SubQ मॉडेल सूचीपूर्वावलोकन मॉडेल ID, मोडॅलिटी आणि जाहीर केलेल्या अमेरिकी डॉलरच्या दरांची माहिती देते. पूर्वावलोकन काळात अटी आणि उपलब्धता बदलू शकतात.
  • SubQ डेटा-धारण दस्तऐवजडीफॉल्ट आणि ऐच्छिक संस्थात्मक धोरणांचे वर्णन करतो. धोरण अपेक्षित सेवा-वर्तन सांगते; BIG CHANGE ने साठवण किंवा हटवण्याचे लेखापरीक्षण केलेले नाही.