Subquadratic సంస్థ అక్టోబర్ 12న విడుదల చేసిన SubQ Snap పరిమిత నిర్ణయాల కోసం AI ఏజెంట్లలో ఉపయోగించే మోడల్. స్వేచ్ఛా రూపంలోని సమాధానం రాయడానికి బదులుగా, యాప్ నిర్వచించిన ప్రశ్నల ఆధారంగా ఇచ్చిన పాఠ్యాన్ని, ఐచ్ఛిక చిత్రాలను ఇది అంచనా వేస్తుంది. దాని పబ్లిక్ ప్రివ్యూ API సాఫ్ట్‌వేర్ నేరుగా ఉపయోగించగల ఎంపికలు, స్కోర్లు, సంభావ్యతలను తిరిగి ఇస్తుంది.

డెవలపర్లకు ఆచరణాత్మక మార్పు ఏమిటంటే, ప్రతి రూటింగ్ లేదా తనిఖీ దశలో ఏజెంట్ వాక్యాలు రూపొందించకుండానే దీర్ఘ ఇన్‌పుట్‌ను స్వీకరించే నిర్ణయ కాల్. 393,216 టోకెన్ల (384K) సందర్భ విండో, ప్రతి మిలియన్ ఇన్‌పుట్ టోకెన్లకు $0.05 ధరను SubQ ప్రకటించింది; అవుట్‌పుట్ టోకెన్లకు ఛార్జీ లేదు. ఇవి కంపెనీ ప్రస్తుత ప్రివ్యూ నిబంధనలు. సామర్థ్యం పరిమితంగా ఉన్నంతవరకు ముందుగా వచ్చిన వారికి ముందుగా ప్రవేశం; తర్వాత నమోదు చేసేవారిని నిరీక్షణ జాబితాలో ఉంచవచ్చు.

పెద్ద మార్పు

  • ఏమి మారింది:పబ్లిక్ ప్రివ్యూలో గరిష్ఠంగా 393,216 టోకెన్ల (384K) పాఠ్య, చిత్ర సందర్భంతో యాప్ నిర్వచించిన సమాధాన స్థలాన్ని Snap అందిస్తుంది. రూపొందించిన వాక్యాలు అడగకుండా, పేరున్న ఎంపికల్లో ఎంచుకోమని లేదా ఫలితానికి స్కోరు ఇవ్వమని డెవలపర్ కోరవచ్చు.
  • ఇది ఎందుకు ముఖ్యం:ఏజెంట్ నిర్మాణకర్తలు టూల్ ఎంపిక, ఫలితాల తనిఖీ వంటి పరిమిత కాల్‌లను పదేపదే చేస్తారు. టైప్ చేసిన సమాధానం తదుపరి సాఫ్ట్‌వేర్ దశకు నేరుగా వెళ్లగలదు; స్వేచ్ఛా సమాధానం అవసరమైన పనులకు జనరేటివ్ మోడల్ అందుబాటులో ఉంటుంది. ఈ విభజన నిజమైన ఏజెంట్‌ను మెరుగుపరుస్తుందా అనేది నిర్ణయ ఖచ్చితత్వం, చుట్టూ ఉన్న వర్క్‌ఫ్లోపై ఆధారపడి ఉంటుంది.
  • ఏమి గమనించాలి:SubQ ప్రారంభ బెంచ్‌మార్క్‌లు అనేక నిర్ణయ పరీక్షల్లో Snap‌కు అనుకూలంగా ఉన్నాయి; అయితే అవి కంపెనీ నిర్వహించిన మూల్యాంకనాలు. స్వతంత్ర పని-స్థాయి పరీక్షలు, విస్తృత ప్రివ్యూ ప్రాప్యత ఉంటే, అమలులో ఉన్న ఏజెంట్ వర్క్‌ఫ్లోల్లో దాని వేగం, ఖర్చు, లోపాల రేటు ఎలా ఉంటాయో తెలుస్తుంది.

Snap కాల్ ఏమి తిరిగి ఇస్తుంది

ఆ Decisions API డాక్యుమెంటేషన్ లో subq-snap-preview ను ఈ ఎండ్‌పాయింట్‌కు మోడల్‌గా POST /v1/systemone పేర్కొంటుంది. అభ్యర్థనలో state కావచ్చు; ఒకటి లేదా అంతకంటే ఎక్కువ పేరున్న ప్రశ్నలు కూడా ఉంటాయి. ఒక noul అనేది అవును అనే సంభావ్యతగా వ్యక్తమయ్యే అవును-లేదా నిర్ణయం. ఒక choice రెండు నుంచి 255 పేరున్న ఎంపికల్లో ఒకదాన్ని ఎంచుకుని, ప్రతి ఎంపికకు సంభావ్యతలను ఇస్తుంది. ఒక score రెండు నుంచి పది క్రమబద్ధ స్థాయులను ఉపయోగించి, బరువుతో కూడిన స్కోరు మరియు దాని సంభావ్యత పంపిణీని ఇస్తుంది.

ఈ ప్రతిస్పందన రూపాలు ఉత్పత్తి పేరుకంటే ముఖ్యమైనవి. అనుమతించిన సమాధానాలను డెవలపర్ నిర్వచిస్తాడు; వాటితో యాప్ ఏమి చేయాలో కూడా నిర్ణయిస్తాడు. API సంభావ్యతలు మోడల్ అవుట్‌పుట్లు మాత్రమే; నిర్దిష్ట వాస్తవ ప్రపంచ నిర్ణయం ఎంత తరచుగా సరైందో ధృవీకరించిన కొలతలు కావు. SubQ స్వంత డాక్యుమెంటేషన్‌లో డెవలపర్లు పరిమితులు పెట్టి, అనిశ్చిత కేసులను మనిషికి తిరిగి పంపడం చూపిస్తుంది; ప్రతి పనికీ వర్తించే సార్వత్రిక పరిమితిని అది నిర్ధారించదు.

Snap stateతో పాటు గరిష్ఠంగా నాలుగు PNG, JPEG లేదా WebP చిత్రాలను స్వీకరిస్తుంది. ప్రతి చిత్రం డీకోడ్ చేసిన తర్వాత గరిష్ఠంగా 4 MiB ఉండవచ్చు; మొత్తం డీకోడ్ పరిమాణం 8 MiB మించకూడదు. చిత్రం టోకెన్లు, పాఠ్య టోకెన్లు ఒకే 393,216-టోకెన్ సందర్భ పరిమితిలో లెక్కవుతాయని API డాక్యుమెంటేషన్ చెబుతోంది. వీడియోకు మద్దతు లేదు; సూచించిన మార్గం గరిష్ఠంగా నాలుగు ఫ్రేములను చిత్రాలుగా నమూనా చేయడం. ఇవి ప్రివ్యూ APIకి నిర్దిష్ట ఇన్‌పుట్ పరిమితులు మాత్రమే; ప్రతి దీర్ఘ పత్రం లేదా చిత్రాన్ని మోడల్ విశ్వసనీయంగా అర్థం చేసుకుంటుందని హామీ కాదు.

గమనించాల్సిన బెంచ్‌మార్క్ వ్యత్యాసం

దాని లాంచ్ మూల్యాంకనంలోDecision Index 0.2.1 పూర్తి పబ్లిక్ సూట్‌లో Snap‌కు 61.7, Jev‌కు 57.9 స్కోర్లు వచ్చాయని SubQ నివేదించింది. సంస్థాపరమైన వినియోగాన్ని లక్ష్యంగా చేసుకున్న ఎంపిక చేసిన 16 బెంచ్‌మార్క్‌లలో సగటు 67.6 వర్సెస్ 61.6 అని కూడా తెలిపింది. వాటిలో 13లో Snap ముందుండగా, మూడింటిలో వెనుకబడింది; ఏజెంట్ ఎప్పుడు కాల్ చేయాలి, అడగాలి, సమాధానం ఇవ్వాలి లేదా తిరస్కరించాలి అన్న పరీక్ష కూడా వీటిలో ఉంది. ఈ సంఖ్యలు SubQ మూల్యాంకనానికి చెందినవి; BIG CHANGE వాటిని పునరావృతం చేయలేదు, ఏ మోడల్‌నూ ఏజెంట్‌లో పరీక్షించలేదు.

ఒక మిలియన్ టోకెన్ల వద్ద తన అనుకూలీకరించిన Decision RULER పరీక్షలో Snap 96.3 ఫలితం సాధించిందని కంపెనీ చెబుతోంది. ఆ ఫలితం వేరే బెంచ్‌మార్క్ మూల్యాంకనానికి చెందుతుంది. ప్రస్తుత API అభ్యర్థన పరిమితి 393,216 టోకెన్లు; దాన్ని మించిన అభ్యర్థన విఫలమవుతుందని డాక్యుమెంటేషన్ చెబుతోంది. ఒక మిలియన్ టోకెన్ల బెంచ్‌మార్క్‌ను ప్రివ్యూ API ఇన్‌పుట్ స్పెసిఫికేషన్‌గా పాఠకులు చూడకూడదు.

100,000-టోకెన్ల అభ్యర్థనను Snap ప్రాసెస్ చేసి సుమారు ఒక సెకనులో నిర్ణయం ఇవ్వగలదని SubQ అంటోంది. వివిధ ఖాతాలు, సమాంతర ట్రాఫిక్ లేదా వేర్వేరు ప్రశ్న రకాలపై BIG CHANGE గమనించిన లేటెన్సీ పంపిణీని ఈ పబ్లిక్ వాదన ఇవ్వదు. ముఖ్యమైన వర్క్‌ఫ్లోలో ఒక దశను భర్తీ చేసే ముందు పాఠకుడు తన నిర్ణయాల సమూహం, పొరపాటు ఖర్చులు, ప్రతిస్పందన సమయ అవసరాలపై ప్రివ్యూను అంచనా వేయాలి.

ప్రాప్యత, ధర, డేటా నిర్వహణ

ఆ మోడల్ జాబితా Snap‌ను పాఠ్య, చిత్రం ఇన్‌పుట్ గల పబ్లిక్ ప్రివ్యూగా చూపుతుంది; ప్రతి మిలియన్ ఇన్‌పుట్ టోకెన్లకు 0.05 డాలర్లు, అవుట్‌పుట్ ఉచితం అని పేర్కొంటుంది. సామర్థ్య పరిమితి వల్ల కొత్త వినియోగదారులు వెయిట్‌లిస్ట్‌లో పడవచ్చని లాంచ్ పేజీ చెబుతోంది. ప్రతి సంస్థకు వెంటనే ప్రాప్యత లేదా ఒక నిర్దిష్ట రేట్ పరిమితి ఉందని ఏ మూలమూ నిరూపించదు.

సున్నితమైన పనిని అంచనా వేసే బృందాలు డేటా నిల్వ విధానాన్ని పత్రాలు లేదా చిత్రాలు పంపే ముందు కూడా పరిశీలించాలి. డాక్యుమెంట్ చేసిన సంస్థ డిఫాల్ట్‌లో తొలగించే వరకు ప్రాంప్ట్‌లు, సమాధానాలు, సంభాషణ చరిత్ర నిల్వ ఉంటాయి. SubQ నిర్దిష్ట రోజుల విధానాన్ని, అభ్యర్థనపై సంస్థవ్యాప్తంగా సున్నా డేటా నిల్వను అందిస్తుంది. సున్నా నిల్వ ఉన్నా ప్రాంప్ట్ లేదా సమాధాన కంటెంట్ లేకుండా మోడల్, టోకెన్ లెక్కలు, సమయం, మెటాడేటా ట్యాగ్‌లతో బిల్లింగ్, సపోర్ట్ రికార్డులు నిల్వ ఉంటాయని అది చెబుతోంది. ఆ సంస్థ సెట్టింగ్‌లోనూ Decisions ఎండ్‌పాయింట్ అందుబాటులో ఉంటుంది. సేవ నిల్వ విధానాన్ని BIG CHANGE స్వతంత్రంగా ధృవీకరించలేదు.

పెద్ద సందర్భంలో పదేపదే పరిమిత నిర్ణయాలు చేయడానికి, ప్రకటించిన తక్కువ టోకెన్ ధరతో నిర్దిష్ట API రూపాన్ని అందించడం SubQ యొక్క కృషి. సంస్థ వాస్తవంగా దానికి అప్పగించే పనుల్లో ఆ నిర్ణయాలు ఎంత తరచుగా నిలబడతాయనేది ఇంకా సమాధానం లేని ప్రశ్న. లాంచ్ స్కోర్లకు మించిన స్వతంత్ర పరీక్షలు అవసరం.

మూలాలు, మరింత చదవండి

  • SubQ అక్టోబర్ 12 లాంచ్ పోస్ట్ఏజెంట్లలో ఉద్దేశించిన పాత్ర, ధర, ప్రివ్యూ ప్రాప్యత, కంపెనీ నిర్వహించిన మూల్యాంకనాలను వివరిస్తుంది. వేగం, బెంచ్‌మార్క్ సంఖ్యలు సరఫరాదారు వాదనలు; ఒక మిలియన్ టోకెన్ల Decision RULER ఫలితం ప్రివ్యూ API పరిమితికి వేరు.
  • SubQ Decisions API సూచికఎండ్‌పాయింట్, టైప్ చేసిన ప్రశ్నలు, ప్రతిస్పందనలు, టోకెన్ మరియు చిత్రం పరిమితులు, లోపాల ప్రవర్తనను డాక్యుమెంట్ చేస్తుంది. ఇది ప్రస్తుత ఉత్పత్తి డాక్యుమెంటేషన్ మాత్రమే; అమలులో ఉన్న వర్క్‌ఫ్లోలో విశ్వసనీయతకు సాక్ష్యం కాదు.
  • SubQ మోడల్ జాబితాప్రివ్యూ మోడల్ ID, మోడాలిటీలు, ప్రకటించిన US-డాలర్ ధరలను ఇస్తుంది. ప్రివ్యూ సమయంలో నిబంధనలు, లభ్యత మారవచ్చు.
  • SubQ డేటా నిల్వ డాక్యుమెంటేషన్డిఫాల్ట్, ఐచ్ఛిక సంస్థ విధానాలను వివరిస్తుంది. విధానం ఉద్దేశించిన సేవా ప్రవర్తనను చెబుతుంది; నిల్వ లేదా తొలగింపును BIG CHANGE ఆడిట్ చేయలేదు.