Nagdadala ang SubQ Snap ng 384K context para sa nakabalangkas na AI decisions

Inilabas ng Subquadratic ang SubQ Snap noong Oktubre 12 bilang modelo para sa mga takdang desisyon sa loob ng mga AI agent. Sa halip na sumulat ng bukas na sagot, sinusuri nito ang ibinigay na teksto at opsiyonal na mga larawan batay sa mga tanong na itinakda ng application. Nagbabalik ang pampublikong preview API nito ng mga pagpipilian, score at probability na direktang magagamit ng software.

Para sa mga developer, ang praktikal na pagbabago ay isang decision call na kayang tumanggap ng mahabang input nang hindi kailangang gumawa ng prosa ang agent sa bawat hakbang ng routing o checking. Ipinapahayag ng SubQ ang context window na 393,216 token (384K) at presyong 0.05 dolyar bawat milyong input token, na walang singil para sa output token. Ito ang kasalukuyang mga tuntunin ng preview ng kumpanya. First come, first served ang access habang limitado ang kapasidad, at maaaring mapunta sa waitlist ang mga susunod mag-sign up.

Ang malaking pagbabago

• Ano ang nagbago:Nag-aalok ang Snap ng application-defined na hanay ng mga sagot na may hanggang 393,216 token (384K) na context ng teksto at larawan sa pampublikong preview. Maaaring hilingin ng developer na pumili ito mula sa mga pinangalanang opsiyon o bigyan ng score ang resulta nang hindi humihingi ng binuong prosa.
• Bakit ito mahalaga:Paulit-ulit na gumagawa ang mga gumagawa ng agent ng mga limitadong call gaya ng pagpili ng tool at pagsusuri ng resulta. Maaaring dumiretso ang typed na tugon sa susunod na hakbang ng software, habang magagamit pa rin ang generative model para sa gawaing nangangailangan ng bukas na sagot. Nakasalalay sa katumpakan ng desisyon at sa nakapaligid na workflow kung mapapahusay nito ang isang tunay na agent.
• Ano ang dapat bantayan:Pumapabor kay Snap ang mga benchmark ng SubQ sa ilang pagsusuri ng desisyon, ngunit kumpanya ang nagsagawa ng mga ito. Ipapakita ng mga independiyenteng pagsusuri sa antas ng gawain at mas malawak na access sa preview kung paano gumagana ang bilis, gastos at error rate nito sa mga inilunsad na agent workflow.

Ano ang ibinabalik ng isang Snap call

Ang dokumentasyon ng Decisions API ay tumatawag sa subq-snap-preview bilang modelo para sa POST /v1/systemone. Nagbibigay ang isang request ng statena maaaring teksto o nakabalangkas na data, at isa o higit pang pinangalanang tanong. Ang isang noul ay pasya na oo o hindi na ipinapahayag bilang posibilidad na oo ang sagot. Ang isang choice ay pumipili sa dalawa hanggang 255 pinangalanang opsiyon at nagbabalik ng posibilidad para sa bawat isa. Ang isang score ay gumagamit ng dalawa hanggang sampung nakaayos na antas at nagbabalik ng weighted score kasama ang distribusyon ng posibilidad nito.

Mas mahalaga ang mga anyong iyon kaysa sa pangalan ng produkto. Itinatakda ng developer ang mga pinapayagang sagot at pinagpapasyahan kung ano ang gagawin ng application sa mga ito. Mga output ng modelo ang mga probability ng API, hindi beripikadong sukat kung gaano kadalas magiging tama ang isang partikular na pasya sa tunay na mundo. Ipinapakita sa sariling dokumentasyon ng SubQ na naglalapat ang mga developer ng mga threshold at ipinapasa sa tao ang mga hindi tiyak na kaso; hindi ito nagtatakda ng iisang threshold para sa bawat gawain.

Tumatanggap ang Snap ng hanggang apat na PNG, JPEG o WebP na larawan kasama ng state. Bawat larawan ay maaaring hanggang 4 MiB matapos i-decode, at ang pinagsamang decoded size ay maaaring hanggang 8 MiB. Sinasabi ng dokumentasyon ng API na kasama sa iisang 393,216-token context limit ang mga image token at text token. Hindi suportado ang video; iminumungkahing kumuha ng hindi hihigit sa apat na frame bilang mga larawan. Mga tiyak na limitasyon ito ng input para sa preview API, hindi pangakong mapagkakatiwalaang mauunawaan ng modelo ang bawat mahabang dokumento o larawan.

Ang agwat sa benchmark na dapat tandaan

Sa launch evaluationnito, nag-uulat ang SubQ ng score na 61.7 para sa Snap laban sa 57.9 para sa Jev sa buong pampublikong suite ng Decision Index 0.2.1. Nag-uulat din ito ng average na 67.6 laban sa 61.6 sa piling grupo ng 16 benchmark na nakatuon sa negosyo. Nangunguna ang Snap sa 13 sa 16 at nahuhuli sa tatlo, kabilang ang pagsusuri kung kailan dapat tumawag, magtanong, sumagot o tumanggi ang isang agent. Mula ito sa pagsusuri ng SubQ; hindi ito inulit ng BIG CHANGE at hindi nito sinubukan ang alinmang modelo sa isang agent.

Iniulat din ng kumpanya ang resultang 96.3 para sa Snap sa inangkop nitong Decision RULER test sa isang milyong token. Iba itong benchmark evaluation. Ang kasalukuyang limitasyon ng API request ay 393,216 token, at sinasabi ng dokumentasyon na mabibigo ang request na lalampas dito. Hindi dapat gamitin ng mga mambabasa ang one-million-token benchmark bilang input specification ng preview API.

Sinasabi ng SubQ na kayang iproseso ng Snap ang request na 100,000 token at magbalik ng desisyon sa halos isang segundo. Walang ibinibigay ang pampublikong pahayag tungkol sa latency distribution na naobserbahan ng BIG CHANGE sa iba’t ibang account, sabayang traffic o uri ng tanong. Bago palitan ang hakbang sa isang mahalagang workflow, dapat subukan ng mambabasa ang preview sa sarili nitong set ng desisyon, halaga ng error at mga kailangan sa response time.

Access, presyo at paghawak ng data

Ang model listing ay nagtatala sa Snap bilang pampublikong preview na may text at image input; nakalista rito ang 0.05 dolyar kada milyong input token at libreng output. Sinasabi ng launch page na maaaring mapasama sa waitlist ang mga bagong user dahil sa kapasidad. Walang alinmang source ang nagpapatunay na may agarang access o partikular na rate limit ang bawat organisasyon.

Dapat ding tingnan ng mga team na sumusuri sa sensitibong gawain ang patakaran sa data retention bago magpadala ng mga dokumento o larawan. Pinananatili ng dokumentadong default ng organisasyon ang mga prompt, completion at history ng usapan hanggang burahin. Nag-aalok ang SubQ ng patakarang may takdang araw at zero data retention sa buong organisasyon kapag hiniling. Sinasabi nitong kahit zero retention, nananatili ang mga billing at support record na may modelo, bilang ng token, oras at metadata tag, ngunit walang laman ng prompt o completion. Nananatiling available ang Decisions endpoint sa setting na iyon. Hindi independiyenteng napatunayan ng BIG CHANGE ang pag-iimbak ng serbisyo.

Partikular na API format ang ambag ng SubQ para sa paulit-ulit na limitadong desisyon sa malaking context, sa mababang nailathalang halaga kada token. Hindi pa nasasagot kung gaano kadalas magiging maaasahan ang mga pasyang iyon sa trabahong aktuwal na ipapasa rito ng isang organisasyon. Kailangan dito ang independiyenteng pagsusuring lampas sa mga score sa paglulunsad.

Mga Source at karagdagang babasahin

• Post ng SubQ tungkol sa paglulunsad noong Oktubre 12Ipinapaliwanag nito ang nilalayong gamit sa mga agent, presyo, access sa preview at mga pagsusuring pinatakbo ng kumpanya. Mga pahayag ng vendor ang mga bilang sa bilis at benchmark; hiwalay ang resulta ng Decision RULER sa isang milyong token sa limitasyon ng preview API.
• Sanggunian ng SubQ Decisions APIItinatala nito ang endpoint, mga typed na tanong at tugon, limitasyon ng token at larawan, at gawi kapag may error. Kasalukuyang dokumentasyon ito ng produkto, hindi patunay ng pagiging maaasahan sa aktuwal na workflow.
• Mga Modelo ng SubQIbinibigay nito ang preview model ID, mga modality at nailathalang presyo sa dolyar ng US. Maaaring magbago ang mga tuntunin at availability habang preview.
• Dokumentasyon ng SubQ tungkol sa data retentionInilalarawan nito ang default at opsiyonal na mga patakaran ng organisasyon. Inilalarawan ng patakaran ang nilalayong gawi ng serbisyo; hindi in-audit ng BIG CHANGE ang pag-iimbak o pagbura ng data.