SubQ Snap menghadirkan konteks 384K untuk keputusan AI terstruktur

Subquadratic meluncurkan SubQ Snap pada 12 Oktober sebagai model untuk keputusan terbatas di dalam agen AI. Alih-alih menulis jawaban terbuka, model ini menilai teks yang diberikan dan gambar opsional berdasarkan pertanyaan yang ditentukan aplikasi. API pratinjau publiknya mengembalikan pilihan, skor, dan probabilitas yang dapat langsung digunakan perangkat lunak.

Bagi pengembang, perubahan praktisnya adalah panggilan keputusan yang dapat menerima masukan panjang tanpa membuat agen menghasilkan prosa untuk setiap langkah perutean atau pemeriksaan. SubQ mengiklankan jendela konteks 393.216 token (384K) dan harga $0,05 per satu juta token masukan, tanpa biaya token keluaran. Itu adalah ketentuan pratinjau perusahaan saat ini. Akses diberikan berdasarkan urutan pendaftaran selama kapasitas terbatas, dan pendaftar berikutnya mungkin masuk daftar tunggu.

Perubahan besar

• Apa yang berubah:Snap menawarkan ruang jawaban yang ditentukan aplikasi, dengan konteks teks dan gambar hingga 393.216 token (384K) dalam pratinjau publiknya. Pengembang dapat memintanya memilih di antara opsi bernama atau memberi skor pada hasil tanpa meminta prosa yang dihasilkan.
• Mengapa ini penting:Pengembang agen berulang kali membuat panggilan terbatas seperti pemilihan alat dan pemeriksaan hasil. Respons bertipe dapat langsung diteruskan ke langkah perangkat lunak berikutnya, sementara model generatif tetap tersedia untuk pekerjaan yang memerlukan jawaban terbuka. Apakah pembagian itu memperbaiki agen nyata bergantung pada akurasi keputusan dan alur kerja di sekitarnya.
• Yang perlu diperhatikan:Tolok ukur peluncuran SubQ mengunggulkan Snap dalam beberapa pengujian keputusan, tetapi evaluasi itu dilakukan perusahaan sendiri. Pengujian independen per tugas dan akses pratinjau yang lebih luas akan menunjukkan kinerja kecepatan, biaya, dan tingkat kesalahannya dalam alur kerja agen yang diterapkan.

Apa yang dikembalikan oleh panggilan Snap

Dalam Dokumentasi Decisions API menyebut subq-snap-preview sebagai model untuk POST /v1/systemone. Sebuah permintaan menyertakan state, yang dapat berupa teks atau data terstruktur, serta satu atau beberapa pertanyaan bernama. Sebuah noul adalah penilaian ya atau tidak yang dinyatakan sebagai probabilitas bahwa jawabannya ya. Sebuah choice memilih di antara dua hingga 255 opsi bernama dan mengembalikan probabilitas untuk masing-masing opsi. Sebuah score menggunakan dua hingga sepuluh tingkat berurutan dan mengembalikan skor berbobot beserta distribusi probabilitasnya.

Bentuk respons tersebut lebih penting daripada label produk. Pengembang menentukan jawaban yang diizinkan dan memutuskan tindakan aplikasi atas jawaban itu. Probabilitas API adalah keluaran model, bukan ukuran terverifikasi tentang seberapa sering keputusan nyata tertentu akan benar. Dokumentasi SubQ sendiri menunjukkan pengembang menerapkan ambang dan mengembalikan kasus yang tidak pasti kepada manusia; dokumentasi itu tidak menetapkan ambang universal untuk setiap tugas.

Snap menerima hingga empat gambar PNG, JPEG, atau WebP bersama state. Setiap gambar berukuran paling banyak 4 MiB setelah dekode, dan total ukuran dekode tidak boleh melebihi 8 MiB. Dokumentasi API menyebut token gambar dan teks dihitung dalam batas konteks 393.216 token yang sama. Video tidak didukung; cara yang disarankan adalah mengambil sampel maksimal empat bingkai sebagai gambar. Ini adalah batas masukan konkret untuk API pratinjau, bukan jaminan bahwa model akan menafsirkan setiap dokumen panjang atau gambar secara andal.

Selisih tolok ukur yang perlu diperhatikan

Dalam evaluasi peluncurannya, SubQ melaporkan skor Snap 61,7 dibanding 57,9 untuk Jev pada seluruh rangkaian publik Decision Index 0.2.1. SubQ juga melaporkan rata-rata 67,6 dibanding 61,6 pada kelompok terpilih berisi 16 tolok ukur berorientasi perusahaan. Snap unggul pada 13 dari 16 dan tertinggal pada tiga, termasuk tes tentang kapan agen harus memanggil, bertanya, menjawab, atau menolak. Angka-angka ini berasal dari evaluasi SubQ; BIG CHANGE belum mereproduksinya ataupun menguji salah satu model dalam sebuah agen.

Perusahaan juga melaporkan hasil 96,3 untuk Snap pada tes Decision RULER adaptasinya dengan satu juta token. Hasil itu berasal dari evaluasi tolok ukur yang terpisah. Batas permintaan API saat ini adalah 393.216 token, dan dokumentasi menyatakan permintaan yang melampauinya akan gagal. Pembaca tidak seharusnya menggunakan tolok ukur satu juta token sebagai spesifikasi masukan API pratinjau.

SubQ menyatakan Snap dapat memproses permintaan 100.000 token dan mengembalikan keputusan dalam sekitar satu detik. Klaim publik tersebut tidak memberikan distribusi latensi yang diamati BIG CHANGE di berbagai akun, lalu lintas serentak, atau jenis pertanyaan. Sebelum mengganti satu langkah dalam alur kerja penting, pembaca perlu menilai pratinjau dengan kumpulan keputusan, biaya kesalahan, serta persyaratan waktu respons mereka sendiri.

Akses, harga, dan penanganan data

Daftar daftar model mencantumkan Snap sebagai pratinjau publik dengan masukan teks dan gambar; harganya 0,05 dolar per satu juta token masukan dan keluaran gratis. Halaman peluncuran mengatakan kapasitas dapat menempatkan pengguna baru dalam daftar tunggu. Tidak satu pun sumber membuktikan bahwa setiap organisasi langsung memperoleh akses atau batas laju tertentu.

Tim yang menilai pekerjaan sensitif juga harus memeriksa kebijakan retensi data sebelum mengirim dokumen atau gambar. Setelan bawaan organisasi yang didokumentasikan menyimpan prompt, penyelesaian, dan riwayat percakapan hingga dihapus. SubQ menawarkan kebijakan dengan jumlah hari tetap serta retensi data nol untuk seluruh organisasi atas permintaan. Perusahaan menyatakan catatan penagihan dan dukungan tetap menyimpan model, jumlah token, waktu, dan tag metadata meski retensi data nol, tanpa isi prompt atau penyelesaian. Endpoint Decisions tetap tersedia dengan setelan organisasi tersebut. BIG CHANGE belum memverifikasi perilaku penyimpanan layanan ini secara independen.

Kontribusi SubQ adalah bentuk API khusus untuk keputusan terbatas berulang pada konteks besar, dengan tarif token rendah yang dipublikasikan. Pertanyaan yang belum terjawab ialah seberapa sering keputusan itu bertahan pada pekerjaan yang benar-benar akan dialihkan organisasi kepadanya. Jawabannya memerlukan pengujian independen di luar skor peluncuran.

Sumber dan bacaan lanjutan

• Tulisan peluncuran SubQ pada 12 Oktobermenjelaskan peran yang dimaksud dalam agen, harga, akses pratinjau, dan evaluasi perusahaan. Angka kecepatan dan tolok ukur adalah klaim vendor; hasil Decision RULER dengan satu juta token terpisah dari batas API pratinjau.
• Referensi API Decisions SubQmendokumentasikan endpoint, pertanyaan dan respons bertipe, batas token dan gambar, serta perilaku kesalahan. Ini dokumentasi produk terkini, bukan bukti keandalan dalam alur kerja yang diterapkan.
• Daftar model SubQmemberikan ID model pratinjau, modalitas, dan tarif dolar AS yang dipublikasikan. Ketentuan dan ketersediaan dapat berubah selama pratinjau.
• Dokumentasi retensi data SubQmenjelaskan kebijakan bawaan dan opsional organisasi. Kebijakan itu menggambarkan perilaku layanan yang dimaksud; BIG CHANGE tidak mengaudit penyimpanan atau penghapusan data.