NVIDIA ने Nemotron 3.5 Super VL मॉडल वेट्स 15 अक्टूबर को जारी किए। यह विज़न-लैंग्वेज मॉडल टेक्स्ट, चित्र और वीडियो से चुने गए फ़्रेम स्वीकार करता है और टेक्स्ट देता है। डेवलपर इसे उस एजेंट के तर्क घटक के रूप में इस्तेमाल कर सकते हैं जो दस्तावेज़ या चित्र पढ़ता है, टूल कॉल करता है और नतीजे के आधार पर आगे बढ़ता है। रिलीज़ उन्हें मॉडल आर्टिफ़ैक्ट और सर्विंग निर्देश देती है; इससे किसी खास कार्यस्थल पर ऐसे एजेंट की विश्वसनीयता साबित नहीं होती।

बड़ा बदलाव

  • क्या बदला: NVIDIA ने पोस्ट-ट्रेनिंग किया गया मॉडल जारी किया है जो एक ही वेट्स समूह में दृश्य इनपुट, टेक्स्ट रीजनिंग और टूल उपयोग जोड़ता है। दस्तावेज़ के मुताबिक आउटपुट टेक्स्ट है, इसलिए टूल देना और मॉडल को क्या करने की अनुमति है यह तय करना अभी भी ऐप्लिकेशन का काम है।
  • यह अहम क्यों है: दस्तावेज़ या वीडियो वर्कफ़्लो बनाने वाला डेवलपर दृश्य व्याख्या को अलग चरण मानने के बजाय, दृश्य साक्ष्य और बाद के टूल कॉल पर एक ही मॉडल का मूल्यांकन कर सकता है। लाभ उसके अपने डेटा और अनुमतियों के साथ मिले नतीजों पर निर्भर है।
  • क्या देखना है: जारी की गई रेसिपियाँ मूल्यांकन संभव बनाती हैं, लेकिन NVIDIA की प्रशिक्षण गाइड कहती है कि कुछ पोस्ट-ट्रेनिंग डेटा और घटक अभी उपलब्ध नहीं हैं। स्वतंत्र, खास कार्यों के नतीजे केवल लॉन्च की तुलनाओं से अधिक बताएँगे कि मॉडल कितना उपयोगी है।

NVIDIA ने क्या जारी किया

यह BF16 मॉडल कार्ड पोस्ट-ट्रेन्ड चेकपॉइंट को संस्करण 1.0 GA बताता है और Hugging Face पर रिलीज़ की तारीख 15 अक्टूबर देता है। NVIDIA ने अधिक सघन इन्फ़रेंस के लिए एक NVFP4 क्वांटाइज़्ड चेकपॉइंट भी प्रकाशित किया। मॉडल में कुल 120 अरब पैरामीटर हैं, जिनमें हर टोकन के लिए लगभग 12 अरब सक्रिय होते हैं। NVIDIA का शोध पृष्ठ 14 अक्टूबर को आया और व्यापक Super व Lightning मॉडलों का वर्णन करता है; यह पहले का शोध प्रकाशन 15 अक्टूबर की वेट्स रिलीज़ से अलग है।

कार्ड लाइसेंस के तौर पर OpenMDW 1.1 बताते हैं और कहते हैं कि उन शर्तों के तहत चेकपॉइंट व्यावसायिक व गैर-व्यावसायिक इस्तेमाल के लिए तैयार हैं। BF16 वेट्स अनुकूलन और पूर्ण-प्रिसिशन मूल्यांकन के लिए हैं; NVFP4 वेरिएंट अधिक कुशल सर्विंग के लिए है। NVIDIA की प्रशिक्षण रेसिपी बेस वेट्स, डेटा और रेसिपियाँ भी बताती है, लेकिन चेताती है कि Super 3.5 में इस्तेमाल सुपरवाइज़्ड फ़ाइन-ट्यूनिंग और रीइन्फ़ोर्समेंट-लर्निंग डेटा अभी प्रकाशित नहीं हुआ है। कुछ टीचर-मॉडल और दृश्य रीजनिंग चरण गैर-सार्वजनिक घटकों पर निर्भर हैं। इसलिए जारी सामग्री से NVIDIA के पूरे प्रशिक्षण रन को दोहराया नहीं जा सकता।

एजेंट इसका इस्तेमाल कैसे कर सकता है

NVIDIA दस्तावेज़ में टेक्स्ट, JPEG या PNG चित्र और अधिकतम दो मिनट का MP4 वीडियो इनपुट बताए गए हैं। दस्तावेज़ पन्नों की तस्वीरों के रूप में साथ में टेक्स्ट देकर उपलब्ध कराए जा सकते हैं। आउटपुट एक टेक्स्ट स्ट्रिंग है, जिसमें उत्तर या ऐप्लिकेशन के लिए टूल कॉल हो सकती है। मॉडल कार्ड के API उदाहरण vLLM के साथ स्थानीय तौर पर सर्व किए गए OpenAI-संगत चैट एंडपॉइंट को दिखाते हैं, जिनमें चित्र, वीडियो और टूल कॉलिंग के उदाहरण हैं। यह डेवलपर्स के लिए इंटरफ़ेस है, तैयार दस्तावेज़-प्रोसेसिंग या घटना-प्रतिक्रिया उत्पाद नहीं।

NVIDIA की लॉन्च पोस्ट दस्तावेज़ से डेटा निकालना, चार्ट की व्याख्या और वीडियो समीक्षा को अपेक्षित उपयोग बताती है। इसके मुताबिक Ramp रसीदों के चित्रों को संरचित JSON में बदल रही है और उसे 50% तक अधिक थ्रूपुट तथा दस गुना कम लेटेंसी की उम्मीद है। NVIDIA कहती है कि Scale AI ने Skydance में वेंडर-क्रेडिट प्रोसेसिंग के लिए मॉडल की पोस्ट-ट्रेनिंग की, जिसमें उस वर्कलोड के लिए इन्फ़रेंस लागत 40 गुना और लेटेंसी पाँच गुना कम होने का अनुमान है। ये NVIDIA के विवरण में खास साझेदारों के दावे और अपेक्षाएँ हैं, BIG CHANGE के मापे नतीजे या सामान्य तैनाती में वही लाभ मिलने का प्रमाण नहीं।

हार्डवेयर, लागत और सीमाएँ

BF16 कार्ड चार H100 GPU या दो GB200 GPU के लिए vLLM कॉन्फ़िगरेशन देता है। NVFP4 कार्ड अधिक सघन कॉन्फ़िगरेशन बताता है, जिनमें टेक्स्ट और चित्रों के लिए एक DGX Spark तथा टेक्स्ट, चित्र और वीडियो के लिए एक H200 या GB200 शामिल हैं। अधिकतम संदर्भ दस लाख टोकन बताया गया है, हालाँकि कार्ड चेताते हैं कि उपलब्ध GPU मेमोरी और समवर्ती उपयोग के अनुसार अलग सर्विंग रेसिपियाँ छोटी कॉन्टेक्स्ट विंडो इस्तेमाल कर सकती हैं। वीडियो रेसिपी असीमित फ़ुटेज प्रोसेस करने के बजाय फ़्रेम सैंपल करती है; उसके उदाहरण एक से दो मिनट की क्लिप से शुरू होते हैं।

वेट्स की लाइसेंस शर्तें हैं, लेकिन उन्हें चलाने के लिए उचित GPU क्षमता और सॉफ़्टवेयर अभी भी चाहिए। उद्धृत मॉडल कार्ड सेल्फ़-होस्टेड इन्फ़रेंस की कोई एक डॉलर कीमत नहीं देते; इस समीक्षा में NVIDIA लॉन्च पोस्ट के होस्टेड-एक्सेस लिंक पर भी सार्वजनिक कीमत नहीं दिखी। लागत चुने गए हार्डवेयर या प्रदाता और वास्तविक वर्कलोड पर निर्भर होगी। NVIDIA अच्छे बेंचमार्क और थ्रूपुट नतीजे बताती है, जिनमें लॉन्च पोस्ट में एक GPU पर पाँच गुने तक थ्रूपुट की तुलना भी है। यह तुलना बताए गए एंडपॉइंट, वर्कलोड और आधार प्रणालियों पर निर्भर है; पाठक के ऐप्लिकेशन की मापी गई लागत या गति नहीं है।

रिलीज़ का मूल्यांकन कर रहे डेवलपर्स को एजेंट को संचालन का अधिकार देने से पहले अपने दस्तावेज़, क्लिप, टूल अनुमतियाँ और एरर हैंडलिंग जाँचनी चाहिए। NVIDIA का मॉडल कार्ड भी खास उपयोग के अनुसार सिस्टम परीक्षण माँगता है। BIG CHANGE ने प्रकाशित आर्टिफ़ैक्ट और दस्तावेज़ देखे हैं, लेकिन मॉडल चलाया नहीं है।

स्रोत और आगे पढ़ें

  • NVIDIA तकनीकी ब्लॉग, 15 अक्टूबर: लॉन्च विवरण, प्रस्तावित उपयोग, साझेदारों के दावे और विक्रेता की थ्रूपुट तुलनाएँ। साझेदारों के अनुमानों और NVIDIA बेंचमार्क का स्रोत ऊपर बताया गया है।
  • NVIDIA Nemotron शोध पृष्ठ, 14 अक्टूबर: व्यापक मॉडल परिवार, शोध रिपोर्ट और जुड़े चेकपॉइंट का विवरण। यह मॉडल कार्ड की रिलीज़ तारीख से पहले प्रकाशित हुआ।
  • BF16 मॉडल कार्ड और NVFP4 मॉडल कार्ड, दोनों 15 अक्टूबर के: संस्करण, लाइसेंस, इनपुट और आउटपुट, सर्विंग उदाहरण और हार्डवेयर कॉन्फ़िगरेशन। ये NVIDIA के अपने दस्तावेज़ हैं, स्वतंत्र मैदानी परीक्षण नहीं।
  • NVIDIA प्रशिक्षण रेसिपी: जारी चेकपॉइंट व रेसिपियों और अभी सार्वजनिक होने बाकी पोस्ट-ट्रेनिंग डेटा व घटकों में फ़र्क बताती है।