மல்டிமோடல் ஏஜென்ட்களுக்காக Nemotron 3.5 Super VL வெயிட்ஸை வெளியிட்ட NVIDIA

NVIDIA வெளியிட்ட Nemotron 3.5 Super VL மாடல் வெயிட்ஸ் அக்டோபர் 15 அன்று கிடைத்தன. இந்த விஷன்-லாங்குவேஜ் மாடல் உரை, படங்கள், வீடியோவிலிருந்து மாதிரியாகத் தேர்ந்தெடுக்கப்பட்ட பிரேம்களை ஏற்று உரையை உருவாக்குகிறது. ஆவணம் அல்லது படத்தைப் படித்து, கருவியை அழைத்து, அதன் முடிவிலிருந்து தொடரும் ஏஜென்ட்டின் பகுத்தறிவு கூறாக டெவலப்பர்கள் இதைப் பயன்படுத்தலாம். இந்த வெளியீடு மாடல் கோப்புகளையும் சர்விங் வழிமுறைகளையும் தருகிறது; குறிப்பிட்ட பணியிடத்தில் இத்தகைய ஏஜென்ட் எவ்வளவு நம்பகமாகச் செயல்படும் என்பதை நிரூபிக்கவில்லை.

பெரிய மாற்றம்

• என்ன மாறியது: காட்சி உள்ளீடு, உரைப் பகுத்தறிவு, கருவிப் பயன்பாட்டை ஒரே வெயிட்ஸ் தொகுப்பில் இணைக்கும் பிந்தைய பயிற்சி பெற்ற மாடலை NVIDIA வெளியிட்டுள்ளது. ஆவணத்தில் குறிப்பிடப்பட்ட வெளியீடு உரை என்பதால், கருவிகளை வழங்குவதும் மாடல் என்ன செய்யலாம் என்பதைத் தீர்மானிப்பதும் இன்னும் செயலியின் பொறுப்பு.
• ஏன் முக்கியம்: ஆவண அல்லது வீடியோ பணிப்பாய்வுகளை உருவாக்கும் டெவலப்பர், காட்சி விளக்கத்தைத் தனிப் படியாகக் கருதாமல் காட்சி ஆதாரங்களையும் அடுத்தடுத்த கருவி அழைப்புகளையும் ஒரே மாடலில் மதிப்பிடலாம். பயன் தனது சொந்தப் பொருட்கள் மற்றும் அனுமதிகளுடன் கிடைக்கும் முடிவுகளைச் சார்ந்தது.
• எதைக் கவனிக்க வேண்டும்: வெளியிட்ட செய்முறைகள் மதிப்பீட்டைச் சாத்தியமாக்குகின்றன. ஆனால் சில பிந்தைய பயிற்சித் தரவுகளும் கூறுகளும் இன்னும் கிடைக்கவில்லை என NVIDIA பயிற்சி வழிகாட்டி கூறுகிறது. வெளியீட்டு ஒப்பீடுகளைவிடச் சுயாதீனமான, பணிக்கேற்ற முடிவுகள் மாடலின் பயனை அதிகம் விளக்கும்.

NVIDIA வெளியிட்டது என்ன

இந்த BF16 மாடல் அட்டை பிந்தைய பயிற்சி செக்பாயின்ட்டை 1.0 GA பதிப்பாகக் குறித்து, Hugging Face வெளியீட்டுத் தேதியை அக்டோபர் 15 எனத் தருகிறது. குறைந்த வளத்தில் இன்ஃபரன்ஸ் செய்ய NVIDIA ஒரு NVFP4 குவான்டைஸ் செய்யப்பட்ட செக்பாயின்ட் வெளியிட்டுள்ளது. மாடலில் மொத்தம் 120 பில்லியன் அளவுருக்கள் உள்ளன; ஒவ்வொரு டோக்கனுக்கும் சுமார் 12 பில்லியன் செயலில் உள்ளன. NVIDIA-வின் ஆராய்ச்சிப் பக்கம் அக்டோபர் 14 அன்று வெளியானது; பரந்த Super, Lightning மாடல்களை விவரிக்கிறது. அந்த முந்தைய ஆராய்ச்சி வெளியீடு அக்டோபர் 15 வெயிட்ஸ் வெளியீட்டிலிருந்து வேறுபட்டது.

அட்டைகள் உரிமமாக OpenMDW 1.1 என்பதைக் குறிப்பிட்டு, அந்த விதிகளின் கீழ் செக்பாயின்ட்கள் வணிக மற்றும் வணிகமற்ற பயன்பாட்டுக்குத் தயார் எனக் கூறுகின்றன. BF16 வெயிட்ஸ் தனிப்பயனாக்கம், முழு துல்லிய மதிப்பீட்டுக்காகவும் NVFP4 வகை அதிகச் செயல்திறனுள்ள சர்விங்கிற்காகவும் முன்வைக்கப்படுகின்றன. NVIDIA-வின் பயிற்சிச் செய்முறை அடிப்படை வெயிட்ஸ், தரவுகள், செய்முறைகளையும் பட்டியலிடுகிறது. ஆனால் Super 3.5-இல் பயன்படுத்திய மேற்பார்வையுள்ள ஃபைன்-ட்யூனிங், வலுவூட்டல் கற்றல் தரவுகள் இன்னும் வெளியிடப்படவில்லை என எச்சரிக்கிறது. சில ஆசிரியர் மாடல் மற்றும் காட்சிப் பகுத்தறிவு நிலைகள் பொதுவில் இல்லாத கூறுகளைச் சார்ந்துள்ளன. எனவே வெளியிடப்பட்ட பொருட்கள் NVIDIA பயிற்சி ஓட்டத்தை முழுமையாக மீண்டும் உருவாக்கப் போதாது.

ஏஜென்ட் இதை எப்படிப் பயன்படுத்தலாம்

NVIDIA ஆவணப்படி உரை, JPEG அல்லது PNG படங்கள், அதிகபட்சம் இரண்டு நிமிட MP4 வீடியோ உள்ளீடுகளாகும். ஆவணங்களைத் துணை உரையுடன் பக்கப் படங்களாக வழங்கலாம். வெளியீடு ஓர் உரைச் சரம்; அதில் பதிலோ செயலி கையாள வேண்டிய கருவி அழைப்போ இருக்கலாம். மாடல் அட்டையின் API எடுத்துக்காட்டுகள் vLLM மூலம் உள்ளூரில் சர்வ் செய்யப்படும் OpenAI-இணக்கமான சாட் எண்ட்பாயின்ட்டைக் காட்டுகின்றன; படங்கள், வீடியோ, கருவி அழைப்புக்கான எடுத்துக்காட்டுகளும் உள்ளன. இது டெவலப்பர்களுக்கான இடைமுகம்; தயாரான ஆவணச் செயலாக்க அல்லது சம்பவப் பதிலளிப்பு தயாரிப்பு அல்ல.

NVIDIA-வின் வெளியீட்டுப் பதிவு ஆவணத் தகவல் பிரித்தெடுத்தல், வரைபட விளக்கம், வீடியோ பரிசீலனையை உத்தேசப் பயன்பாடுகளாக விவரிக்கிறது. Ramp ரசீதுப் படங்களை கட்டமைக்கப்பட்ட JSON ஆக மாற்றுவதாகவும், த்ரூபுட் 50% வரை அதிகரித்து தாமதம் பத்து மடங்கு குறையும் என எதிர்பார்ப்பதாகவும் கூறுகிறது. Skydance-இல் விற்பனையாளர் கிரெடிட் செயலாக்கத்திற்காக Scale AI மாடலுக்குப் பிந்தைய பயிற்சி அளித்ததாக NVIDIA கூறுகிறது; அந்தப் பணிச்சுமையில் இன்ஃபரன்ஸ் செலவு 40 மடங்கும் தாமதம் ஐந்து மடங்கும் குறையும் எனக் கணிக்கப்பட்டுள்ளது. இவை NVIDIA விவரிப்பில் குறிப்பிட்ட கூட்டாளர்களின் கூற்றுகளும் எதிர்பார்ப்புகளும்; BIG CHANGE அளந்த முடிவுகளோ பொதுவான நிறுவல் அதே பலனைப் பெறும் என்பதற்கான ஆதாரமோ அல்ல.

வன்பொருள், செலவு, வரம்புகள்

BF16 அட்டை நான்கு H100 GPUகள் அல்லது இரண்டு GB200 GPUகளுக்கான vLLM அமைவுகளைத் தருகிறது. NVFP4 அட்டை சுருக்கமான அமைவுகளைப் பட்டியலிடுகிறது: உரை, படங்களுக்கு ஒரே DGX Spark; உரை, படங்கள், வீடியோவுக்கு ஒரே H200 அல்லது GB200. அதிகபட்ச கான்டெக்ஸ்ட் பத்து லட்சம் டோக்கன்கள் எனக் குறிப்பிடப்பட்டுள்ளது. ஆனால் கிடைக்கும் GPU நினைவகம் மற்றும் ஒரே நேரப் பயன்பாட்டுக்கு ஏற்ப தனித்த சர்விங் செய்முறைகள் சிறிய கான்டெக்ஸ்ட் சாளரத்தைப் பயன்படுத்தலாம் என அட்டைகள் எச்சரிக்கின்றன. வீடியோ செய்முறை கட்டுப்பாடற்ற முழுக் காட்சியைச் செயலாக்காமல் பிரேம்களை மாதிரி எடுக்கிறது; எடுத்துக்காட்டுகள் ஒன்று முதல் இரண்டு நிமிட கிளிப்களுடன் தொடங்குகின்றன.

வெயிட்ஸுக்கு உரிம விதிகள் உள்ளன; இருப்பினும் இயக்குவதற்குப் பொருத்தமான GPU திறனும் மென்பொருளும் தேவை. மேற்கோளிட்ட மாடல் அட்டைகள் சுயமாக ஹோஸ்ட் செய்யும் இன்ஃபரன்ஸுக்கு ஒரே டாலர் விலையைத் தரவில்லை. இந்த ஆய்வின்போது NVIDIA வெளியீட்டுப் பதிவின் ஹோஸ்டட் அணுகல் இணைப்பும் பொதுவிலை காட்டவில்லை. தேர்ந்தெடுத்த வன்பொருள் அல்லது வழங்குநர், உண்மையான பணிச்சுமையைப் பொறுத்து செலவு அமையும். NVIDIA வலுவான பெஞ்ச்மார்க், த்ரூபுட் முடிவுகளைத் தெரிவிக்கிறது; வெளியீட்டுப் பதிவில் ஒற்றை GPU த்ரூபுட் ஐந்து மடங்கு வரை என்ற ஒப்பீடும் அடங்கும். அது குறிப்பிடப்பட்ட எண்ட்பாயின்ட், பணிச்சுமை, அடிப்படைகளைச் சார்ந்தது; வாசகரின் செயலிக்கு அளந்த செலவோ வேகமோ அல்ல.

ஏஜென்ட்டுக்குச் செயல்பாட்டு அதிகாரம் தரும்முன், டெவலப்பர்கள் தங்கள் சொந்த ஆவணங்கள், கிளிப்கள், கருவி அனுமதிகள், பிழை கையாளுதலைச் சோதிக்க வேண்டும். NVIDIA மாடல் அட்டையே பயன்பாட்டுக்கேற்ற அமைப்புச் சோதனையைக் கோருகிறது. BIG CHANGE வெளியிட்ட மாடல் கோப்புகளையும் ஆவணங்களையும் பரிசீலித்துள்ளது; மாடலை இயக்கவில்லை.

மூலங்கள் மற்றும் கூடுதல் வாசிப்பு

• NVIDIA தொழில்நுட்ப வலைப்பதிவு, அக்டோபர் 15: வெளியீட்டு விவரம், முன்மொழியப்பட்ட பயன்பாடுகள், கூட்டாளர்களின் கூற்றுகள், வழங்குநரின் த்ரூபுட் ஒப்பீடுகள். கூட்டாளர் கணிப்புகளுக்கும் NVIDIA பெஞ்ச்மார்க்குகளுக்கும் மேலே மூலம் குறிப்பிடப்பட்டுள்ளது.
• NVIDIA Nemotron ஆராய்ச்சிப் பக்கம், அக்டோபர் 14: பரந்த மாடல் குடும்பம், ஆராய்ச்சி அறிக்கை, இணைக்கப்பட்ட செக்பாயின்ட்களை விவரிக்கிறது. இது மாடல் அட்டைகளின் வெளியீட்டுத் தேதிக்கு முன் வெளியானது.
• BF16 மாடல் அட்டை மற்றும் NVFP4 மாடல் அட்டை, இரண்டும் அக்டோபர் 15 தேதியிட்டவை: பதிப்பு, உரிமம், உள்ளீடுகள், வெளியீடு, சர்விங் எடுத்துக்காட்டுகள், வன்பொருள் அமைவுகள். இவை NVIDIA-வின் சொந்த ஆவணங்கள்; சுயாதீனக் களச் சோதனைகள் அல்ல.
• NVIDIA பயிற்சிச் செய்முறை: வெளியிட்ட செக்பாயின்ட்கள், செய்முறைகளை இன்னும் பொதுவெளியீட்டுக்காகக் காத்திருக்கும் பிந்தைய பயிற்சித் தரவுகள், கூறுகளிலிருந்து பிரித்துக் காட்டுகிறது.