NVIDIA publicó los pesos del modelo Nemotron 3.5 Super VL el 15 de octubre. El modelo de visión y lenguaje acepta texto, imágenes y fotogramas de vídeo muestreados, y genera texto. Los desarrolladores pueden usarlo como componente de razonamiento de un agente que lee un documento o una imagen, llama a una herramienta y continúa a partir del resultado. La publicación les proporciona un artefacto del modelo e instrucciones para servirlo; no establece con qué fiabilidad actúa un agente así en un lugar de trabajo concreto.

El gran cambio

  • Qué ha cambiado: NVIDIA ha publicado un modelo posentrenado que combina entrada visual, razonamiento textual y uso de herramientas en un mismo conjunto de pesos. Su salida documentada es texto, de modo que una aplicación sigue proporcionando las herramientas y decidiendo qué puede hacer el modelo.
  • Por qué importa: Un desarrollador que crea flujos de documentos o vídeo puede evaluar un solo modelo con pruebas visuales y posteriores llamadas a herramientas, en vez de tratar la interpretación visual como un paso aislado. El beneficio depende de los resultados con sus propios materiales y permisos.
  • En qué fijarse: Las recetas publicadas permiten evaluar el modelo, pero la guía de entrenamiento de NVIDIA indica que algunos datos y componentes de posentrenamiento siguen sin estar disponibles. Los resultados independientes y específicos de cada tarea dirán más sobre su utilidad que las comparaciones del lanzamiento por sí solas.

Qué ha publicado NVIDIA

La ficha del modelo BF16 identifica el punto de control posentrenado como versión 1.0 GA y fecha su publicación en Hugging Face el 15 de octubre. NVIDIA también publicó un punto de control cuantizado NVFP4 para una inferencia más compacta. El modelo tiene 120.000 millones de parámetros en total, de los que unos 12.000 millones están activos para cada token. La página de investigación de NVIDIA apareció el 14 de octubre y describe el conjunto más amplio de modelos Super y Lightning; esa publicación de investigación anterior es distinta de la publicación de pesos del 15 de octubre.

Las fichas indican que la licencia es OpenMDW 1.1 y que los puntos de control están listos para uso comercial y no comercial bajo esas condiciones. Los pesos BF16 se orientan a la personalización y la evaluación a precisión completa; la variante NVFP4, a un servicio más eficiente. La receta de entrenamiento de NVIDIA también enumera pesos base, datos y recetas, pero advierte de que los datos de ajuste fino supervisado y aprendizaje por refuerzo usados para Super 3.5 aún no se han publicado. Algunas etapas de modelos maestros y razonamiento visual dependen de componentes que no son públicos. Por tanto, los materiales publicados no permiten reproducir por completo el entrenamiento de NVIDIA.

Cómo puede usarlo un agente

NVIDIA documenta como entradas texto, imágenes JPEG o PNG y vídeo MP4 de hasta dos minutos. Los documentos pueden proporcionarse como imágenes de páginas con texto adjunto. La salida es una cadena de texto que puede contener una respuesta o una llamada a una herramienta para que la gestione una aplicación. Los ejemplos de API de la ficha muestran un endpoint de chat compatible con OpenAI servido localmente con vLLM, con ejemplos de imágenes, vídeo y llamadas a herramientas. Es una interfaz para desarrolladores, no un producto terminado de procesamiento documental o respuesta a incidentes.

La publicación de lanzamiento de NVIDIA describe la extracción de documentos, la interpretación de gráficos y la revisión de vídeo como aplicaciones previstas. Afirma que Ramp está convirtiendo imágenes de recibos en JSON estructurado y espera hasta un 50% más de rendimiento y una latencia diez veces menor. NVIDIA dice que Scale AI posentrenó el modelo para procesar abonos de proveedores en Skydance, con un coste de inferencia previsto 40 veces menor y una latencia cinco veces menor para esa carga. Son afirmaciones y expectativas específicas de socios en el relato de NVIDIA, no resultados medidos por BIG CHANGE ni pruebas de que una implantación general obtenga las mismas mejoras.

Hardware, coste y límites

La ficha BF16 ofrece configuraciones vLLM para cuatro GPU H100 o dos GPU GB200. La ficha NVFP4 enumera configuraciones más compactas: un solo DGX Spark para texto e imágenes, y una sola H200 o GB200 para texto, imágenes y vídeo. Se especifica un contexto máximo de un millón de tokens, aunque las fichas advierten de que cada receta de servicio puede usar una ventana menor para ajustarse a la memoria GPU y la concurrencia disponibles. La receta de vídeo muestrea fotogramas en lugar de procesar metraje sin restricciones; sus ejemplos parten de clips de uno a dos minutos.

Los pesos tienen condiciones de licencia, pero ejecutarlos sigue requiriendo capacidad GPU y software adecuados. Las fichas citadas no ofrecen un precio único en dólares para la inferencia autohospedada, y el enlace de acceso alojado de la publicación de NVIDIA no mostraba un precio público durante esta revisión. El coste dependerá del hardware o proveedor elegido y de la carga real. NVIDIA comunica buenos resultados de pruebas y rendimiento, incluida una comparación de rendimiento con una sola GPU de hasta cinco veces más en su publicación de lanzamiento. Esa comparación depende del endpoint, la carga y las referencias que indica; no es una medición del coste o la velocidad de la aplicación del lector.

Los desarrolladores que evalúen el lanzamiento deben probar sus documentos, clips, permisos de herramientas y gestión de errores antes de conceder autoridad operativa a un agente. La propia ficha de NVIDIA pide pruebas del sistema específicas del caso de uso. BIG CHANGE ha revisado los artefactos y la documentación publicados, pero no ha ejecutado el modelo.

Fuentes y lecturas adicionales