Nvidia mete un modelo agéntico de 74B en 24GB para tu portátil

Nvidia ha movido ficha en su catálogo de modelos abiertos. La compañía ha anunciado nuevas incorporaciones a su familia Nemotron: por un lado, Nemotron 3.5 Super VL, un modelo vision-language de 120.000 millones de parámetros pensado para agentes empresariales; por otro, dos modelos Bolt de menor tamaño diseñados para ejecutar tareas de programación, investigación y conversación en local. El más llamativo es el Nemotron 3.5 Bolt 74B-A9B, que Nvidia ha logrado comprimir hasta ocupar 24 GB de memoria, lo que permite ejecutarlo en un portátil.

El foco de los tres lanzamientos es claro: velocidad y eficiencia. Los dos modelos de mayor tamaño ya están disponibles, mientras que el Bolt E4B de 4 GB, el más pequeño de la familia, llegará en las próximas semanas.

Qué trae Nemotron 3.5 Super VL

El modelo estrella del anuncio es Super VL, un modelo de 120.000 millones de parámetros que combina razonamiento y uso de herramientas con comprensión de imágenes y documentos. Según Kari Briski, VP de modelos abiertos y software de Nvidia, el objetivo es ofrecer una precisión líder en tareas agénticas multimodales —seguimiento de instrucciones, uso de herramientas, flujos de trabajo empresariales de varios pasos y comprensión visual— comparable al modelo de razonamiento más grande de la compañía con aproximadamente una quinta parte de los parámetros.

Super VL se construye sobre Nemotron 3 Super, lanzado en marzo. Ambos comparten los 120.000 millones de parámetros totales, con 12.000 millones activos durante la inferencia, y ventanas de contexto de hasta un millón de tokens. La diferencia clave es que el nuevo modelo añade soporte para entrada de imagen y vídeo, aunque no para salida.

Resultados mixtos frente a la competencia

Cuando se comparan sus benchmarks con otros modelos abiertos de tamaño similar, los resultados son dispares. En las evaluaciones de la propia Nvidia, Super VL supera a Qwen3.5-122B-A10B de Alibaba en razonamiento científico y tareas de terminal, pero queda ligeramente por debajo en SWE-bench Verified y comprensión de documentos. Las cinco pruebas empleadas son GPQA-Diamond, Terminal-Bench 2.1, SWE-bench Verified, IFBench y MMLongBench-Doc.

En Terminal-Bench, Super VL obtiene 66,7 frente al 48,7 de Qwen3.5, pero va por detrás en SWE-bench Verified (71,1 frente a 71,9). El modelo de Qwen tiene 122.000 millones de parámetros totales y 10.000 millones activos, frente a los 120.000 y 12.000 de Super VL. El más reciente Qwen3.8-Flash-Next puntúa más alto en las cinco pruebas, aunque sus componentes adicionales de embedding y predicción elevan el total a unos 180.000 millones de parámetros. Inkling-Small, de Thinking Machines, con 276.000 millones totales y 12.000 activos, también queda por detrás en tareas de terminal pero supera a Super VL en seguimiento de instrucciones.

Nvidia también reporta que Super VL supera a Ultra en Hermes Bench y en las evaluaciones de comportamiento de LangChain, con un 63,44% frente a 56,33% y un 87,05% frente a 84,3%, respectivamente. En conjunto, el foco está claramente en la velocidad: Nvidia informa de una finalización cuatro veces más rápida de 10.000 tareas de SWE-bench Pro en cuatro GPU B200, aunque su gráfico muestra menor precisión que Qwen3.8-Flash-Next y DeepSeek V4 Flash.

Cómo se ha construido

La coalición Nemotron mantiene la arquitectura híbrida de la familia 3.5, que combina capas Mamba-2, atención y mezcla de expertos, pero añade un codificador de visión. Nvidia continuó entrenando el modelo de lenguaje mediante destilación desde Nemotron 3 Ultra antes de un entrenamiento adicional para ingeniería de software, visión y tareas agénticas. Para acelerar la generación de texto, emplea LiLiCorr, una técnica de decodificación especulativa en la que un modelo auxiliar más pequeño redacta varios tokens por delante y Super VL los verifica en conjunto. Nvidia afirma que esto acelera la generación de tokens en DGX Spark hasta 2,3 veces frente a la decodificación sin especulación.

Para flujos documentales, Super VL se centra en reconocimiento óptico de caracteres, tablas, gráficos e información estructurada. En CharXiv, un benchmark de razonamiento sobre gráficos, Nvidia reporta un 80,8% de precisión frente al 63% de Nano Omni. La interpretación de código Python eleva el resultado de Super VL al 84%.

Bolt: 74B en 24 GB

Si el interés está en ejecutar modelos en local, los nuevos Bolt son probablemente el lanzamiento más relevante, y sus benchmarks tienden a superar a la mayoría de modelos comparables. El Nemotron 3.5 Bolt 74B-A9B 24GB deriva de Super VL. Su arquitectura híbrida de mezcla de expertos activa 9.000 millones de sus 74.000 millones de parámetros a la vez. En las pruebas de Nvidia, Bolt obtiene 51,0 en Terminal-Bench 2.1, frente a 44,4 de Qwen3.6-35B-A3B y 37,2 de Gemma4 26B-A4B, ambos probados en BF16. Bolt usa precisión mixta, incluidos expertos de dos bits.

Para llegar a ese tamaño, Nvidia aplicó cuantización de dos bits que reduce la huella de memoria del modelo de 74B a 24 GB. La compañía afirma que está optimizando el modelo para sistemas RTX Spark y DGX Spark, con soporte para llama.cpp, Ollama, LM Studio y vLLM. Una segunda versión aún más pequeña, Nemotron 3.5 Bolt E4B 4GB, está prevista para finales de mes. Con ella, Nvidia apunta a agentes conversacionales y físicos sobre hardware GeForce RTX, Jetson y Spark, incluidos asistentes de dispositivo y personajes interactivos que necesitan uso de herramientas multiturno y conciencia del estado de la aplicación.

Disponibilidad y licencia

Los nuevos modelos ya están disponibles para su descarga en Hugging Face bajo la licencia OpenMDW 1.1, que permite uso comercial y modificación.

Qué significa para una pyme

La noticia tiene dos lecturas para un equipo de IT de una pyme. La primera es estratégica: un modelo agéntico de 74B que cabe en 24 GB abre la puerta a ejecutar asistentes de código y automatizaciones directamente en el portátil del desarrollador o en un equipo de sobremesa con GPU, sin depender de una API externa ni enviar datos sensibles a la nube. Para sectores con requisitos de confidencialidad —legal, salud, industria— esto puede ser un cambio real en cómo se plantean los pilotos de IA.

La segunda es de cautela. Los benchmarks son mixtos y los propios datos de Nvidia muestran que la velocidad se consigue a costa de cierta precisión frente a competidores como Qwen3.8-Flash-Next. Además, la cuantización de dos bits es agresiva: conviene validar el comportamiento real en las tareas concretas de cada negocio antes de integrarlo en un flujo crítico.

Recomendaciones de ForgeNEX

• Empieza por un caso de uso acotado: generación de tests, resumen de documentación técnica o asistencia en tareas de terminal. Mide precisión y tiempo antes de ampliar.
• Prueba en local con Ollama o LM Studio sobre un equipo con GPU suficiente. Es la vía más rápida para evaluar sin comprometer infraestructura.
• Revisa la licencia OpenMDW 1.1 con tu equipo legal si vas a distribuir el modelo o integrarlo en un producto.
• No descartes la nube: para cargas puntuales o picos, un modelo gestionado puede seguir siendo más rentable que mantener hardware dedicado.
• Refuerza el control de lo que se ejecuta en los equipos. Si tus empleados empiezan a descargar modelos locales, necesitas visibilidad. Ya vimos cómo Cloudflare liberó Void para controlar apps de vibe-coding: aquí tienes el análisis.

La tendencia es clara: la IA generativa se está desplazando del centro de datos al escritorio. Para una pyme, eso reduce la barrera de entrada y mejora la privacidad, pero también multiplica los puntos donde hay que gobernar qué se ejecuta y con qué datos. Como en cualquier adopción tecnológica, la clave está en probar con criterio y medir antes de escalar.

Fuente: The New Stack. Análisis y adaptación: ForgeNEX.