DeepSeek abre DeepInfer: inferencia propia y Huawei junto a Nvidia

DeepSeek ha dado un paso que muchos equipos de IT llevaban tiempo esperando: ha publicado como código abierto DeepInfer, el motor de inferencia que utiliza en producción para servir sus modelos. No se trata solo de los pesos del modelo, que ya estaban disponibles, sino de la capa que gestiona peticiones, reparte trabajo entre chips y genera respuestas. Es decir, la parte que marca la diferencia entre poder ejecutar un modelo y ejecutarlo con eficiencia.

El anuncio, difundido por la compañía en X, llega con una licencia Apache 2.0 y con un objetivo declarado: reducir el coste de cómputo, bajar el consumo energético y hacer la IA más asequible. Para una pyme española que esté valorando desplegar modelos en su propia infraestructura, la noticia merece atención, aunque con matices importantes que conviene no pasar por alto.

Qué incluye realmente DeepInfer

El framework está diseñado para ejecutar el modelo DeepSeek V4.1 Flash sobre infraestructura propia, con muchas de las optimizaciones que la compañía aplica en su API. También hay planes de dar soporte a futuros modelos. Dentro del paquete encontramos kernels de cómputo optimizados y librerías de comunicación que DeepSeek ya había liberado por separado, como FlashMLA, DeepGEMM y DeepEP, además de mecanismos para distribuir la inferencia entre varios chips.

Hay dos técnicas que destacan por su impacto práctico:

• Decodificación especulativa: acelera la generación de respuestas prediciendo y verificando varios tokens a la vez.
• Planificación asíncrona: reduce el tiempo que los procesadores pasan esperando trabajo nuevo.

Además, el framework admite salidas estructuradas, lo que permite indicar cómo debe formatearse la respuesta del modelo. Junto a DeepInfer, DeepSeek publica deepseek-recipe, una librería complementaria, disponible en Rust y Python, que gestiona cómo se convierten las peticiones de API en entradas del modelo y cómo se procesa la salida. Su propósito es que un despliegue propio se comporte de forma parecida a la API oficial.

Lo que aún falta para producción

Conviene ser honestos: DeepInfer no es todavía una solución llave en mano. La documentación indica que el software disponible públicamente soporta inferencia offline y las funciones esenciales para servir a escala, pero faltan piezas clave para operar un servicio completo. Entre ellas, un sistema de gestión de caché KV, infraestructura para separar las distintas fases de inferencia entre máquinas y balanceo de carga entre réplicas.

Dicho de otro modo: DeepSeek abre buena parte del motor, pero deja al desarrollador la responsabilidad de aportar la infraestructura que lo rodea. Esto explica, en parte, cómo la compañía ha superado las dificultades que ella misma señaló en 2025, cuando argumentó que su motor estaba tan acoplado a su infraestructura interna que no era práctico publicarlo tal cual.

Huawei junto a Nvidia: la letra pequeña importa

El detalle quizá más interesante no es el motor en sí, sino el hardware soportado desde el primer día. Nvidia está presente, como era de esperar, pero con una restricción llamativa: solo la arquitectura SM100, la utilizada en las GPU de centro de datos Blackwell. Las arquitecturas anteriores de Nvidia, incluida Hopper, brillan por su ausencia.

La otra plataforma compatible es la serie Ascend 950 de Huawei, lo que sitúa al fabricante chino al mismo nivel que Nvidia en la lista de hardware soportado por DeepSeek. Este movimiento tiene lectura geopolítica y técnica: refuerza el ecosistema de cómputo alternativo y obliga a los equipos de IT a preguntarse qué hardware tendrán disponible realmente cuando quieran desplegar este tipo de modelos.

Qué significa para una pyme

Para la mayoría de pymes, la tentación de montar DeepInfer en un servidor propio es prematura. El despliegue exige hardware específico, conocimientos de inferencia distribuida y la capacidad de construir las piezas que faltan. No es un proyecto de fin de semana ni algo que se resuelva con una GPU de gama media.

Ahora bien, hay tres conclusiones que sí conviene retener:

1. El coste de la IA local sigue bajando. Que un actor como DeepSeek libere su pila de producción indica que la eficiencia en inferencia se está convirtiendo en un campo abierto, no en un secreto industrial. Esto presiona a la baja los precios de los servicios en la nube y amplía las opciones.
2. La dependencia de hardware es real. Antes de plantear cualquier despliegue local, revisa qué arquitecturas soporta el software que quieres usar. Comprar GPU sin comprobar la compatibilidad es una forma cara de perder tiempo.
3. La soberanía del dato gana enteros. Para sectores con requisitos estrictos, poder ejecutar modelos en infraestructura propia, aunque sea con matices, abre conversaciones que antes ni se planteaban.

En ForgeNEX recomendamos un enfoque prudente: seguir la evolución de DeepInfer, probarlo en entornos de laboratorio si el equipo tiene perfil técnico, pero no sustituir por ahora una API gestionada por un despliegue propio sin un análisis de coste total que incluya hardware, personas y mantenimiento. La IA accesible no es solo una cuestión de licencias; es una cuestión de saber qué se está comprando.

Si tu pyme está evaluando cómo integrar IA sin disparar la factura técnica, quizá te interese revisar nuestro análisis sobre cómo la IA baja el muro para construir software o el artículo sobre si merece la pena la IA local en pymes. La decisión de infraestructura rara vez se toma en el vacío.

Fuente: The New Stack. Análisis y adaptación: ForgeNEX.