IA híbrida: el PC con agentes frena la factura de tokens

Del todo en la nube a repartir el trabajo entre PC y nube

Durante los últimos dos años la conversación sobre IA en la empresa ha girado casi en exclusiva en torno a la nube: modelos grandes, APIs y facturas por consumo. La noticia que nos llega desde Computerworld apunta a un giro de enfoque: los proveedores están empujando lo que Microsoft llama inteligencia híbrida, es decir, ejecutar en el propio ordenador las tareas de IA que no necesitan un modelo de vanguardia y reservar la nube para lo que de verdad exige músculo.

El motivo es económico. La IA se está encareciendo y las empresas buscan reducir los costes de los tokens. La propuesta no es sustituir la nube, sino mover las tareas preliminares al PC y derivar a la nube solo las que los equipos actuales no pueden gestionar. Bob O’Donnell, presidente de TECHnalysis Research Insights, lo resumía así: siempre necesitaremos los modelos de vanguardia en la nube para determinadas tareas, pero no hace falta usarlos para todo.

Pavan Davuluri, responsable de Windows y Dispositivos en Microsoft, lo formuló en un evento del 7 de octubre con una idea que merece la pena retener: el futuro de la IA no consiste en tener un único modelo, sino en contar con el modelo adecuado en el momento adecuado. Capacidad de vanguardia cuando haga falta y modelos más pequeños y rápidos cuando prime la velocidad. Satya Nadella añadió que esa inteligencia híbrida estará en todas partes y difuminará la línea entre la IA en la nube y el PC.

Qué es un PC con IA “agéntica”

Microsoft reconoce que las elevadas facturas por uso de la nube hacen dudar a las empresas a la hora de ampliar su uso de la IA. Su respuesta pasa por descargar a los PC con IA las tareas que no requieren modelos en la nube. Aquí entran los equipos con IA agéntica: ordenadores capaces de ejecutar agentes, generar vídeo, escribir código y conversar con modelos avanzados de IA generativa. Si el equipo no puede con la tarea, esta se envía a la nube.

El salto técnico no es menor. Hace un año, según Davuluri, estas capacidades eran exclusivas de los modelos de nube de vanguardia; ahora pueden estar en el ordenador. Estos equipos incorporan GPU potentes, parientes lejanos de las de los centros de datos. El superchip RTX Spark de Nvidia, con GPU Blackwell, alimenta muchos de ellos, incluido el nuevo Surface Laptop Ultra de Microsoft. Gerardo Delgado, director sénior de gestión de productos de Nvidia, explica que, a diferencia de los antiguos PC con IA, los nuevos pueden ejecutar modelos completos y tienen potencia suficiente para hacerlo con rapidez.

El analista Jack Gold, de J. Gold Associates, aporta una previsión útil para planificar: en los próximos tres o cuatro años se ejecutarán en ordenadores personales entre el 10% y el 15% de las cargas de trabajo de IA, y en la nube entre el 40% y el 45%. Añade que las empresas necesitarán equipos con IA acelerada y que es probable que veamos un renovado interés por comprar máquinas nuevas.

El argumento de la confidencialidad y del coste

HP ha presentado la estación de trabajo portátil ZBook Ultra G3a, con GPU de AMD que, según la compañía, genera tokens gratuitos y reduce las facturas de la nube. Brian Allen, responsable de productos de estaciones de trabajo Global Z en HP, señala una doble ventaja: puede instalarse en las propias instalaciones, no hay que preocuparse de que la información confidencial vaya a la nube ni de hacer seguimiento de tokens o recibir facturas elevadas cada semana.

El equipo incorpora el servicio Portable Computer de Perplexity, con agentes capaces de vincular un modelo local con modelos de vanguardia en la nube. El ejemplo que pone HP es claro: un PC con agentes puede hacer tareas básicas de diseño en el software de modelado 3D Revit de Autodesk sin conexión a Internet; para trabajos más avanzados, Perplexity deriva la tarea a uno de los 19 modelos de vanguardia en la nube según cuál encaje mejor. Allen sostiene que los diseñadores probablemente delegarán las tareas generales a la nube y mantendrán el trabajo de propiedad exclusiva en local.

Un caso real: depurar código sin pagar tokens

Microsoft mostró cómo un modelo local puede ahorrar los costes de tokens que suelen generarse en la nube. Un equipo no lograba reproducir un error de software, así que GitHub Copilot seleccionó GPT-6 Luna en la nube para analizar el código. Ese modelo delegó la creación y las pruebas a subagentes locales que ejecutaban MAI Code 1.1 Flash en un PC para reproducir el error. El trabajo local fue gratuito: un subagente introdujo 1,6 millones de tokens de código y contexto en el modelo local, que generó 10.500 tokens como respuesta, según explicó un gestor de producto de GitHub durante la demostración.

Qué significa esto para una pyme

La lectura rápida sería “hay que comprar portátiles nuevos”. La lectura sensata es otra: empieza a pensar en tu IA como una cartera de tareas con distintos costes. No todo merece un modelo de vanguardia, y muchas operaciones repetitivas o con datos sensibles pueden quedarse en el equipo del usuario. Esto conecta con lo que ya comentamos al hablar de los seis u ocho modelos de IA que augura Jassy: la clave no será tener el mejor modelo, sino saber cuál usar en cada momento.

También conviene no lanzarse a medir el rendimiento por el brillo del hardware. Como explicamos en GPU al 100% no significa que tu IA vaya bien, una GPU saturada puede esconder un cuello de botella que no tiene nada que ver con la potencia de cálculo. Antes de renovar parque, mide qué tareas consumes y cuánto te cuestan.

Recomendaciones prácticas de ForgeNEX

1. Inventario de tareas de IA. Clasifica lo que hace tu equipo: consultas rápidas, resúmenes, generación de código, análisis de documentos sensibles. Marca cuáles necesitan un modelo de vanguardia y cuáles no.
2. Coste por token frente a coste de equipo. Compara la factura mensual de la nube con la amortización de un equipo con IA acelerada. No compres por moda; compra cuando el ahorro o la confidencialidad lo justifiquen.
3. Política de datos. Si el trabajo local evita sacar información confidencial, documenta qué se queda en el PC y qué se envía a la nube. La IA híbrida no elimina la necesidad de gobierno de datos.
4. Prueba con un equipo piloto. Elige un perfil concreto (diseño, desarrollo, análisis) y valida durante un trimestre si el modelo local cubre sus tareas habituales.
5. No descartes la nube. El mensaje de los proveedores es híbrido, no local. La nube seguirá llevando las cargas más exigentes.

En resumen: la IA híbrida y agéntica no es una promesa de futuro lejano, sino una forma de gestionar el gasto y la sensibilidad de los datos que ya está en el catálogo de los fabricantes. Para una pyme, la oportunidad está en elegir bien qué se queda en casa y qué sale a la nube, y en no confundir renovar hardware con tener una estrategia de IA.

Fuente: Computerworld. Análisis y adaptación: ForgeNEX.