En el vertiginoso mundo de la inteligencia artificial, hay una narrativa que se repite constantemente: los costes por token de los modelos de lenguaje a gran escala (LLM) están cayendo en picado. Los proveedores presumen de eficiencias cada vez mayores, y los analistas proyectan reducciones de hasta el 95% para 2030. Sin embargo, las empresas que ya están desplegando agentes de IA en producción están viendo cómo sus facturas crecen de forma alarmante. ¿Cómo es posible que, si cada token es más barato, el gasto total se dispare? La respuesta, según un reciente análisis de Gartner, se encuentra en lo que denominan la “paradoja de la inferencia”: aunque el precio unitario baja, el consumo de tokens se multiplica exponencialmente, y los modelos más avanzados que se utilizan para tareas complejas son mucho más caros por token que los chatbots básicos.

Los analistas de Gartner, Will Sommer y Sabine Zimmerhansl, han estudiado en profundidad esta dinámica y han llegado a una conclusión contundente: “el ritmo de innovación está superando a la curva de costes”. El mercado, advierten, está dominado por una “ilusión de deflación de tokens”. Los compradores asumen, de forma peligrosa, que los ahorros por token se trasladarán automáticamente a sus presupuestos de desarrollo, pero la realidad es muy distinta. Los agentes de IA modernos, capaces de razonar, planificar y colaborar entre sí, consumen una cantidad ingente de tokens en cada tarea, y ese consumo se dispara cuando hablamos de “enjambres” de agentes autónomos trabajando en segundo plano.

El coste oculto de los agentes inteligentes

Para entender esta paradoja, hay que comparar lo que ocurre con un chatbot tradicional y con un agente avanzado. Un chatbot sencillo recibe una solicitud, la interpreta y genera una respuesta “probablemente razonable” en cuestión de segundos. En cambio, un agente de IA sofisticado debe pensar, cuestionar sus propias conclusiones, adaptarse cuando algo falla, validar la precisión de sus resultados sin intervención humana y comunicarse con otros agentes. Todo este proceso requiere una potencia computacional mucho mayor y, sobre todo, un número de tokens que puede ser de 5 a 30 veces superior al de un chatbot para gestionar tareas equivalentes.

Gartner ha cuantificado este fenómeno: los agentes de IA avanzados, con capacidades de razonamiento, pueden costar hasta 150 veces más por una sola tarea que un chatbot básico. Y no es solo el coste por token: el entrenamiento de estos modelos también es más caro. Los costes de hardware para entrenar modelos de agentes de tamaño medio con capacidades de razonamiento avanzadas son 2,5 veces mayores que los de entrenar chatbots sencillos de tamaño similar, y los costes de inferencia son 5 veces mayores. Cuando se ponen en producción cientos de agentes que ejecutan docenas de tareas cada hora, el resultado es una factura que puede resultar “alucinante”, en palabras de los analistas.

La tokenómica de los flujos de trabajo de IA

Para analizar el impacto real, Gartner ha creado un modelo de “tokenómica” basado en diversos escenarios de entrenamiento e inferencia. Han simulado 12 tipos de modelos de IA con diferentes capacidades y han obtenido cifras reveladoras: los flujos de trabajo básicos cuestan alrededor de 0,05 dólares por token de inferencia; la síntesis y la recuperación de conocimientos cuestan aproximadamente 0,10 dólares; los flujos de trabajo más complejos, como la planificación y el aprendizaje, alcanzan los 0,40 dólares por token. Es decir, el coste por token para el proveedor en tareas de planificación es entre 8 y 10 veces superior al de los flujos básicos.

Estos números tienen implicaciones directas para las empresas que están construyendo soluciones de IA. Si tu agente necesita planificar, razonar y aprender de forma continua, el coste por token se dispara. Y aunque los precios de los proveedores bajen, el consumo adicional puede compensar con creces esa reducción. Como advierten Sommer y Zimmerhansl: “los costes aumentarán inevitablemente y, a medida que lo hagan, no hay garantía de que el valor crezca de forma proporcional”. El retorno de la inversión de cada nueva generación de tecnología se conseguirá con mucho esfuerzo.

Estrategias para contener los costes sin frenar la innovación

Ante este panorama, las empresas no pueden quedarse de brazos cruzados. Gartner propone varias estrategias para mantener a raya los costes por token sin renunciar a los beneficios de la IA. La primera es la orquestación inteligente: en lugar de dejar que los agentes invoquen modelos de vanguardia por defecto, hay que desarrollar sistemas que dirijan cada consulta al modelo más rentable. La “clasificación por niveles de inferencia” puede mejorar los costes y el rendimiento, asignando tareas sencillas a modelos pequeños y reservando los grandes modelos para los casos que realmente lo requieran.

Otra recomendación clave es pasar de tarifas planas de computación a planes por niveles que se adapten a las necesidades reales. La adopción de una tarificación basada en el uso permite ajustar el gasto a la demanda y evitar sorpresas a final de mes. Además, las empresas deben establecer estándares mínimos para la ejecución de la IA: definir desde el principio los umbrales de éxito, así como los gastos de mitigación de riesgos y de cumplimiento normativo. No se debe dar luz verde a las implementaciones hasta que los escenarios se hayan sometido a pruebas de estrés frente a las fluctuaciones en el precio de los tokens y los gastos de cumplimiento.

Integrar el valor por resultado en la planificación

Gartner también aconseja integrar el valor por resultado en la planificación de productos. Esto significa exigir que cada función de IA prevea y realice un seguimiento de su gasto en función de una “métrica de resultados clara”, como las tareas automatizadas o los casos cerrados con éxito. De esta manera, es posible identificar los flujos de trabajo de bajo rendimiento que requieren mejoras o que deben eliminarse. Esta práctica, combinada con la actualización continua de modelos (tratando cada lanzamiento como un coche nuevo que pierde valor desde el primer día), puede ayudar a mantener un equilibrio entre innovación y rentabilidad.

La buena noticia es que el retorno de la inversión es “eminentemente posible”, pero requiere un esfuerzo significativo. Las empresas no pueden limitarse a confiar en los sistemas tradicionales. Como advierten los analistas: “recurrir por defecto a una inteligencia autónoma genérica dará lugar a costes ilimitados, de un orden de magnitud superior a los de los ecosistemas de productos optimizados”. En otras palabras, la clave está en la optimización y la gobernanza de los flujos de trabajo de IA.

En ForgeNEX, ya hemos visto cómo la implementación de IA generativa en flujos de trabajo puede transformar la eficiencia operativa, pero también sabemos que sin una estrategia de costes bien definida, el proyecto puede volverse insostenible. La gestión de permisos y ejecución de agentes es un factor crítico, y la escalada de ingresos de Anthropic demuestra que el mercado de la IA empresarial está en plena efervescencia. Pero también hay lecciones que aprender de la historia: como señala nuestro análisis sobre las revueltas luditas, la tecnología avanza más rápido que nuestra capacidad de adaptación, y eso tiene un coste.

En resumen, la paradoja de la inferencia es un recordatorio de que en la IA nada es gratis. Los precios por token bajan, pero el consumo se dispara. Las empresas que quieran aprovechar todo el potencial de los agentes de IA deben ser conscientes de estos costes y adoptar un enfoque estratégico. La orquestación, la clasificación por niveles, la tarificación basada en el uso y la medición del ROI son herramientas imprescindibles para navegar en esta nueva era. Y como siempre, la clave está en encontrar el equilibrio entre innovación y sostenibilidad económica.

Fuente original: ComputerWorld. Análisis y adaptación por ForgeNEX.