La inteligencia artificial avanza a pasos agigantados, y el último hito no es un chatbot más inteligente, sino los sistemas de agentes de IA. Estos sistemas no se limitan a generar texto; ejecutan acciones de forma autónoma en nombre de los usuarios, transformando la eficiencia empresarial. Sin embargo, construir un sistema de agentes robusto y seguro requiere una arquitectura fundamentalmente nueva, lejos de los enfoques tradicionales de automatización. En este artículo, desglosamos las mejores prácticas, componentes y estrategias para crear agentes de IA que realmente funcionen en entornos empresariales.

¿Qué son los sistemas de agentes de IA?

Según Andrew McNamara, director de aprendizaje automático aplicado en Shopify, un agente de IA es un sistema que puede realizar acciones en nombre de los usuarios, no solo generar texto o responder preguntas. Estos sistemas operan de forma continua hasta completar una tarea, como el Sidekick de Shopify, un agente proactivo para comerciantes. Los casos de uso abarcan desde ingeniería de software (aproximadamente la mitad de las implementaciones) hasta automatización administrativa, marketing, ventas, finanzas y análisis de datos, según Anthropic.

Heath Ramsey, vicepresidente de gestión de productos en ServiceNow, destaca un ejemplo concreto: la resolución de incidentes de TI. En este contexto, los agentes extraen datos contextuales de todos los sistemas, verifican resoluciones previas, aplican soluciones, actualizan registros y notifican al equipo. Pero este enfoque exige un pensamiento sistémico renovado para evitar problemas como el indeterminismo y la saturación de tokens, además de brechas de seguridad derivadas de la desalineación de agentes, donde el modelo puede mentir o inventar información para alcanzar un objetivo.

Componentes arquitectónicos de un sistema agente

Construir un sistema de agentes es como armar un sistema nervioso, según Ari Weil, evangelista de la nube en Akamai. Los componentes clave incluyen capas de razonamiento, memoria, contexto, coordinación, validación y seguridad con intervención humana. A continuación, desglosamos cada uno.

Modelo de razonamiento

En el núcleo del sistema se encuentra un modelo de razonamiento, que realiza la planificación basada en la solicitud del usuario, el contexto disponible y las capacidades existentes. Frank Kilcommins, director de arquitectura empresarial en Jentic, señala que algunos modelos son más adecuados que otros. McNamara añade que buscan modelos con la cantidad adecuada de llamadas a herramientas y que sigan instrucciones con firmeza.

Contexto y datos

Un agente necesita contexto: datos internos, conocimiento institucional, políticas, memoria de chats anteriores y metadatos del agente. Las fuentes pueden incluir bases de datos, API, sistemas RAG, bases vectoriales, sistemas de archivos o paneles internos. Edgar Kussberg, director de producto en Sonar, destaca que las organizaciones crean bases de conocimiento para organizar estos datos. Anusha Kovi, ingeniera en Amazon, observa que la mayoría combina un almacén vectorial como pgvector con un catálogo de datos o grafo de conocimiento.

Herramientas y descubrimiento

Para ser operativos, los agentes necesitan acceso de lectura y escritura a bases de datos, herramientas y API. Jackie Brosamer, directora de datos e IA en Block, señala que conectar la IA con sistemas existentes es un trabajo crucial. El sector se ha unificado en torno al Model Context Protocol (MCP) como conector universal, con registros MCP para catalogar capacidades. Ejemplos públicos incluyen el agente goose de Block y el uso de MCP por Workato para flujos empresariales con Claude.

Flujos de trabajo definidos

Contar con flujos de trabajo documentados para procedimientos comunes es esencial. Ramsey enfatiza que los agentes deben coordinarse a través de flujos definidos para que la autonomía sea predecible y controlada. Kilcommins sugiere usar definiciones de capacidades legibles por máquina, como la especificación Arazzo de la OpenAPI Initiative.

Orquestación multiagente

A gran escala, los sistemas multiagente son necesarios. Gurtu, de AIrrived, explica que en lugar de un agente generalista, se tienen equipos de agentes especializados (razonamiento, recuperación, acción, validación). Kovi añade que se necesita una capa de orquestación para el ciclo planificar-ejecutar-evaluar, con herramientas como LangGraph, CrewAI y Bedrock Agents. El protocolo A2A para comunicaciones entre agentes también será importante.

Seguridad y autorización

La seguridad es crítica, ya que los LLM pueden alucinar. Gurtu advierte: “Ya no se protege software que sugiere, se protege software que actúa”. Kilcommins recomienda permisos claramente definidos para evitar escalada de privilegios. Kovi señala que la autorización justo a tiempo será clave, y que las reglas de seguridad deben estar en políticas de IAM, no solo en instrucciones.

Puntos de control humanos

Acciones sensibles requieren aprobaciones humanas. Shopify usa por defecto “diseño con intervención humana”, con puertas de aprobación para cambios en producción. Block aplica la misma regla para transacciones financieras, con confirmación del usuario en Moneybot de Cash App.

Capacidades de evaluación

Las pruebas previas son esenciales. Shopify realiza evaluaciones con humanos y simulaciones usando evaluadores LLM. McNamara dice: “Una vez que tu evaluador coincide con los humanos, puedes confiar a gran escala”. Gurtu recomienda tratar a los agentes como sistemas regulados, probando en entornos de pruebas.

Observabilidad del comportamiento

La observabilidad debe capturar por qué fallaron los agentes o por qué eligieron ciertas acciones. Kussberg afirma que debe integrarse desde el primer día, con transparencia en cada paso: indicaciones, llamadas a herramientas, decisiones intermedias y resultados finales.

Estrategias de optimización del contexto

Proporcionar datos mínimos y relevantes es clave para evitar saturar ventanas de contexto. Brosamer dice: “La calidad de la salida está ligada a la calidad del contexto”. En Block, mantienen README claros y jerarquías bien estructuradas. Kussberg añade que los sistemas eficaces proporcionan herramientas de descubrimiento versátiles y bucles de recuperación. Shopify usa entrega modular de instrucciones y contexto justo a tiempo. Kovi advierte que el contexto debe incluir matices semánticos para evitar errores.

Buenas prácticas de arquitectura

No todo necesita ser “agentificado”. Combinar LLM con MCP es ideal para situaciones novedosas, pero puede ser excesivo para automatización determinista. Kilcommins recomienda codificar lo determinista. Ramsey sugiere empezar por procesos de alta fricción, como solicitudes de servicio o incorporación de empleados. Gurtu aconseja empezar por decisiones, no demostraciones, y limitar la autonomía: los agentes funcionan mejor como especialistas. Shopify establece límites de herramientas (20-50) y prefiere arquitecturas de subagentes con herramientas de bajo nivel en lugar de multiagente temprano.

Otros consejos incluyen usar infraestructura abierta, pensar primero en API, mantener datos sincronizados con arquitecturas basadas en eventos, equilibrar acceso y control con auditorías, y mejorar continuamente para evitar la deriva de agentes.

El futuro de los sistemas de agentes de IA

El desarrollo avanza rápido y los patrones se consolidan. Se espera un giro hacia sistemas multiagente, con necesidad de orquestación compleja y estándares abiertos. Brosamer prevé “fábricas” de agentes para trabajo intelectual complejo, empezando por programación. Weil destaca la importancia de la inferencia en el borde para reducir latencia. En definitiva, construir sistemas de agentes requiere una combinación de tecnologías novedosas, diseño similar a microservicios y medidas de seguridad, todo ello sin perder de vista la autonomía significativa. El diseño inteligente será la clave del éxito.

Para profundizar en la arquitectura de estos sistemas, te recomendamos nuestra Guía Definitiva para Construir Sistemas Autónomos y Seguros. Además, la integración con plataformas como AWS Bedrock y el impacto en roles como el ingeniero de plataforma son temas clave. No olvides considerar el contexto regulatorio, como el pulso de la UE por la IA, y las soluciones en Microsoft Azure. Finalmente, la modernización tecnológica con IA redefine la productividad empresarial.

Fuente original: ComputerWorld. Análisis y adaptación por ForgeNEX.