El riesgo silencioso de los agentes de IA en el desarrollo de software

Los agentes de inteligencia artificial (IA) están transformando la forma en que los desarrolladores escriben código, pero también están introduciendo un riesgo de seguridad crítico: la instalación de paquetes de software que nadie posee. Willem Delbare, cofundador y CEO de Aikido Security, lo describe sin rodeos: “No hay responsabilidad”. En una entrevista con The New Stack, Delbare explica cómo los agentes de IA, al buscar soluciones rápidas, recurren a repositorios de paquetes públicos y descargan librerías que pueden estar abandonadas, ser maliciosas o simplemente no tener un mantenedor claro. Esto crea un agujero de seguridad en la cadena de suministro de software que afecta tanto a SysAdmins como a los equipos de DevOps.

Impacto en SysAdmins y DevOps: un nuevo vector de ataque

Para los administradores de sistemas y los equipos de DevOps, este comportamiento automatizado representa un desafío mayúsculo. Los agentes de IA pueden introducir dependencias no verificadas en entornos de producción sin supervisión humana, abriendo la puerta a ataques de supply chain. Delbare señala que los agentes no tienen en cuenta la procedencia ni el mantenimiento de los paquetes; simplemente los instalan porque resuelven el problema inmediato. Esto obliga a los equipos de seguridad a implementar controles más estrictos en los pipelines de CI/CD, como políticas de aprobación de dependencias y escaneo continuo de vulnerabilidades. ¿Quién monitorea a los agentes de IA? se convierte en una pregunta clave para cualquier organización que adopte estas herramientas.

Consecuencias para el negocio: más allá de la seguridad técnica

El impacto no es solo técnico. La falta de rendición de cuentas puede traducirse en costos financieros y reputacionales. Un paquete malicioso instalado por un agente de IA podría exfiltrar datos sensibles o servir como puerta trasera para atacantes. Además, el uso de paquetes huérfanos (sin mantenedor activo) implica que cualquier vulnerabilidad descubierta no será parcheada, dejando a la empresa expuesta. Los líderes de negocio deben entender que la velocidad que aportan los agentes de IA no puede estar reñida con la seguridad. Es necesario establecer un marco de gobernanza que incluya la revisión humana de las dependencias críticas y la formación de los equipos en buenas prácticas de seguridad en el desarrollo.

Medidas prácticas para mitigar el riesgo

Para contrarrestar esta amenaza, los equipos de seguridad pueden adoptar varias estrategias. Primero, implementar herramientas de análisis de composición de software (SCA) que automaticen la detección de paquetes no mantenidos o con licencias dudosas. Segundo, configurar los agentes de IA para que operen en entornos aislados (sandbox) y con listas blancas de repositorios aprobados. Tercero, reforzar la cultura de shift left en seguridad, integrando revisiones de seguridad en las primeras fases del desarrollo. Como recordatorio, la configuración de redes seguras sigue siendo fundamental: blindar tu red empresarial con VPNs y firewalls ayuda a contener posibles brechas. Asimismo, la monitorización de los agentes de IA es un desafío emergente que ya abordamos en este análisis.

Fuente: The New Stack. Análisis ForgeNEX.