Playbook de respuesta ante incidentes de un agente de IA

Primero conserva el control del proceso

Un incidente de agente puede ser un fallo de integración, una respuesta incorrecta o una acción no autorizada. La primera decisión es reducir el impacto sin destruir la evidencia que permita entender lo ocurrido. Actúa con los procedimientos de continuidad, seguridad y privacidad de la organización.

Secuencia de respuesta

1. Contener

• Pausa la herramienta, la cola o el flujo afectado; evita desactivar sistemas no relacionados.
• Revoca temporalmente el permiso comprometido si el agente ha accedido o actuado fuera de alcance.
• Bloquea reintentos automáticos que puedan duplicar pagos, mensajes, tickets o cambios.
• Si hay posible exposición de datos personales, avisa al responsable de privacidad por el canal interno establecido.

2. Registrar

Conserva el identificador de ejecución, fecha, versión del modelo y del agente, herramientas invocadas, respuesta del sistema conectado, aprobación humana y medida de contención. Guarda solo la información necesaria con acceso restringido; no reenvíes datos sensibles a chats o tickets generales.

3. Clasificar y escalar

Nivel orientativo	Señal	Respuesta inicial
Bajo	Respuesta imprecisa sin acción externa	Corregir, etiquetar y revisar si se repite
Medio	Error que afecta un registro interno o varios casos	Pausar el flujo, verificar cambios y avisar al dueño del proceso
Alto	Acción externa no autorizada, acceso indebido o posible daño	Contener, activar respuesta de seguridad/privacidad y dirección responsable

La clasificación se adapta al impacto real y a los protocolos corporativos; no sustituye plazos legales de notificación ni decisiones jurídicas.

4. Recuperar y aprender

Antes de reactivar, reproduce el fallo en un entorno de prueba, verifica permisos y valida casos normales y adversos. Documenta qué control falló, quién aprueba la reactivación y qué señal vigilarás durante el siguiente turno. No uses una edición del prompt como única medida si el problema fue un permiso excesivo o una integración insegura.

Tres escenarios que conviene ensayar

• El sistema de facturación responde con demora y el agente reintenta una operación: usar idempotencia y confirmación del estado antes de repetir.
• Un documento contiene instrucciones dirigidas al modelo: tratar el contenido como dato no confiable y limitar herramientas, como se explica en seguridad de agentes y prompt injection.
• El agente envía una respuesta a un cliente sin aprobación: detener el envío, evaluar alcance y revisar el punto de control humano definido en supervisión de agentes.