Dirección de la oficina
Sevilla, España
Sevilla, España
Número de teléfono
+(34) 624 816 969
Dirección de correo electrónico
Disponible en Google Play
Sevilla, España
Sevilla, España
+(34) 624 816 969
by ForgeNEX Tabla de contenidos [Mostrar]
La inteligencia artificial generativa está transformando radicalmente el panorama de amenazas digitales, convirtiendo lo que antes eran ataques de phishing y fraude artesanales en operaciones industriales a gran escala. Esta tecnología no solo aumenta la sofisticación de las amenazas, sino que democratiza capacidades que antes estaban reservadas a actores estatales o grupos criminales altamente especializados, creando un escenario donde cualquier atacante con acceso a estas herramientas puede lanzar campañas hiperpersonalizadas con una eficiencia sin precedentes.
Frank Escandell, colaborador de la Cátedra Internacional ENIA en Inteligencia Artificial Generativa de la Universidad San Pablo CEU y director de Socios Institucionales de OdiseIA, explica que el cambio más significativo no es cuantitativo sino cualitativo. "La IA convierte el fraude en un proceso industrializado, donde el atacante puede probar variantes, aprender de la respuesta de las víctimas y optimizar el mensaje casi en tiempo real", señala. Esta capacidad de iteración rápida transforma el phishing de un fenómeno de baja sofisticación a un componente integrado en cadenas de ataque mucho más complejas.
La "trampa de la coherencia", concepto popularizado por el comunicador John Nosta, se convierte en el arma principal de los atacantes. Los mensajes generados por IA mantienen una coherencia lingüística y contextual que antes requería conocimiento nativo del idioma y habilidades de redacción avanzadas, eliminando los errores gramaticales y ortográficos que tradicionalmente servían como señales de alerta.
Carlos Castro, responsable de cuentas estratégicas de WatchGuard Technologies Iberia, destaca cómo la IA generativa está cambiando radicalmente la economía del cibercrimen. "Antes, un ataque de phishing convincente requería tiempo, experiencia en ingeniería social, investigación sobre la víctima y capacidad técnica. Hoy, esa inversión se reduce drásticamente", explica. La automatización de la recopilación de información pública y la generación de contenidos personalizados en segundos amplía el alcance de las campañas y democratiza capacidades que antes estaban reservadas a actores más sofisticados.
Jeramy Kopacko, CISO adjunto de campo en Sophos, añade que las barreras lingüísticas y culturales se han disipado en gran medida para el atacante. "Una simple pregunta a cualquiera de los asistentes de chat con IA generativa puede generar un diálogo específico para un país o una región concretos", señala. Esta capacidad de localización automática hace que los correos electrónicos resulten íntimos, creíbles y difíciles de detectar tanto para el usuario final como para el software de seguridad tradicional.
Ignazio Franzoni, director de Ingeniería de Soluciones en Netskope, explica cómo la IA está transformando los ataques dirigidos. "Desde un punto de vista histórico, los ataques dirigidos (el spear-phishing) requerían investigación manual y se reservaban casi exclusivamente para atacar a altos directivos. Ahora, la IA puede raspar LinkedIn y otras redes para perfilar a cualquier empleado en segundos", detalla. El resultado es que empleados de cualquier nivel pueden recibir comunicaciones que hacen referencia a situaciones reales de su trabajo, utilizando el mismo tono y contexto de interacciones legítimas.
David Sancho, investigador senior de amenazas de TrendIA, confirma que los criminales ya están utilizando la IA generativa para crear campañas de phishing, estafas e infecciones con malware de manera masiva. "El principal elemento que ha cambiado en los últimos meses es la mejora en la redacción y traducción de los correos electrónicos", afirma. Además, los cibercriminales obtienen ideas para mejorar las técnicas de ingeniería social, haciendo que los textos sean cada vez más convincentes y las páginas de phishing cuenten con menos elementos sospechosos.
Benjamín Zamora, ingeniero preventa de Infinigate Iberia, considera que "la capacidad de personalización es, probablemente, uno de los mayores cambios que introduce la IA". A partir de datos accesibles en internet o redes sociales, los atacantes construyen mensajes adaptados al perfil de cada usuario, su entorno profesional o incluso situaciones concretas de la empresa. Esto hace que los indicadores tradicionales de phishing, como errores gramaticales, mensajes genéricos o inconsistencias, pierdan eficacia como señales de alerta.
Frank Escandell advierte sobre uno de los puntos más ciegos de las empresas actualmente: "cómo proteges tu propio ecosistema de IA frente a los atacantes". Las organizaciones que están adoptando agentes autónomos de IA y modelos privados a gran velocidad deben considerar que un atacante puede usar técnicas como la "inyección de prompts" para engañar a chatbots corporativos y extraer datos confidenciales.
Julián David Delgado, director de Seguridad Ofensiva y MDR en Factum, propone una respuesta que combine tecnología avanzada, procesos y concienciación. "En el ámbito tecnológico, adquieren especial relevancia las soluciones de detección basadas en comportamiento, el análisis contextual de comunicaciones y los sistemas de protección de identidad que integran autenticación multifactor y gestión de accesos", explica. La protección del correo electrónico debe evolucionar hacia modelos capaces de analizar no solo el contenido, sino también la intención y el contexto del mensaje.
En entornos financieros, la monitorización de transacciones y la detección de anomalías permiten identificar patrones de fraude con mayor precisión. Delgado considera que la concienciación de los usuarios sigue siendo un elemento clave, pero debe orientarse a reconocer escenarios de ingeniería social más sofisticados, dentro de un enfoque de gestión del riesgo que integre estas capacidades de forma coherente y alineada con el negocio.
A nivel tecnológico, las organizaciones deben implementar soluciones de detección basadas en comportamiento y análisis contextual, no sólo en firmas; protección de identidad robusta (MFA, gestión de accesos, detección de anomalías en autenticación); monitorización avanzada de transacciones y patrones de fraude; y uso de IA defensiva para inteligencia de amenazas, correlación de eventos, enriquecimiento de datos y respuesta automatizada.
A nivel operativo, es crucial la automatización de procesos de seguridad (detección, investigación, contención); auditorías continuas, incluyendo pentesting con apoyo de IA para acelerar fases de reconocimiento, enumeración e identificación de vulnerabilidades; y revisión continua del código y de la superficie de ataque. Estas prácticas deben complementarse con estrategias de protección de infraestructura que aborden todos los vectores de ataque.
Carlos Castro señala que todo apunta a una dinámica de IA contra IA. "Por un lado, los atacantes seguirán aprovechando la flexibilidad, la automatización y la ausencia de límites éticos y morales para escalar campañas más rápidas, personalizadas y evasivas", explica. Por otro lado, los defensores cuentan con la capacidad de entrenar modelos sobre grandes volúmenes de telemetría, incidentes y patrones históricos para detectar anomalías, correlacionar señales y responder en tiempo real.
La clave no estará sólo en tener IA, sino en integrarla en plataformas capaces de correlacionar señales, priorizar alertas relevantes y responder con rapidez sin ahogar a los analistas en ruido. En los próximos años veremos una defensa cada vez más apoyada en automatización, analítica avanzada y servicios gestionados, pero seguirá siendo decisivo combinar esa inteligencia con controles de identidad, Zero Trust, visibilidad unificada y supervisión humana experta.
Julián David Delgado considera que la inteligencia artificial se está consolidando como un elemento estructural tanto en la ofensiva como en la defensa, elevando significativamente el nivel de exigencia en el ámbito de la ciberseguridad. Disciplinas como la inteligencia de amenazas asistida por IA, la respuesta automatizada a incidentes o la auditoría continua de seguridad ganarán aún más relevancia.
Las auditorías técnicas tanto a nivel de código, aplicaciones e infraestructura, incluyendo el penetration testing, serán cada vez más accesibles gracias al impulso tecnológico de la IA, democratizando ciertas capacidades que antes estaban limitadas a perfiles altamente especializados. Sin embargo, es crucial recordar que la toma de decisiones críticas debe seguir en manos humanas: la IA debe actuar como un habilitador, no como un sustituto del criterio experto.
Desde una perspectiva más estratégica, el reto trasciende lo puramente tecnológico. "La verdadera dificultad sigue siendo estructural: la capacidad de adaptación, una adecuada gestión del riesgo y la integración efectiva de la seguridad dentro del negocio", admite Delgado. La IA amplifica las capacidades, pero no reemplaza la necesidad de una estrategia sólida ni de una ejecución rigurosa.
Las organizaciones deben evolucionar hacia modelos que integren automatización inteligente en sus procesos de seguridad, combinando tecnologías avanzadas con una cultura organizativa que priorice la concienciación continua y la adaptabilidad. Solo así podrán enfrentar eficazmente las amenazas cada vez más sofisticadas que plantea la democratización del cibercrimen impulsado por IA.
Fuente original: ComputerWorld. Análisis y adaptación por ForgeNEX.