El avance de la inteligencia artificial está transformando también el mapa de amenazas digitales. Durante el Gartner Security & Risk Management Summit, los analistas advirtieron que el entorno de riesgo se ha vuelto más impredecible, sofisticado y difícil de interpretar para las organizaciones.
“Los líderes de ciberseguridad deben ser capaces de encontrar la señal entre todo el ruido”, afirman los promotores del evento al referirse al reto que supone distinguir amenazas reales en un escenario marcado por nuevas iniciativas de seguridad, herramientas de IA avanzada y riesgos emergentes.
Según los analistas, existen cuatro amenazas críticas que están dando ventaja a los atacantes y que requieren mejoras urgentes en las estrategias de defensa corporativa.
La IA amplía la superficie de exposición de las empresas
El compromiso de aplicaciones basadas en inteligencia artificial se ha convertido en uno de los principales focos de preocupación. La adopción de herramientas de IA generativa, agentes personalizados y aplicaciones internas que procesan información sensible está creando nuevos puntos débiles para las compañías.
Los atacantes están aprovechando integraciones con terceros, modelos mal protegidos y aplicaciones corporativas expuestas para acceder a datos o alterar procesos. Ante este escenario, se recomienda identificar los nuevos vectores de ataque, aplicar prácticas de desarrollo seguro, reforzar la clasificación de datos y adoptar modelos de control de acceso basados en propósito, como PBAC.
La firma también aconseja desplegar monitorización en tiempo de ejecución para detectar comportamientos anómalos en modelos y agentes de IA antes de que generen impactos graves.
Deepfakes y manipulación de identidad
Otra amenaza en rápido crecimiento es el uso de deepfakes. La mejora de la IA generativa ha multiplicado la calidad y disponibilidad de contenidos falsificados en voz, vídeo e imagen, facilitando ataques de suplantación de identidad, fraude financiero y phishing avanzado.
Los analistas subrayan que no existe una única solución capaz de bloquear este tipo de amenazas. Las organizaciones deben combinar herramientas de detección, autenticación robusta, análisis contextual y procesos internos más estrictos para reducir el riesgo de manipulación en reuniones, verificaciones biométricas o procesos de selección.
Cadena de suministro y prompt injection, dos frentes críticos
La cadena de suministro de software también se encuentra bajo presión. La expansión de la IA generativa está acelerando los ataques contra componentes open source, pipelines de CI/CD y herramientas automatizadas.
Para mitigar estos riesgos, Gartner recomienda crear inventarios completos de activos software, exigir SBOM y AIBOM, utilizar repositorios curados, firmar artefactos durante las compilaciones y aplicar controles de mínimo privilegio en los sistemas de build. La monitorización continua de herramientas y agentes automatizados también resulta clave.
El cuarto gran riesgo identificado es el prompt injection, una técnica que busca manipular las instrucciones de los modelos de lenguaje para alterar su comportamiento, filtrar datos o ejecutar acciones no autorizadas.
Frente a esta amenaza, se propone una estrategia de defensa por capas: validación de entradas, pruebas específicas de seguridad para IA, prompts de sistema robustos y guardrails en tiempo de ejecución capaces de bloquear actividad sospechosa.
La adopción masiva de IA generativa y agentes autónomos está redefiniendo conceptos básicos como perímetro, identidad y cadena de suministro digital. Hoy, la respuesta no puede limitarse a controles tradicionales: requiere inversión estratégica, priorización basada en riesgo y una visión de seguridad adaptada a la nueva realidad tecnológica.
