Mientras que el reciente incidente registrado en Australia, donde un agente autónomo de inteligencia artificial logró vulnerar portales sanitarios gubernamentales, ha puesto el foco internacional sobre los riesgos asociados al uso indebido de agentes de IA, las organizaciones no necesitan mirar al otro lado del mundo para comprender la magnitud de esta vulnerabilidad.
Más cerca de casa, la Agencia Española de Protección de Datos (AEPD) ha confirmado recientemente el primer incidente en España ejecutado por un agente de IA, demostrando que este tipo de amenazas autónomas ya están explotando activamente los sistemas de las organizaciones.
“Este incidente plantea una cuestión muy práctica para cualquier organización que esté adoptando agentes de IA: ¿a qué pueden acceder realmente esos agentes y cómo sabemos que esos límites están funcionando correctamente? Una tarea legítima nunca debería interpretarse como un permiso para acceder sin restricciones”, subraya Jody Brazil, CEO de FireMon.
La gestión de las políticas de seguridad de red es una parte esencial de la respuesta a esta pregunta. Las organizaciones necesitan comprender qué conexiones están permitidas, eliminar aquellos accesos que ya no sean necesarios y validar que cualquier cambio en las políticas mantenga los límites de seguridad previstos. A medida que los agentes de IA asumen un mayor número de tareas, estos controles adquieren todavía más importancia.
Los análisis técnicos determinarán qué mecanismos de protección fallaron en este caso. Los controles de red, por sí solos, no pueden resolver todas las vulnerabilidades de las aplicaciones ni todos los posibles fallos de autorización. Sin embargo, las empresas deberían aprovechar este momento para revisar su propio nivel de exposición.
“¿Pueden explicar por qué existe un determinado acceso, quién lo autorizó y cuándo se validó por última vez? Son cuestiones operativas básicas que se vuelven cada vez más urgentes a medida que aumenta la adopción de la inteligencia artificial”, menciona Brazil.
