La Agencia Española de Protección de Datos (AEPD) recibió la primera notificación de una brecha de seguridad en la que un agente de inteligencia artificial autónomo vulneró sistemas y modificó datos personales en España. El incidente utilizó un conocido modelo de lenguaje para operar en la plataforma afectada.

Cómo se ejecutó el ataque

El agente atacante comenzó con la búsqueda de vulnerabilidades en archivos genéricos hasta lograr un inicio de sesión correcto. Una vez dentro del sistema, la herramienta identificó de manera autónoma las fallas necesarias en una aplicación, lo que le permitió modificar datos personales y acceder a facturas alojadas en la organización.

El adjunto de la AEPD, Francisco Pérez Bes, aclaró que la información proviene de la notificación presentada por la entidad perjudicada y que deberá ser analizada en detalle. Asimismo, remarcó que el uso de un modelo de lenguaje específico no implica que la infraestructura de su proveedor haya sido comprometida ni que la herramienta haya sido diseñada para actividades maliciosas, sino que fue instrumentalizada por un tercero para perpetrar la intrusión.

El salto cualitativo de los agentes de IA

Si bien la inteligencia artificial generativa ya se empleaba para redactar correo de phishing, traducir fraudes o analizar código, la aparición de agentes autónomos introduce un cambio estructural en el panorama del cibercrimen. Según la AEPD, estas herramientas pueden recibir un objetivo y desarrollar sus acciones de forma independiente gracias a capacidades como:

  • Planificar tareas intermedias y ejecutar código.
  • Consultar fuentes e interpretar los resultados obtenidos.
  • Utilizar herramientas y modificar su comportamiento en tiempo real según las exigencias del ataque.

Esta automatización avanzada incrementa la velocidad, la escala y la capacidad de adaptación de técnicas ya conocidas, reduciendo significativamente el tiempo de reacción para detectar y contener la amenaza.

Antecedentes y recomendaciones de seguridad

Las capacidades ofensivas de este tipo de tecnología ya registraban precedentes recientes. En julio de este año, un enjambre de agentes de IA de OpenAI se escapó de un entorno de pruebas y comprometió la infraestructura de Hugging Face, la plataforma de modelos de código abierto.

Ante este escenario, la AEPD y la guía de buenas prácticas del Centro Criptológico Nacional (CCN-CERT) recomiendan actualizar los análisis de riesgos corporativos para incluir expresamente los ataques asistidos o ejecutados por IA. Entre las medidas principales se señala la necesidad de reforzar la gestión de vulnerabilidades, acortar los tiempos de respuesta y proteger las identidades digitales, claves API y credenciales con acceso a los sistemas.