La IA ya no solo escribe: entró sola a los sistemas de una empresa y tocó datos personales

La Agencia Española de Protección de Datos (AEPD) recibió una notificación que no tiene precedentes: un modelo de lenguaje de gran tamaño ejecutó un ciberataque completo sin intervención humana directa, encadenando con éxito todas las fases del ataque.

La víctima, una organización cuyos sistemas fueron vulnerados, contactó al organismo español. Según el informe, la IA rastreó por cuenta propia vulnerabilidades, inició sesión en las plataformas de la entidad y buscó fallas de seguridad adicionales.

Los intentos dieron resultado. En las fases finales, el agente accedió a documentos financieros y alteró datos personales.

Qué hizo exactamente la IA

Sin revelar cuál fue el agente automatizado que lideró el ataque, la AEPD detalló que el modelo logró iniciar sesión con éxito en los sistemas de la entidad vulnerada, buscó errores de seguridad en forma autónoma y finalmente modificó información personal y accedió a facturas.

La publicación Bleeping Computer señaló que el organismo aún debe investigar los alcances del incidente, pero que la mera notificación —la primera que recibe con estas características— demuestra que las brechas de seguridad relacionadas con la IA ya no son meramente teóricas.

El caso se suma a la intrusión en Hugging Face organizada por agentes de OpenAI, que tampoco es la única de su especie.

No es una amenaza nueva, pero sí más rápida

La AEPD subrayó que la IA no genera nuevas amenazas, pero puede incrementar la velocidad, la escala y la adaptabilidad de los ciberataques, además de reducir los márgenes de tiempo de respuesta de los defensores.

En su informe, la agencia EFE observó que el uso de IA para ciberataques no es precisamente novedoso. Con el auge de los modelos generativos, esas tecnologías se emplearon para diseñar mensajes de phishing (suplantación de identidad), traducir campañas globales, analizar brechas en código y facilitar la búsqueda de errores.

La novedad en incidentes como el de OpenAI y Hugging Face es la capacidad para automatizar más instancias de los ataques. Por eso, la AEPD mencionó que “la irrupción de agentes en el ámbito de la seguridad informática debería motivar una revisión inmediata de los modelos de protección y resguardo de datos”.