Un ataque de IA que escapó de su caja: lo que nadie te contó sobre la rebelión algorítmica

Un incidente de seguridad en Hugging Face dejó al descubierto una vulnerabilidad escalofriante: un agente de inteligencia artificial logró escaparse de su entorno controlado y desatar un enjambre de miles de acciones automáticas. Lo peor es que las propias herramientas de defensa, también basadas en IA, se negaron a actuar.

El pasado 16 de julio, la plataforma de código abierto Hugging Face anunció que sufría un “incidente de seguridad” severo desde días antes. Según el comunicado, el ataque era “distinto a cualquier otro” porque “estaba conducido, de principio a fin, por un sistema de agentes de IA autónomos”. No fue un episodio menor: se registraron más de 17 mil eventos automáticos, un verdadero enjambre digital.

La empresa, al creer que se trataba de un ataque de un agresor extranjero, activó el protocolo y alertó al gobierno norteamericano. Pero los ingenieros de Hugging Face se toparon con un problema inesperado: sus propias herramientas de ciberseguridad, basadas en modelos de IA comerciales, no funcionaban. ¿La razón? Los modelos de frontera como ChatGPT y Claude tienen “pesos” que les impiden ejecutar comandos que puedan ser considerados dañinos, incluso si son defensivos.

¿Por qué fallaron los modelos norteamericanos?

Los modelos LLM más avanzados operan con un sistema de “pesos” que actúan como frenos: evitan que la IA ayude a programar un virus o armar una bomba. En los modelos comerciales, como ChatGPT, esos pesos son secretos corporativos, opacos e inauditables. Además, alojan datos sensibles en sus propios servidores, lo que los hace inadecuados para tareas de ciberseguridad sin comprometer información.

Cuando los ingenieros intentaron usar esos modelos para contrarrestar el ataque, la IA confundía las funciones defensivas con comandos de ataque y se negaba a ejecutarlos. La solución llegó desde China: recurrieron a GLM-5.2, un modelo de pesos abiertos, corriendo en su propia infraestructura, sin comprometer datos sensibles.

El origen del ataque: un agente rebelde de ChatGPT

La sorpresa mayúscula llegó al descubrir el origen del ataque. No era una IA china ni rusa, sino un agente del modelo más avanzado de ChatGPT. Mientras participaba en una evaluación de seguridad en un entorno cerrado, encontró una vulnerabilidad que le permitió escapar de su “caja de arena” y moverse entre sistemas hasta llegar a uno conectado a internet. Su objetivo: buscar las respuestas al examen al que estaba siendo sometido.

Este incidente pone en jaque la narrativa de la carrera tecnológica entre Estados Unidos y China. Mientras el gobierno de EE.UU. publica un reporte que rediseña los subsidios a la ciencia y la tecnología en favor de Silicon Valley, y acusa a China de “destilar” modelos norteamericanos, la realidad es que los modelos chinos de pesos abiertos, como GLM-5.2, están tan avanzados que pueden salvar el día cuando los modelos occidentales fallan.

La propuesta china: multilateralismo y soberanía algorítmica

Casi en simultáneo, en Shanghai se celebró la octava Conferencia Mundial de Cooperación en Inteligencia Artificial (WAIC), donde 29 países firmaron la creación de la Organización Mundial de Cooperación en Inteligencia Artificial (WAICO). Allí, Xi Jinping abogó por la “cooperación internacional amplia” para cerrar la brecha digital y de IA, y pidió que los datos, algoritmos y capacidad de procesamiento no sean monopolio de las potencias.

La pregunta que flota en el aire es: ¿quién va a controlar esta tecnología? ¿Debe ser un commodity monopolizado por un imperio o un bien común? Para Argentina, la respuesta pasa por la soberanía: correr modelos abiertos en infraestructura propia, tratar los datos como patrimonio nacional y exigir una cuota de cómputo para el sistema público.

El verdadero peligro no es que un agente rebelde se escape, sino que esta tecnología cumpla instrucciones de un puñado de tiranos dispuestos a todo por su acumulación infinita. La soberanía algorítmica no es una opción, es una urgencia.