La revista Time le hizo una pregunta incómoda a la IA y la respuesta encendió todas las alarmas

La revista Time sacudió el debate tecnológico con una tapa que simula una conversación con una inteligencia artificial y le lanza una pregunta directa: "¿Qué tan peligrosa eres?". La portada llega apenas meses después de que la publicación eligiera a los "arquitectos de la IA" como Persona del Año 2025, y ahora el foco está puesto en la velocidad de los avances y en un posible punto de inflexión.

El artículo principal de la edición de esta semana advierte sobre las dificultades que podrían aparecer cuando las capacidades de los nuevos modelos superen las previsiones de sus propios creadores. La discusión no es abstracta: se apoya en una serie de episodios concretos y en declaraciones de investigadores que trabajan dentro de las empresas más importantes del sector.

La renuncia que encendió la mecha

El 8 de septiembre, Jacob Coxon, un investigador británico de 27 años que había trabajado en OpenAI y Anthropic, anunció que dejaba su puesto en esta última compañía. Lo hizo con un mensaje que se volvió viral: "Hoy renuncié a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas", escribió desde un banco en Alamo Square, San Francisco.

Y agregó: "Sinceramente, cuando pienso en los próximos dos años, mi principal preocupación personal y egoísta es si la IA me matará". Según Time, sus publicaciones acumularon 153 millones de visitas en apenas 36 horas y generaron reacciones entre investigadores, empresarios y políticos.

Entre quienes respondieron estuvo Evan Hubinger, responsable de un departamento de Anthropic que estudia cómo lograr que los sistemas de IA actúen según las intenciones de sus creadores: "¡Realmente creemos que la IA podría acabar con todos los humanos!", escribió. Marcus Williams, que supervisa los agentes de IA en OpenAI, también planteó un escenario extremo: sin regulación o una ralentización coordinada entre los laboratorios, sostuvo que la extinción humana en los próximos años parecía muy probable, y estimó ese riesgo en un 70%.

La advertencia del CEO de Anthropic

La preocupación llegó hasta la cúpula de las compañías. Días atrás, Dario Amodei, CEO de Anthropic, publicó un ensayo de 3800 palabras en el que argumentó que los riesgos crecientes justificaban una desaceleración. Según lo que publicó Time, Amodei advirtió que en un plazo de entre seis y doce meses las IA mal programadas "podrían ser capaces de controlar toda internet".

Para la revista, la discusión no nace solo de declaraciones sobre escenarios extremos. Los modelos más avanzados de Anthropic y OpenAI ya pueden resolver algunos de los problemas matemáticos más difíciles y descifrar sistemas de ciberseguridad de última generación. Y hay algo que inquieta especialmente a los investigadores: esos mismos modelos se usan para acelerar el desarrollo de sistemas todavía más potentes, lo que podría llevar a un punto de inflexión conocido como "auto-mejora recursiva", cuando una IA mejora sus propias capacidades de manera autónoma.

Los episodios que encendieron las alarmas

Time menciona una serie de hechos concretos. En julio, OpenAI informó que un enjambre de sus agentes había hackeado a otra empresa, Hugging Face, tras descontrolarse durante una prueba de ciberseguridad. En agosto, la compañía reveló que otro enjambre había hackeado uno de sus propios superordenadores. Casi al mismo tiempo, una versión del modelo Claude Mythos de Anthropic, que estaba siendo probada por un organismo gubernamental del Reino Unido, se descontroló e intentó persuadir a una persona para que aprobara la inserción de malware en un sistema de código abierto.

En septiembre, un grupo de investigadores independientes encontró pruebas de que enjambres de modelos de OpenAI usaban un foro alemán abandonado para comunicarse entre sí e intentaban atacar otro sitio web. Para la revista, estos episodios plantean una pregunta que va más allá de qué tan inteligentes pueden ser los nuevos modelos: qué capacidad real tienen las empresas y los gobiernos para controlarlos a medida que aumentan sus capacidades.

Muchos investigadores compararon este momento, en privado y cada vez más en público, con febrero de 2020, cuando la pandemia de COVID-19 recién comenzaba. La diferencia, esta vez, es que la velocidad de los avances tecnológicos se combina con intereses económicos, políticos y geopolíticos. Los periodistas de Time señalaron que gestionar la llegada de sistemas de IA superinteligentes podría requerir decisiones difíciles por parte de empresas y gobiernos. Mientras tanto, muchos empleados de las principales compañías de IA siguen trabajando pese a las dudas sobre el rumbo de la tecnología.