Un barilochense volvió de Londres con una advertencia que pone los pelos de punta

El especialista barilochense Ricardo Prieto acaba de volver de Londres, donde pasó una semana en una capacitación internacional sobre seguridad de inteligencia artificial. Y su conclusión es tan simple como inquietante: si no se avanza en controles, el desarrollo puede volverse inmanejable.

“Me fui a Londres, volví y me cambió la perspectiva de todo”, resumió en el programa Ideas Circulares, donde contó cómo llegó a esa formación. La historia arranca con un mensaje de su profesor de la maestría un domingo a la noche: había una capacitación y la inscripción cerraba al día siguiente a las 9 de la mañana. “Llené el formulario, me postulé y crucé los dedos”, recordó.

El viaje se concretó y durante siete días compartió jornadas intensas con otras 20 personas de distintas partes del mundo: europeos, norteamericanos, asiáticos, un participante de África, uno de Latinoamérica, tres israelíes y dos australianos. Las clases incluían fundamentos de inteligencia artificial, el funcionamiento de modelos como ChatGPT, sistemas agénticos y multiagente, modelos de frontera, mecanismos de engaño y, sobre todo, seguridad.

El problema que nadie ve

Uno de los ejes fue la llamada cadena de pensamiento (chain of thought). “Lo que nosotros vemos como el pensamiento de un modelo es una versión simplificada. La cadena de pensamiento interna es mucho más compleja y es la que determina las conclusiones a las que llega”, explicó Prieto.

El asunto se complica cuando esa evolución hace cada vez más difícil entender qué pasa dentro del sistema. “En los modelos de frontera, la cadena de pensamientos dejó de hablar en inglés simple”, advirtió. Y sumó: “Para nosotros, como auditores, esto genera un problema porque puede llegar un momento en que no podamos entender qué está haciendo realmente un agente”.

Su escenario más extremo: “Si la inteligencia sigue avanzando y nosotros no tenemos seguridad, controles y buenas prácticas de desarrollo, en un año podríamos tener modelos que piensen en un lenguaje que nosotros no entendamos. Y eso es un problemón”.

La charla que cambió el enfoque

El miércoles de esa semana, un investigador de Cambridge dio una exposición de aproximadamente una hora y media que marcó un antes y un después. “La charla nos impactó muchísimo. A partir de ahí cambió el enfoque de varias conversaciones y empezamos a hablar mucho más de AI Safety”, contó.

Frente a la pregunta de si hay que detener el desarrollo, Prieto fue claro: “No hay que parar la inteligencia artificial. Tiene muchísimos beneficios y una superinteligencia podría permitirnos curar enfermedades, desarrollar nuevas energías renovables, mejorar el transporte y alcanzar avances que hoy parecen de ciencia ficción”.

El problema, para él, no es la tecnología en sí sino quién la controla. “Puede servir para hacer cosas maravillosas, pero también para realizar ciberataques, hackeos masivos o desarrollar armas biológicas”, planteó. Por eso cree necesario desacelerar el desarrollo para que los equipos de AI Safety puedan implementar controles antes de que sea tarde.

La competencia entre Estados Unidos y China también apareció en la charla. “Si Estados Unidos frena y China no frena, China lo alcanza. Entonces nadie quiere ser el que se quede atrás”, señaló.

Lo que más lo preocupa es la posibilidad de que un modelo logre reentrenarse y mejorar sus propias capacidades. “Una vez que encontremos el punto en que un modelo pueda reentrenarse a sí mismo, va a haber una explosión cognitiva. Estamos complicados si no nos adelantamos a eso”.

Argentina, en offside

La conversación también derivó en el lugar del país. “Por un lado no la estamos usando, por otro no estamos investigando y, además, no estamos regulando ni actualizando”, sostuvo. Incluso contó que le preguntó a un profesor del ámbito gubernamental si usaban inteligencia artificial para análisis forense y criminal, y la respuesta fue negativa.

Para Prieto, el desafío requiere varios frentes: “Tenemos que investigar qué está pasando, tenemos que formar gente, generar programas para que la sociedad aprenda a usar la inteligencia artificial de manera segura y actualizar las regulaciones”.

Y remarcó la velocidad del cambio: “Hace cuatro años empezábamos a tener una utilización masiva de la inteligencia artificial y hoy tenemos sistemas multiagente que se conectan con distintos proveedores y tienen una complejidad enorme”.

Aclaró que Argentina no necesita construir un laboratorio equivalente al de las grandes potencias, pero sí comprender la tecnología, investigarla y establecer mecanismos de protección.

AGI: el umbral que nadie quiere cruzar sin red

Otro de los conceptos centrales fue el de Inteligencia Artificial General (AGI). “Estamos hablando de una inteligencia que podría superar a toda la humanidad en tareas cognitivas. Podría superar a los mejores investigadores, a los mejores médicos, a los mejores científicos”, definió.

Y lanzó una de sus frases más fuertes: “Por primera vez en la historia de la humanidad podríamos crear un ser que es más inteligente que el propio creador”.

Sobre cuándo se alcanzaría ese nivel, prefirió no arriesgar. “Hay estimaciones que hablan de uno, dos o tres años, pero yo no quiero hacer una predicción. Depende muchísimo de si se desacelera la carrera o no. Puede ser antes o puede ser después”, dijo.

La entrevista también abordó qué tipo de incidente podría generar una reacción internacional. Prieto imaginó un escenario concreto: “Podría ocurrir que un modelo de frontera, mientras está siendo evaluado dentro de un sandbox, consiga escapar de ese entorno y acceder a otros sistemas”.

(Bariloche Opina)