OpenAI resolvió 377 problemas de matemática con un modelo secreto: la advertencia que sacude a los expertos

La empresa publicó de golpe cientos de resultados que abarcan desde el álgebra hasta la topología, y la comunidad matemática entró en alerta. El anuncio reavivó un debate que ya venía creciendo: ¿la inteligencia artificial piensa o solo completa los pasos finales de demostraciones ajenas?

Los matemáticos quedaron atónitos con la velocidad de la inteligencia artificial. En los últimos meses, los sistemas más avanzados resolvieron algunos de los problemas abiertos más difíciles que habían eludido a los humanos durante años. Ahora, OpenAI redobló la apuesta.

El martes, la empresa fundada por Sam Altman inundó a los especialistas con cientos de nuevos hallazgos que cubren un amplio espectro: álgebra, teoría de números, informática teórica, lógica matemática y topología. En total, 377 resultados publicados al mismo tiempo.

El antecedente que cambió todo

Los 377 resultados llegan después de que OpenAI anunciara el mes pasado que había logrado descifrar la ecuación de Navier-Stokes, uno de los llamados Problemas del Milenio. Se trata de desafíos tan complejos que el Instituto Clay de Matemáticas ofrece un millón de dólares por cada solución.

Ese logro demostró de qué son capaces los modelos más avanzados, pero también encendió las alarmas: ¿los sistemas de OpenAI estaban empleando pensamiento creativo o simplemente completaban los pasos finales de una demostración después de tomar prestadas ideas del trabajo de matemáticos humanos?

Al igual que en el caso de Navier-Stokes, las nuevas soluciones se obtuvieron con un modelo de IA más avanzado que todavía no se lanzó al público.

Un consejo asesor y una recomendación que OpenAI ignoró

Hace un par de semanas, OpenAI informó que trabaja con un consejo asesor de matemáticos para definir cómo las empresas de inteligencia artificial deberían comunicar los resultados producidos por IA. El grupo tiene sede en el Instituto de Estudios Avanzados de Princeton, Nueva Jersey, y es independiente de cualquier compañía del sector.

Entre otras sugerencias, el consejo pidió que se publiquen todas las instrucciones dadas a los agentes de IA y sus cadenas de pensamiento. El martes por la noche, el organismo emitió un comunicado en el que calificó la publicación como “el comienzo, no la finalización, del proceso de comprensión humana y la incorporación del trabajo al conocimiento matemático”.

“Queremos crear estándares y prácticas para que los matemáticos puedan comprender los resultados que publican los laboratorios de IA y puedan hacer avanzar el campo”, dijo por correo electrónico Melanie Wood, matemática de Harvard e integrante del consejo asesor.

Muchas de las demostraciones fueron verificadas con Lean, un lenguaje informático que comprueba la lógica subyacente. Para 10 de las soluciones, la empresa también entregó resúmenes de cómo el modelo llegó a su respuesta. El resultado promedio demandó cerca de tres horas de cómputo, según detalló OpenAI.

“Hemos recurrido a su asesoramiento y a sus recomendaciones públicas para informar la manera en que publicamos estos resultados”, escribió la compañía en una publicación en su sitio web.

Sin embargo, OpenAI parece menos interesada en una recomendación clave del consejo: que las empresas de IA dejen de probar sus modelos de propiedad exclusiva en problemas matemáticos avanzados. “Queremos decirlo claramente desde el principio: no respaldamos esta práctica”, había escrito el consejo asesor el 29 de septiembre.

¿Pensamiento creativo o trabajo ajeno?

Las empresas de IA solían dar a sus modelos problemas de matemáticas similares a los que se plantean a estudiantes de secundaria en la Olimpiada Internacional de Matemática, usados como parámetros de rendimiento. Pero cuando los modelos lograron resolverlos, el equipo de OpenAI creó nuevos parámetros con problemas sin resolver en la vanguardia de la investigación matemática. Esos son, en parte, los que se publicaron el martes.

Dan Roberts, líder de investigación de OpenAI, sostuvo que era importante probar los modelos internos para producir mejores herramientas, y que las demostraciones fueron un subproducto de esas pruebas.

La mirada de los matemáticos externos es más escéptica. Tristan Buckmaster, investigador de la Universidad de Nueva York que trabajaba en el problema de Navier-Stokes que resolvió OpenAI, planteó que sigue sin estar claro si los matemáticos que usan modelos de IA como los de OpenAI estaban proporcionando sin darse cuenta la información que le permitió a la IA adelantarse con la respuesta final.

“Es probable que haya un montón de resultados en los que toman el trabajo de alguien y luego lo llevan a su conclusión”, dijo Buckmaster en una entrevista el lunes por la noche.

Con tantos resultados publicados a la vez, fue tajante: “No creo que hayan hecho en absoluto algún tipo de debida diligencia”.

El dilema de fondo

Los matemáticos se debaten sobre si el ritmo acelerado de resolución de problemas ayuda o perjudica a su campo cuando la comprensión de las soluciones se queda atrás.

“Creo que en el centro de este problema está el hecho de que los humanos tenemos dos naturalezas contrapuestas: una tendencia a competir y una capacidad de apreciar la belleza”, dijo Kai Shaikh, estudiante de posgrado en Matemáticas de la Universidad de Toronto. “Para mí, este parece ser un caso de la primera intentando estrangular a la segunda”.

Por Kenneth Chang, periodista de ciencia del Times.