El jefe de Anthropic sacudió al sector: "La industria mintió" sobre los riesgos de la IA

El fundador y director ejecutivo de Anthropic, Dario Amodei, encendió una alarma que el sector tecnológico venía esquivando. En una entrevista con el programa Sunday Morning de CBS, acusó a la industria de haber mentido sobre los peligros reales de la inteligencia artificial y pidió que los gobiernos y la sociedad asuman un rol central en su regulación.

"No les voy a mentir: existen peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgo", disparó Amodei. "Nosotros nunca lo hicimos en Anthropic, pero mucha de la industria sí", agregó.

La embestida no fue un hecho aislado. Días antes, el ejecutivo había publicado un ensayo donde reclamó "un ritmo más lento" para el desarrollo de la IA, una postura que lo alinea con otras voces influyentes del rubro, como Sam Altman, de OpenAI, y Elon Musk, de xAI.

Los peligros que enumeró

En ese texto, Amodei detalló los riesgos que, según él, la industria minimizó: el uso de la IA en ciberataques y bioterrorismo, la pérdida de control sobre sistemas autónomos y una disrupción económica capaz de golpear a millones de trabajadores.

Pero lejos de pedir un apagón tecnológico, el CEO de Anthropic descartó una prohibición total. "No creo que prohibirla por completo sea el enfoque correcto. Primero, porque perderíamos beneficios increíbles como curas médicas. Segundo, porque esta tecnología se desarrollará en otros países, incluyendo países autoritarios", argumentó.

El dilema geopolítico y la incomodidad con el poder privado

Amodei reconoció que el nudo más complejo es geopolítico: si Estados Unidos frena, China podría avanzar sin restricciones y quedarse con el liderazgo tecnológico global. Aun así, no escondió su incomodidad con la concentración de poder en manos privadas. "Me resulta incómodo que una compañía esté a cargo de una herramienta tan poderosa. Creo que debería existir una combinación de gobiernos democráticos que ejerzan una gobernanza conjunta", subrayó.

Para el ejecutivo, la clave pasa por cómo se construye la tecnología. "Si construimos de la manera correcta, la probabilidad de que ocurra algo malo es muy baja. Si construimos de la manera incorrecta, la probabilidad de que ocurra algo malo es muy alta", sentenció.

Sus advertencias chocaron de frente con la postura del presidente estadounidense, Donald Trump, y del líder de la Cámara de Representantes, Mike Johnson, quienes este domingo defendieron seguir adelante con el desarrollo de la IA para no cederle terreno a China.

El debate se avivó además tras la renuncia de Jacob Coxon, investigador de Anthropic y ex OpenAI, que denunció que las compañías estaban más concentradas en superarse entre sí que en garantizar la seguridad de sus productos. "Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década. No se trata de una maniobra publicitaria. He escuchado a ejecutivos e investigadores expresar temor en privado", escribió Coxon en su cuenta de X.

Amodei cerró con una definición sobre el modelo de gobernanza: "No podemos dejar que las decisiones críticas dependan de los intereses de una sola empresa. La democracia debe tener voz en este proceso".