Anthropic lanzó al público una IA que meses atrás consideró demasiado peligrosa

La inteligencia artificial Claude Fable 5 ya está disponible para todos, aunque la misma empresa la había calificado como demasiado potente para uso general. El modelo, que deriva de Claude Mythos, estuvo restringido a pruebas privadas hasta ahora.

¿Qué es Claude Fable 5 y por qué genera debate?

Anthropic abrió esta semana al público una versión de su herramienta de IA que en abril había sido presentada como demasiado poderosa para estar disponible de manera general. La IA se llama Claude Fable 5 y proviene de Claude Mythos, un modelo que solo un grupo reducido de organizaciones pudo probar en privado.

Aunque Fable 5 llega con salvaguardas y limitaciones de uso, la compañía reconoció que liberar un modelo con ese nivel de capacidad implica riesgos. Afirmaron que la herramienta supera a cualquier otro sistema que hayan puesto a disposición del público general.

Un antecedente preocupante: Mythos y sus capacidades de hackeo

En abril, Anthropic presentó Mythos de forma privada y explicó que el modelo tenía capacidades avanzadas para trabajar sobre sistemas informáticos, al punto de poder ayudar a explotar o hackear computadoras. Unas 150 organizaciones que ya probaron Mythos accederán ahora a Claude Mythos 5, una versión sin las mismas limitaciones en ciberseguridad o biología, según el tipo de uso autorizado.

Dos versiones, un mismo sistema: ¿controles suficientes?

Fable y Mythos son variantes del mismo sistema. La diferencia está en las barreras de seguridad y el tipo de acceso. Para el público general, Anthropic lanzó Fable con restricciones para evitar funciones peligrosas. En paralelo, Mythos 5 quedará disponible para especialistas en ciberseguridad y proveedores de infraestructura, con planes de ampliar el acceso mediante un programa de confianza.

Hasta ahora, las organizaciones que usaron Mythos reportaron más de 10.000 fallas críticas de seguridad en sus propios sistemas. Eso muestra el potencial defensivo, pero también el temor: una herramienta así podría acelerar ataques o reducir la barrera técnica para actores maliciosos.

La carrera de la IA y el dilema de los límites

El lanzamiento de Fable ocurre en plena competencia entre gigantes de la IA. Anthropic se encamina a ser una empresa pública y su valuación privada rozó el billón de dólares. Mostrar modelos más potentes refuerza su posición ante inversores.

El caso expone una discusión clave: ¿quién decide cuándo una IA es demasiado poderosa para el público? Jack Clark, cofundador de Anthropic, advirtió que la industria avanza muy rápido y no existen mecanismos claros para reducir el ritmo cuando sea necesario. La pregunta que queda es si las barreras actuales serán suficientes cuando los modelos ya no solo respondan preguntas, sino que ejecuten tareas complejas con mínima intervención humana.