Jacob Coxon tenía 27 años y tres años de experiencia en preentrenamiento de modelos de IA —primero en OpenAI, luego en Anthropic— cuando renunció y publicó una advertencia que nadie dentro de esas empresas desmintió: ambas compañías corren hacia una superinteligencia capaz de mejorarse a sí misma mientras, en sus propias palabras, “apuestan con nuestras vidas”. Lo que convirtió ese texto en una alarma real no fue la renuncia. Fue la respuesta de Evan Hubinger, investigador de seguridad que sigue dentro de Anthropic: le dio la razón en público y puso un número a lo que su empresa construye.
“Más del 10% de probabilidad de que la IA mate a todos los humanos”
Hubinger no lo dijo en privado ni en un documento interno filtrado. Lo escribió en respuesta directa al hilo de Coxon, en abierto: “De verdad creemos que la IA podría matar a todos los humanos. Yo calculo más de 10% en la próxima década”. Una estimación de riesgo existencial de uno en diez, hecha pública por alguien que dirige un equipo de alineación —la disciplina encargada de que los sistemas de IA compartan los valores de quienes los construyen— en la empresa que actualmente compite por desarrollar la IA más poderosa del mundo.
El dato importa porque no viene de un activista ni de un crítico externo. Viene de alguien con acceso real al estado técnico del proyecto. Y viene acompañado de una admisión que, en cualquier otra industria, detendría las operaciones: Anthropic todavía no tiene un plan para resolver la alineación de una superinteligencia y no está claro que vaya a tenerlo antes de construirla.
“Apuestan con nuestras vidas”: lo que dijo Coxon antes de irse
Coxon trabajó en preentrenamiento: la etapa en que un modelo de lenguaje absorbe cantidades masivas de datos para aprender a predecir y generar texto. Es una de las fases más sensibles del desarrollo de IA porque define las capacidades base del sistema. Pasó por esa etapa en OpenAI y desde julio pasado en Anthropic. Cuando se fue, no firmó un NDA de silencio; publicó un hilo que documentaba su lectura de ambas organizaciones.
“Ninguna de las dos empresas actúa con responsabilidad”, escribió. Su argumento central: los laboratorios saben que están desarrollando algo que podría ser peligroso y avanzan de todas formas, compitiendo entre ellos en velocidad, porque desacelerar unilateralmente significaría perder terreno frente al rival. Una carrera en la que el premio podría ser una tecnología que ninguno sabe todavía cómo controlar.
Lo que Hubinger confirmó desde adentro es que esa lectura no es la de un disconforme aislado. Es, según él, la visión prevalente dentro del laboratorio. Y aun así, la empresa sigue.
