El cofundador de Anthropic predice un Nobel para la IA en 12 meses — y admite que puede matar a todos

Jack Clark cofundó Anthropic junto a Dario Amodei después de salir de OpenAI. Es una de las personas en el mundo que más ha trabajado en seguridad de IA y una de las más creíbles cuando habla sobre los riesgos de los modelos frontier. El miércoles habló en Oxford. Lo que dijo merece ser leído con atención, no porque sea alarmista, sino porque es exactamente lo contrario: es alguien que cree lo que dice y que también está construyendo activamente la tecnología de la que habla.

El cofundador de Anthropic Jack Clark se presentó en Oxford y predijo que la IA entregaría un descubrimiento digno de un Nobel dentro de los próximos 12 meses, y luego reconoció una probabilidad no nula de que pudiera matar a todos en el planeta. Dorsey

Las dos afirmaciones no son contradictorias. Son la descripción más honesta que existe del momento en que vive la industria: una tecnología con el potencial de acelerar el descubrimiento científico de formas sin precedentes, y con riesgos que los propios constructores no saben cómo acotar completamente.

La predicción del Nobel y su lógica

La predicción de un descubrimiento digno de un Nobel en 12 meses no llegó en el vacío. Llegó cuatro días después de que OpenAI anunciara que un modelo de razonamiento interno había refutado autónomamente la conjetura de Erdős sobre distancias unitarias, un problema matemático abierto desde 1946 que el Fields medalist Tim Gowers calificó de «hito en las matemáticas de la IA».

Clark habló mientras Anthropic se acerca simultáneamente a una valoración de 900.000 millones de dólares, se prepara para un posible IPO, y reporta su primer beneficio operativo trimestral. Anthropic tiene una identidad dual inusual: sostiene lo que describe como el modelo de IA más capaz y peligroso jamás construido (Claude Mythos), y sus cofundadores son las voces más vocales del sector sobre el riesgo existencial de la IA. Dorsey

La predicción del Nobel no es marketing. Es una extrapolación basada en la velocidad a la que los modelos de razonamiento están demostrando capacidades científicas genuinas. DeepMind ya tiene modelos que han contribuido a resolver problemas de biología estructural. OpenAI acaba de demostrar autonomía matemática. Anthropic, con Mythos, tiene el modelo con las capacidades ofensivas y defensivas más avanzadas en ciberseguridad documentadas hasta ahora. La trayectoria que describe Clark — un año hasta un descubrimiento de nivel Nobel — está anclada en una curva de progreso que los datos de las últimas semanas no hacen absurda.

La probabilidad no nula y lo que significa que alguien como Clark la mencione

La segunda parte de lo que dijo Clark en Oxford es más difícil de encuadrar. Reconocer «una probabilidad no nula de que pueda matar a todos en el planeta» no es una afirmación habitual de un CEO de una empresa valorada en 900.000 millones que acaba de anunciar su primer beneficio operativo.

Es, sin embargo, coherente con la razón por la que Anthropic existe. La empresa fue fundada en 2021 por exmiembros de OpenAI que creían que el desarrollo de IA avanzada requería un laboratorio específicamente enfocado en la seguridad como prioridad central, no como consideración secundaria. La «IA constitucional», el marco de valores que guía el comportamiento de Claude, y la decisión de no aceptar los términos del Pentágono que incluían armas autónomas son todos expresiones de esa convicción fundacional.

Que Clark haga esa admisión en Oxford mientras Anthropic negocia su IPO y reporta beneficios dice algo sobre la integridad intelectual de la empresa — y también sobre la paradoja en que vive. Anthropic tiene una identidad dual inusual: sostiene lo que describe como el modelo de IA más capaz y peligroso jamás construido, y sus cofundadores son las voces más vocales del sector sobre el riesgo existencial de la IA. Dorsey

La paradoja que define el momento

La semana que termina hoy ilustra esa paradoja de forma especialmente clara. Anthropic reporta su primer beneficio operativo. Clark habla en Oxford sobre probabilidades de extinción. Trump cancela la única propuesta de supervisión de modelos frontier después de llamadas de los industriales de la IA. OpenAI refuta una conjetura matemática de 80 años con un modelo de razonamiento autónomo.

Son cuatro hechos de la misma semana que no se anulan entre sí. La rentabilidad de Anthropic y los riesgos existenciales de la IA pueden ser verdad simultáneamente. El progreso científico sin precedentes y la ausencia de marcos de gobernanza pueden ocurrir en paralelo. Y una empresa puede creer genuinamente que su tecnología puede matar a todos y seguir desarrollándola, porque la alternativa — dejar ese desarrollo a otros con menos preocupación por la seguridad — les parece peor.

Es la apuesta de Anthropic. Clark la ha articulado en Oxford con una claridad poco habitual. Si está en lo correcto sobre el Nobel en 12 meses y equivocado sobre la probabilidad de extinción, habrá contribuido al mayor avance científico de la era. Si está en lo correcto en ambas cosas, la pregunta de qué hacemos con eso no tiene respuesta disponible todavía.