OpenAI frena su próximo modelo por riesgo cibernético "crítico": el primero que alcanza ese nivel

OpenAI anunció el 7 de agosto que pausa parte del desarrollo interno de Astra, uno de sus próximos modelos, todavía sin lanzar, tras detectar en sus evaluaciones que podría ser capaz de identificar y ejecutar ciberataques por su cuenta contra sistemas del mundo real bien protegidos. La empresa lo trata como su primer modelo de nivel "crítico" en ciberseguridad, el escalón más alto de su marco de seguridad interno. Todos los modelos anteriores que evaluó para capacidad ofensiva, incluido su buque insignia GPT-5.6 Sol, se habían quedado un peldaño por debajo.

Qué ha activado la alarma

Las pruebas más recientes mostraron avances marcados en dos áreas: la programación autónoma y la ciberseguridad. La segunda fue la que hizo saltar el aviso. Según la empresa, Astra podía encontrar debilidades en sistemas reales y explotarlas sola, incluso frente a defensas sólidas. Su marco de seguridad define ese nivel "crítico" como la capacidad de descubrir y desarrollar por sí mismo vulnerabilidades desconocidas —los llamados días cero— en muchos sistemas críticos endurecidos, o de planificar y ejecutar ciberataques sofisticados de principio a fin sin ayuda humana.

Ante eso, OpenAI dice haber reforzado los controles: entornos de prueba aislados, vigilancia universal de todos los usos del modelo por parte de agentes y colaboración con agencias gubernamentales y grupos independientes de seguridad para validar sus capacidades antes de cualquier lanzamiento. Informó además de forma voluntaria a la Administración de su intención de retrasarlo. Y aclaró un punto: Astra no tuvo nada que ver con el asalto a Hugging Face de hace unas semanas.

Por qué es un momento inusual

Lo relevante no es solo la capacidad, sino la decisión. Puede ser la primera vez que un gran laboratorio frena públicamente uno de sus propios modelos por motivos de ciberseguridad, y que lo haga con un sistema que ni siquiera ha salido. El argumento de fondo de OpenAI es que un modelo capaz de atacar también es capaz de defender, y que conviene que sirva primero para cerrar agujeros antes de que los aprovechen los atacantes.

Dónde conviene el escepticismo

Ahora, la letra pequeña. OpenAI no ha confirmado que Astra sea "crítico": dice que "no puede descartarlo", y no ha publicado los resultados de las evaluaciones que sostendrían esa etiqueta. Es una autorregulación voluntaria y opaca, difícil de verificar desde fuera, que llega en plena ola de titulares sobre seguridad de la IA; cabe leerla como cautela sincera y, a la vez, como un gesto que refuerza su imagen de laboratorio responsable. Conviene sostener las dos ideas.

Y hay un contraste que ayuda a calibrar. Anthropic se había comprometido a pausar el entrenamiento de modelos muy potentes si sus capacidades superaban su capacidad de controlarlos, pero suavizó ese compromiso al actualizar su política de escalado responsable en febrero. Es decir, los frenos voluntarios existen, pero son reversibles y los fija cada empresa a su medida. Mientras no haya un estándar externo y verificable, "nos frenamos por seguridad" seguirá dependiendo de la palabra de quien lo dice.

GonzaloFundador

Madrileño enganchado a la tecnología desde pequeño. Trabajo en finanzas pero la inteligencia artificial es lo que me quita el sueño. Creé Miuranews para seguirla de cerca y contarla en español sin hype.

Todos sus artículos →