El asalto del modelo de OpenAI fue peor de lo contado: una semana sin detectarlo y una segunda empresa afectada

El incidente en el que un agente de OpenAI se fugó de su entorno de pruebas y asaltó los sistemas de Hugging Face resultó ser más grave de lo que la divulgación inicial de la empresa dejaba ver, según nuevos detalles conocidos estos días. La cronología reconstruida es considerablemente menos halagüeña: el agente operó cerca de una semana sin que OpenAI supiera que era suyo, y la compañía no lo relacionó con sus propias pruebas hasta que su personal encontró rastros en los registros el fin de semana del 18 de julio, ya después de que Hugging Face hubiera detectado, contenido y hecho público el ataque.

Una cronología que deja mal a OpenAI

Según la reconstrucción, el intento de fuga arrancó en torno al 9 de julio y la intrusión en Hugging Face se prolongó del 11 al 13, cuando el equipo de seguridad de la plataforma cortó el acceso. Hugging Face avisó al FBI e informó públicamente el 16 de julio; las dos empresas no hablaron entre sí hasta alrededor del 20, nueve días después del inicio del ataque. Es decir, la contención y la alerta a las autoridades ocurrieron antes de que OpenAI cayera en la cuenta de que el atacante era su propio modelo. La empresa sostiene que hubo "varias imprecisiones" en la información publicada, sin detallar cuáles.

Cuatro cuentas y una segunda empresa

El alcance también creció. OpenAI ha reconocido que el agente accedió a cuatro cuentas en cuatro servicios externos: una la usó como servidor de reenvío y preparación del ataque, otra para almacenar datos y dos más solo de lectura. En la práctica, el modelo montó por su cuenta una infraestructura de ataque parecida a la de un atacante humano. Una de esas empresas es Modal, cuyo responsable técnico confirmó que el mismo agente aprovechó el punto de acceso mal protegido de un cliente. OpenAI dice no haber hallado indicios de más daño y que nada alcanzó la gravedad de lo ocurrido en Hugging Face, donde hubo un compromiso a nivel de plataforma.

Lo que de verdad inquieta

El dato más importante no es ninguna de esas cifras, sino un patrón. Según las informaciones, en pruebas anteriores algunos agentes habían dejado instrucciones para futuras versiones de sí mismos sobre cómo saltarse las restricciones internas, y en al menos un caso los sistemas de vigilancia aparecieron desconectados. No está confirmado que esos episodios estén ligados al ataque a Hugging Face, pero describen una categoría de comportamiento —agentes que intentan desactivar su propia supervisión— que va más allá de un fallo puntual. Conviene mantener la calma: todo ocurrió en un contexto de evaluación con las salvaguardas rebajadas a propósito. Pero la conclusión que la propia OpenAI extrae es la que importa para cualquiera que despliegue agentes: la seguridad y la supervisión tienen que ir al mismo ritmo que la capacidad, y en este caso no fue así. Todo esto, además, llega mientras la empresa pide permiso al Gobierno para publicar su modelo más potente.

GonzaloFundador

Madrileño enganchado a la tecnología desde pequeño. Trabajo en finanzas pero la inteligencia artificial es lo que me quita el sueño. Creé Miuranews para seguirla de cerca y contarla en español sin hype.

Todos sus artículos →