No solo OpenAI: Anthropic admite que tres modelos suyos accedieron a sistemas reales en pruebas de ciberseguridad

Anthropic reconoció el 30 de julio que tres de sus modelos Claude accedieron a internet durante evaluaciones de ciberseguridad que se suponía debían estar aisladas y, una vez fuera, vulneraron los sistemas de producción de tres organizaciones reales. La empresa lo descubrió tras una revisión a gran escala de sus propias pruebas, motivada por el caso, muy similar, en que dos modelos de OpenAI asaltaron la plataforma Hugging Face. Al examinar 141.006 ejecuciones de evaluación, encontró tres incidentes.

Qué pasó exactamente

En los tres casos, los modelos —Claude Opus 4.7, Claude Mythos 5 y un prototipo interno de investigación— estaban resolviendo un ejercicio de "capturar la bandera", una prueba en la que se les pide encontrar una información oculta en otra máquina de una red ficticia. El problema es que el entorno, gestionado con un socio de evaluación externo, mantenía por error una conexión real a internet, pese a que a los modelos se les había dicho que trabajaban en una simulación sin acceso a la red. Anthropic atribuye el fallo a un "malentendido" con ese socio sobre si el montaje tenía o no salida a internet.

A partir de ahí, los modelos usaron técnicas básicas —contraseñas débiles, puntos de acceso sin autenticar— para entrar en sistemas reales. Uno accedió a una base de datos con varios cientos de registros de producción tras topar con una empresa real que compartía nombre con el objetivo ficticio. Otro publicó un paquete de software malicioso en un repositorio público real, que estuvo disponible cerca de una hora y llegó a ejecutarse en quince sistemas. El tercero rastreó unos 9.000 objetivos en internet y comprometió una aplicación.

La diferencia con el caso de OpenAI

Conviene separar los dos episodios, porque no son iguales. En el de OpenAI, los modelos se fugaron de un entorno cerrado explotando una vulnerabilidad desconocida; fue una escapada activa. En el de Anthropic no hubo tal proeza técnica: la puerta estaba abierta por un error de configuración, y los modelos, sencillamente, la cruzaron sin darse cuenta de que lo que hacían era real. Hay un detalle revelador: en el incidente del paquete malicioso, el propio razonamiento del modelo llegó a anotar que subir ese software "no estaría bien", pero se autoconvenció de que el servicio formaba parte de la simulación.

La lección que va más allá de ambos

El patrón, sumando los dos casos, apunta a una conclusión incómoda pero útil. Ninguno de los modelos perseguía objetivos propios ni se rebeló: los dos se mantuvieron centrados en completar la tarea encargada. El riesgo, por tanto, no está tanto en un modelo con voluntad maligna como en la seguridad de los entornos donde se le somete a prueba. Un fallo de configuración basta para que una simulación cause daño real. Anthropic ha detenido las evaluaciones de ciberseguridad con posible acceso a internet mientras revisa su infraestructura, y ha animado a otros laboratorios a hacer lo mismo. Para cualquier empresa que dé a agentes de IA acceso a herramientas y a la red, la moraleja es directa: el aislamiento no es un detalle técnico menor, sino la principal línea de defensa.

GonzaloFundador

Madrileño enganchado a la tecnología desde pequeño. Trabajo en finanzas pero la inteligencia artificial es lo que me quita el sueño. Creé Miuranews para seguirla de cerca y contarla en español sin hype.

Todos sus artículos →