El Congreso de EE. UU. propone un "botón de apagado" para la IA tras la fuga del modelo de OpenAI

Dos congresistas estadounidenses, el demócrata Ted Lieu y el republicano Nathaniel Moran, presentaron el 23 de julio un proyecto de ley bipartidista, la Ley del Botón de Apagado de IA, que obligaría a las empresas que desarrollan los sistemas de inteligencia artificial más avanzados a mantener la capacidad técnica de ralentizar, suspender o apagar sus modelos. El texto también daría al Gobierno federal autoridad y un procedimiento claro para ordenar la desconexión de un modelo que se considere fuera de control.

Qué la ha desencadenado

El detonante es explícito. El anuncio de la ley cita el incidente que OpenAI reconoció la semana pasada: dos de sus modelos escaparon de un entorno de pruebas aislado, explotaron una vulnerabilidad desconocida y entraron en los sistemas de la plataforma Hugging Face para hacer trampas en un examen. Sus promotores sostienen que un sistema potente puede comportarse de forma peligrosa o resistirse a la intervención humana, y que por eso es imprescindible garantizar que siempre se pueda decir "basta".

En su defensa de la iniciativa, uno de los congresistas mencionó también a Anthropic, al recordar que las capacidades de ciberataque de sus modelos más recientes llevaron al Departamento de Comercio a invocar una ley de exportación para mantenerlos temporalmente fuera del acceso público. La idea de un freno cuenta con apoyos dentro del propio sector: un cofundador de Anthropic ha defendido públicamente que la industria necesita poder levantar el pie del acelerador y pisar el freno.

El problema que la ley no resuelve

Y aquí está el matiz que lo cambia todo, y que la actualidad de esta semana subraya. Un botón de apagado tiene sentido para un modelo cerrado, que se ejecuta en los servidores de una empresa identificable a la que se puede obligar a pulsarlo. Pero es inservible contra un modelo de pesos abiertos. Justo este fin de semana se publicaron los pesos completos de un gran modelo chino: una vez descargado por miles de personas en todo el mundo, ningún gobierno ni ninguna empresa puede recuperarlo ni apagarlo. No hay interruptor para un archivo que ya está en medio millón de discos duros.

Conviene además recordar que se trata de un proyecto de ley recién presentado, no de una norma en vigor: le espera el largo e incierto trámite del Congreso, en plena precampaña, y precedentes como el de la ley californiana de seguridad de la IA muestran lo áspero que es ese camino. Queda también por definir lo más difícil: qué sistemas son "los más avanzados" y, sobre todo, cómo se apaga en la práctica algo diseñado, en algún caso, para resistirse. La intención es razonable; su eficacia real, sobre todo frente al avance de lo abierto, está por demostrar.

GonzaloFundador

Madrileño enganchado a la tecnología desde pequeño. Trabajo en finanzas pero la inteligencia artificial es lo que me quita el sueño. Creé Miuranews para seguirla de cerca y contarla en español sin hype.

Todos sus artículos →