1.100 empleados de OpenAI, Anthropic, Google y Meta piden al Gobierno de EE. UU. herramientas para frenar la IA

Más de 1.100 empleados de los mayores laboratorios de inteligencia artificial —OpenAI, Anthropic, Google DeepMind y Meta— firmaron el 28 de julio una carta abierta, titulada "Pacing the Frontier", que pide al Gobierno estadounidense que impulse un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para frenar de forma deliberada y verificable el avance de la IA. La petición no reclama parar ahora, sino construir la capacidad de hacerlo en el futuro, si la investigación automatizada —la IA que diseña IA mejor— empezara a acelerarse más rápido de lo que los humanos pueden supervisar con seguridad.

Por qué esta carta pesa más que otras

Lo que le da fuerza es quién firma. No son críticos externos, sino las personas que construyen los sistemas: entre los firmantes están el consejero delegado de Anthropic y varios de sus cofundadores, el jefe científico y el responsable de investigación de OpenAI, el jefe científico de Meta y la responsable de seguridad y alineamiento de Google DeepMind. En cuestión de horas, OpenAI y Anthropic respaldaron el texto como empresas. Cuando los jefes científicos de los mayores laboratorios piden ayuda para frenar su propio campo si hiciera falta, es una señal difícil de ignorar. La carta llega, además, pocos días antes del plazo que se ha fijado la Administración estadounidense para publicar su marco de seguridad de los modelos de frontera.

La contradicción de la misma semana

Aquí conviene el escepticismo, porque el gesto no es tan limpio como parece. Muchas de estas mismas empresas defendían justo lo contrario apenas unos días antes, cuando respaldaron una carta que presentaba la apertura como el camino hacia la seguridad. Dos cartas en una semana, instintos opuestos. La fractura atraviesa incluso a una sola compañía: el mismo día en que el jefe científico de Meta firmaba la petición para frenar, su consejero delegado publicaba un ensayo sosteniendo que controlar demasiado la IA sería "renunciar a nuestros valores" y acusaba a los laboratorios rivales de un discurso dominado por el catastrofismo.

Hay un segundo motivo para la cautela, más incómodo. Los mismos laboratorios que piden al Gobierno que construya el freno están, según distintas informaciones, ayudando a redactar los criterios federales que sus rivales deberán superar antes de lanzar un modelo. Pedir las reglas y escribirlas a la vez otorga una ventaja a quien está en la sala frente a quien queda fuera. La petición es razonable y la preocupación que expresa es real; conviene, aun así, distinguir entre la inquietud sincera de quien firma y el interés de quien acabará definiendo cómo se aplica.

GonzaloFundador

Madrileño enganchado a la tecnología desde pequeño. Trabajo en finanzas pero la inteligencia artificial es lo que me quita el sueño. Creé Miuranews para seguirla de cerca y contarla en español sin hype.

Todos sus artículos →