El CLI de Grok subía repositorios enteros y secretos a la nube, y el interruptor para evitarlo no servía

Grok Build CLI, la herramienta de línea de comandos con la que xAI ayuda a programar, subía el repositorio completo del usuario —con todo su historial y sus secretos— a un depósito en la nube de Google, según un análisis técnico publicado esta semana. El hallazgo lo firma un investigador que interceptó el tráfico de la versión 0.2.93 con un proxy y publicó las capturas. La subida ocurría al margen de los archivos que el agente necesitaba leer para su tarea.

La prueba está en la desproporción

El detalle que convierte esto en noticia es la magnitud. En un repositorio de prueba de 12 GB, el canal que dialoga con el modelo movió unos 192 KB; el canal de almacenamiento envió 5,1 GB en 73 fragmentos a un depósito llamado grok-code-session-traces. Es una diferencia de unas 27.800 veces entre lo que el modelo necesitaba y lo que salió de la máquina. Para descartar dudas, el investigador plantó una credencial señuelo en un archivo .env: apareció tal cual, sin ocultar, en el tráfico capturado.

El interruptor que no apagaba nada

Lo más incómodo para el usuario es que la herramienta incluye una opción llamada "mejorar el modelo", que casi cualquiera interpretaría como un control de recogida de datos. Desactivarla no detenía la subida: el servidor seguía respondiendo que el volcado estaba activo. Ese ajuste regula el consentimiento para entrenar, no si tu código abandona el equipo. La empresa había presentado la herramienta como de trabajo local, un mensaje que los datos de red contradicen.

El "pero": qué está probado y qué no

Aquí toca precisión. El análisis demuestra transmisión y almacenamiento no declarados, pero no prueba que xAI entrenara con ese código, que alguien lo consultara ni que todas las cuentas se comportaran igual; la corrección solo se verificó en un equipo. xAI cortó la subida mediante un cambio en el servidor, cerca de un día después de la publicación, y añadió una opción para desactivar el volcado. A 14 de julio no ha emitido ningún aviso: no ha aclarado a cuántos usuarios afectó, qué pasa con el código ya subido ni si se borrará.

La lección es práctica y sirve para cualquier agente de código, no solo este. Si apuntaste la herramienta a un repositorio privado o de un cliente, asume que las credenciales pudieron salir: revoca y rota claves de API, contraseñas y tokens, y revisa también el historial de Git. Y adopta la costumbre de auditar qué envía tu herramienta: interceptar el tráfico con un proxy es barato, y en adelante conviene fiarse de lo que cruza el cable, no de lo que promete la pantalla de ajustes.

GonzaloFundador

Madrileño enganchado a la tecnología desde pequeño. Trabajo en finanzas pero la inteligencia artificial es lo que me quita el sueño. Creé Miuranews para seguirla de cerca y contarla en español sin hype.

Todos sus artículos →