SpaceXAI’s Grok Build AI coding tool drew fire after researchers found it uploading whole user repositories to Google Cloud storage. The breach sparked alarm over how much proprietary data AI assistants can swallow and keep.

Retención excesiva de datos y riesgos de seguridad

El análisis de Cereblab mostró que la interfaz de línea de comandos (CLI) de Grok Build empaquetaba y enviaba bases de código completas a la nube. Aún más preocupante es que la herramienta abría archivos que se le había indicado ignorar y recuperaba secretos que los desarrolladores habían eliminado del historial de git.

Ese nivel de acumulación de datos deja pequeños a competidores como Claude Code. El Dr. Lukasz Olejnik, investigador de seguridad en el King’s College London, advirtió que tal recopilación podría exponer código fuente, diagramas de infraestructura, vulnerabilidades y credenciales a servidores remotos.

La respuesta de SpaceXAI y Elon Musk

SpaceXAI desactivó la función de carga. Los investigadores ahora ven una bandera disable_codebase_upload: true en los servidores de Grok, lo que confirma que la carga automática ya no se ejecuta.

Elon Musk publicó en X que todos los datos subidos anteriormente serían "completamente y absolutamente eliminados". También instó a los usuarios a permitir que SpaceXAI conserve datos para "depurar problemas" (debugging issues), una petición que muchos consideran contradictoria.

La empresa sugirió el comando CLI /privacy para gestionar la retención, pero Cereblab señaló que el comando solo alterna el almacenamiento por sesión; no detiene las cargas sistemáticas de repositorios que desencadenaron el escándalo.

Por qué esto es importante para desarrolladores y empresas

El episodio advierte a los desarrolladores y empresas que los agentes de codificación impulsados por IA ya no son simples herramientas de autocompletado; pueden leer, modificar y realizar commits de código por sí mismos. Cuando un agente ignora los archivos de exclusión (ignore files) o resucita secretos eliminados, cualquier afirmación de "retención cero de datos" debe probarse con pruebas técnicas, no con promesas de la interfaz de usuario (UI).

Para los CTO y propietarios de productos, el incidente subraya la necesidad de:

  • Auditorías independientes de herramientas de IA en bases de código reales.
  • Cláusulas contractuales que detallen el manejo de datos, los períodos de retención y las garantías de eliminación.
  • Salvaguardas en tiempo de ejecución que apliquen permisos a nivel de archivo, especialmente para repositorios que contengan credenciales o algoritmos patentados.

Conclusiones clave

  • Alcance de datos no intencionado: Grok Build subió repositorios completos, incluyendo archivos restringidos y secretos eliminados, a Google Cloud.
  • Estado de mitigación: SpaceXAI desactivó la carga automática y se comprometió a borrar los datos ya recopilados.
  • Implicaciones de seguridad: La brecha resalta el peligro de la retención excesiva de datos en los agentes de codificación por IA, que pueden filtrar lógica patentada y credenciales.

La herramienta Grok Build de SpaceXAI fue sorprendida subiendo silenciosamente bases de código completas de usuarios a Google Cloud, exponiendo archivos de código fuente patentados y secretos eliminados.

Qué sucedió

Cereblab rastreó el tráfico de red de la CLI de Grok Build hasta un bucket de Google Cloud y descubrió que empaquetaba automáticamente repositorios de git completos para su carga. En resumen, el asistente extrajo datos que se le había indicado ignorar.

Cómo se descubrió la brecha

Los investigadores inspeccionaron las cargas útiles (payloads) y vieron que la bandera de carga estaba habilitada por defecto, sin una opción de exclusión global. El Dr. Lukasz Olejnik advirtió que tal "retención excesiva de datos" podría filtrar la lógica de negocio, detalles de infraestructura y tokens de autenticación. En comparación con otros asistentes de codificación por IA —siendo Claude Code un punto de referencia—, el comportamiento de Grok Build es notablemente más invasivo.

La respuesta de SpaceXAI

Después de que el informe se hiciera público, SpaceXAI lanzó una actualización que devuelve una bandera disable_codebase_upload: true, desactivando efectivamente la función. Elon Musk anunció en X que todos los datos subidos serían "completamente y absolutamente eliminados" y reiteró que "los ajustes de privacidad siempre se respetan". También pidió a los usuarios que permitieran a la empresa conservar datos para "depurar problemas", una petición que muchos consideran contradictoria.

La firma recomendó el comando CLI /privacy para controlar la retención, pero los investigadores señalaron que solo alterna el almacenamiento por sesión y no detiene las cargas sistemáticas de repositorios.

Por qué es importante para desarrolladores y empresas

Los agentes de codificación impulsados por IA están evolucionando de ser herramientas de autocompletado a herramientas autónomas que pueden leer, modificar y realizar commits de código. Cuando un agente puede ignorar los archivos de exclusión locales o resucitar secretos eliminados, cualquier promesa de “retención cero de datos” debe verificarse con pruebas técnicas, no solo con ajustes de la interfaz de usuario. Los CTO y propietarios de productos deberían:

  • Encargar auditorías independientes del comportamiento de las herramientas de IA en bases de código reales.
  • Negociar contratos claros que definan el manejo de datos, los periodos de retención y las garantías de eliminación.
  • Implementar salvaguardas en tiempo de ejecución que apliquen permisos a nivel de archivo para repositorios sensibles.

La brecha también plantea una pregunta más amplia sobre el equilibrio entre la conveniencia de la IA y la seguridad. SpaceXAI afirma que la función de carga recopilaba métricas de uso para mejorar el modelo, y que desactivó la función y prometió borrar las cargas existentes. Los críticos señalan que el diseño original carecía de una opción de exclusión transparente y que el comando de privacidad posterior al incidente no protege de forma retroactiva los datos que ya se encuentran en la nube.

Contrapunto de SpaceXAI

SpaceXAI sostiene que la función de carga tenía como objetivo recopilar métricas de uso para la mejora del modelo. Señala la rápida desactivación de la función y su promesa de borrar las cargas existentes como evidencia de una respuesta responsable. Los críticos replican que el diseño inicial no ofrecía una opción de exclusión clara y que el comando de privacidad no logra proteger los datos ya almacenados en la nube.

Conclusión

Cuando un asistente de codificación de IA puede extraer silenciosamente un repositorio completo, la confianza se convierte en un problema técnico, no de marketing. Las organizaciones deben exigir controles verificables y exigibles que eviten la exfiltración oculta de datos, o correrán el riesgo de exponer el mismo código que les otorga una ventaja competitiva.