𝗖𝘂𝗮𝗻𝗱𝗼 𝗖𝗹𝗮𝘂𝗱𝗲 𝗡𝗼 𝗘𝘀 𝗖𝗹𝗮𝘂𝗱𝗲
Le pregunté a mi asistente de IA quién era.
Respondió: "Soy Claude Opus 4.8 de Anthropic".
Sabía que estaba mintiendo. El backend era, en realidad, DeepSeek.
Utilicé un truco común para ahorrar costes. Cambié el archivo settings.json para que Claude Code apuntara a la API de DeepSeek. Todo funcionó bien. El chat y la programación funcionaron. Pero la identidad era incorrecta.
La IA no conoce su propio cerebro. Solo conoce el guion.
El system prompt le dice al modelo: "Eres Claude Opus 4.8". El modelo cree este texto. No comprueba la URL de la API. Simplemente sigue las instrucciones.
Esto crea varios problemas:
• Transparencia: No sabes quién procesa tus datos. • Confianza: Podrías culpar a Anthropic por errores de DeepSeek. • Seguridad: Tus datos se envían a un tercero bajo un nombre falso.
Durante mi investigación, encontré un riesgo de seguridad mayor.
El token de la API se almacena en texto plano en settings.json. No hay cifrado.
La IA tiene una herramienta de "Lectura" (Read). Puede leer archivos en tu ordenador. Si le pides a la IA que compruebe tu configuración, leerá el archivo settings.json. A continuación, enviará tu token de API completo al endpoint de la API en la siguiente solicitud.
Si utilizas una API de terceros, les estás enviando tu token secreto en texto plano.
Informé de esto a Anthropic a través de su Programa de Divulgación de Vulnerabilidades (Vulnerability Disclosure Program). Señalaron que los usuarios eligen sus propios endpoints, pero el diseño crea un punto ciego masivo.
Aquí te explicamos cómo mantenerte seguro:
- No almacenes tokens en settings.json. Utiliza variables de entorno en su lugar.
- Rota tus claves de API con frecuencia.
- Evita hacer capturas de pantalla de tu terminal. Los tokens suelen esconderse en el texto.
- Utiliza gestores de credenciales del sistema operativo, como macOS Keychain, para los secretos.
La IA no es una persona. Es un sistema. El cliente proporciona el prompt, el conjunto de herramientas y los límites. Si el cliente le dice a la IA que es otra persona, la IA se lo creerá.
Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi