Cuando la IA se convierte en un arma de ciberseguridad
Los modelos Mythos de Anthropic cambiaron el mundo de la seguridad. No solo explican errores. Encuentran y explotan nuevas vulnerabilidades en código desconocido.
Esta capacidad cambia el equilibrio entre atacantes y defensores. Anthropic mantuvo el modelo Mythos 5 sin restricciones limitado a un pequeño grupo de expertos. El público recibe Fable 5. Esta versión tiene salvaguardas que bloquean prompts de ciberseguridad de alto riesgo.
El peligro es real. Un modelo que encuentra errores ayuda a ambos bandos. Un defensor lo utiliza en su propio código. Un atacante lo utiliza en el código de todos los demás.
Los atacantes no siguen las salvaguardas. Actualmente, utilizan la IA para escanear contratos inteligentes antiguos en busca de debilidades. Si lanzas código con valor, debes asumir que los atacantes usarán la IA para encontrar tus fallos.
La estrategia de defensa actual tiene un fallo. Las salvaguardas no pueden distinguir una auditoría legítima de un ataque. Si tu prompt parece arriesgado, la IA podría darte una respuesta de menor calidad sin avisarte. Esto convierte al modelo público en una herramienta rudimentaria para los defensores.
No me vuelvo menos cuidadoso debido a la IA. Me vuelvo más sistemático. Este es mi enfoque:
- Realizo análisis de IA en mi propio código de forma agresiva. Quiero encontrar errores antes que un atacante.
- Trato los contratos antiguos o no verificados como de alto riesgo. Las herramientas automatizadas se dirigen a ellos primero.
- Nunca confío en un "certificado de salud" de la IA. Sigo realizando revisiones manuales porque los modelos pasan cosas por alto.
La IA no hace que el trabajo de seguridad sea obsoleto. Eleva el estándar. Debes asumir que el atacante ya ha ejecutado un modelo en tu código.
Un auditor que se niega a usar la IA está en desventaja. Debes enfrentar a un atacante equipado con IA con una defensa equipada con IA. Utiliza las herramientas en tu propio código, comprende sus límites y mantén tu juicio humano.
No respondas con miedo. Responde utilizando estas herramientas para encontrar tus propios errores primero.
Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi