Los ataques AutoJack explotan agentes de IA
Investigadores de Microsoft han descubierto un nuevo fallo de seguridad llamado AutoJack.
Este fallo afecta a las versiones de pre-lanzamiento de AutoGen Studio.
Una página web maliciosa puede tomar el control de un agente de IA. El agente ejecuta entonces código en su ordenador.
El ataque funciona de la siguiente manera:
- Un agente de IA visita un sitio web malicioso.
- El sitio web explota un servicio WebSocket local.
- El sistema confía en el agente porque se ejecuta en localhost.
- Esta confianza permite que el sitio web eluda los controles de seguridad.
El problema afecta a las versiones 0.4.3.dev1 y 0.4.3.dev2 de AutoGen Studio.
La versión estable 0.4.2.2 es segura.
Si utiliza las versiones de desarrollo, actualice su software ahora. Utilice la última versión de GitHub para solucionar esto.
Este evento pone de manifiesto un gran problema en la seguridad de la IA. A menudo confiamos en cualquier cosa que se ejecute en localhost. A medida que los agentes de IA navegan por la web, esta confianza se vuelve peligrosa.
Los desarrolladores deben alejarse de la confianza simple. Es necesario contar con una autenticación sólida y listas de comandos estrictas para todas las acciones de la IA.
Comunidad de aprendizaje opcional: https://t.me/GyaanSetuAi