Atak AutoJack wykorzystuje agentów AI
Badacze Microsoftu odkryli nową lukę w zabezpieczeniach o nazwie AutoJack.
Luka ta dotyczy wersji przedpremierowych AutoGen Studio.
Złośliwa strona internetowa może przejąć kontrolę nad agentem AI. Agent ten następnie uruchamia kod na Twoim komputerze.
Atak przebiega w następujący sposób:
- Agent AI odwiedza złośliwą stronę internetową.
- Strona wykorzystuje lokalną usługę WebSocket.
- System ufa agentowi, ponieważ działa on na localhost.
- To zaufanie pozwala stronie internetowej ominąć kontrole bezpieczeństwa.
Problem dotyczy wersji AutoGen Studio 0.4.3.dev1 oraz 0.4.3.dev2.
Stabilna wersja 0.4.2.2 jest bezpieczna.
Jeśli korzystasz z wersji rozwojowych, zaktualizuj oprogramowanie już teraz. Aby rozwiązać ten problem, użyj najnowszej wersji z GitHub.
To zdarzenie ukazuje duży problem w dziedzinie bezpieczeństwa AI. Często ufamy wszystkiemu, co działa na localhost. W miarę jak agenci AI przeglądają sieć, to zaufanie staje się niebezpieczne.
Deweloperzy muszą odejść od prostego zaufania. Niezbędne jest silne uwierzytelnianie oraz ścisłe listy komend dla wszystkich działań AI.
Opcjonalna społeczność edukacyjna: https://t.me/GyaanSetuAi