Атака AutoJack эксплуатирует ИИ-агентов

Исследователи Microsoft обнаружили новую уязвимость под названием AutoJack.

Эта уязвимость затрагивает предрелизные версии AutoGen Studio.

Вредоносная веб-страница может перехватить управление ИИ-агентом. После этого агент запускает код на вашем компьютере.

Атака работает следующим образом:

  • ИИ-агент посещает вредоносный сайт.
  • Сайт эксплуатирует локальный сервис WebSocket.
  • Система доверяет агенту, так как он работает на localhost.
  • Это доверие позволяет веб-сайту обходить проверки безопасности.

Проблема затрагивает версии AutoGen Studio 0.4.3.dev1 и 0.4.3.dev2.

Стабильная версия 0.4.2.2 безопасна.

Если вы используете сборки для разработки, немедленно обновите программное обеспечение. Чтобы исправить это, используйте последнюю версию с GitHub.

Это событие демонстрирует серьезную проблему в области безопасности ИИ. Мы часто доверяем всему, что запущено на localhost. Поскольку ИИ-агенты просматривают веб-страницы, такое доверие становится опасным.

Разработчикам необходимо отказаться от модели простого доверия. Для всех действий ИИ требуется строгая аутентификация и строгие списки команд.

Источник: https://dev.to/mark0_617b45cda9782a/autojack-attack-lets-one-web-page-hijack-ai-agent-for-host-code-execution-1lgf

Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi