מתקפת AutoJack מנצלת סוכני AI

חוקרי Microsoft מצאו פרצת אבטחה חדשה בשם AutoJack.

פרצה זו משפיעה על גרסאות טרום-שחרור של AutoGen Studio.

דף אינטרנט זדוני יכול להשתלט על סוכן AI. לאחר מכן, הסוכן מריץ קוד במחשב שלך.

המתקפה עובדת כך:

  • סוכן AI מבקר באתר אינטרנט זדוני.
  • האתר מנצל שירות WebSocket מקומי.
  • המערכת בוטחת בסוכן מכיוון שהוא רץ על localhost.
  • אמון זה מאפשר לאתר לעקוף בדיקות אבטחה.

הבעיה משפיעה על גרסאות AutoGen Studio 0.4.3.dev1 ו-0.4.3.dev2.

הגרסה היציבה 0.4.2.2 בטוחה.

אם אתם משתמשים בגרסאות הפיתוח, עדכנו את התוכנה שלכם כעת. השתמשו בגרסה העדכנית ביותר מ-GitHub כדי לתקן זאת.

אירוע זה מדגיש בעיה גדולה באבטחת AI. לעיתים קרובות אנו בוטחים בכל דבר שרץ על localhost. ככל שסוכני AI גולשים באינטרנט, האמון הזה הופך למסוכן.

מפתחים חייבים להתרחק מגישת "אמון פשוט". יש צורך באימות (authentication) חזק וברשימות פקודות קשיחות לכל פעולות ה-AI.

מקור: https://dev.to/mark0_617b45cda9782a/autojack-attack-lets-one-web-page-hijack-ai-agent-for-host-code-execution-1lgf

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi