איך לתת לסוכני AI גישה בטוחה למסד הנתונים

מתן גישה של סוכן AI למסד הנתונים של הייצור (production) שלכם הוא סיכון עצום. משתמש לקריאה בלבד (read-only) אינו מספיק. סוכן אינו יכול לשפוט כוונה או רגישות של נתונים. אם תעניקו גישת כתיבה, הזרקת פרומפט (prompt injection) עלולה להפוך סוכן מועיל לסוכן הרסני.

אתם זקוקים לשתי שכבות הגנה כדי לשמור על הנתונים שלכם בטוחים.

שכבה 1: בקרות מסד נתונים סטטיות

אלו הן ההגדרות הבסיסיות בתוך מנוע מסד הנתונים שלכם. השתמשו בהן תחילה:

  • תפקידי הרשאה מינימלית (Least-privilege roles): צרו תפקיד ספציפי עבור הסוכן. לעולם אל תשתמשו בחשבונות מנהל (admin).
  • עותקי קריאה (Read replicas): הפנו סוכני אנליטיקה לעותק (replica) כדי שלא יאטו את סביבת הייצור.
  • אבטחה ברמת השורה (Row-level security): השתמשו במדיניות כדי להגביל אילו נתונים סוכן יכול לראות.
  • פקיעת זמן לשאילתות (Statement timeouts): מנעו משאילתות שמשתוללות (runaway queries) להפיל את השרת שלכם.
  • רשימות מורשות (Allowlists): הגבילו חיבורים למארחים (hosts) ספציפיים.

שכבה 2: מישור הבקרה בזמן ריצה (The Runtime Control Plane)

בקרות סטטיות בודקות רק זהות. הן אינן יכולות למנוע מסוכן להוציא נתונים החוצה (exfiltrating data) או לבצע הוראה זדונית. אתם זקוקים למישור בקרה (control plane) שיושב בין הסוכן לבין מסד הנתונים.

שכבה זו חייבת לבצע ארבע פעולות:

  • סיווג (Classify): תייגו כל שאילתה כקריאה, כתיבה או שינוי סכימה (schema change).
  • אכיפת "דחייה כברירת מחדל" (Enforce default-deny): חסמו הכל אלא אם אישרתם זאת במפורש.
  • סינון פעולות מסוכנות (Gate risky actions): דרשו אישור אנושי למחיקות המוניות או לשינויי סכימה.
  • תיעוד הכל (Record everything): שמרו יומן (log) בלתי ניתן לשינוי של כל פעולה וכל אישור.

למה זה חשוב:

אם תשימו כללים בתוך הפרומפט, הסוכן יכול להתעלם מהם. מישור בקרה חי מחוץ להקשר (context) של הסוכן. הוא רואה את השאילתה בפועל, לא את התוכנית של הסוכן. זה מגן עליכם מפני הזרקת פרומפט (prompt injection).

השתמשו בצ'קליסט הזה לגישה בטוחה:

  • תפקיד ייעודי לכל סוכן.
  • שימוש בעותקי קריאה (read replicas) לצורך חקירה.
  • הטמעת אבטחה ברמת השורה (row-level security).
  • הגדרת פקיעת זמן לשאילתות (statement timeouts).
  • ניתוב כל התעבורה דרך מישור בקרה (control plane).
  • שימוש במדיניות "דחייה כברירת מחדל" (default-deny).
  • דרישת אישור אנושי למשימות בסיכון גבוה.
  • שמירת יומן ביקורת (audit log) בלתי ניתן לשינוי.

הבקרות הסטטיות עושות את עבודתן. מישור הבקרה עושה את השאר. אתם זקוקים לשניהם.

מקור: https://dev.to/maxime_dalessandro_28171d/how-to-give-an-ai-agent-safe-access-to-your-production-database-1ami

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi