ביטחתי בתוסף AI אקראי
חוקרי Cisco מצאו פרצת אבטחה חמורה בתחילת 2026. תוסף (plugin) ב-OpenClaw marketplace נראה רגיל. הוא עבד כפי שהובטח. אך הוא גם גנב נתונים רגישים בסתר. הוא שלח את הנתונים שלך לשרת חיצוני ללא אישורך.
מפתח OpenClaw אחד אמר שאם אינך מבין את שורת הפקודה (command line), הכלי הזה מסוכן מדי עבורך.
שלושה חודשים לאחר מכן, הממשל הסיני אסר על סוכנויות מדינה להשתמש ב-OpenClaw. הם ציינו דליפות נתונים ובעיות משאבים.
הסיכון האמיתי בשנת 2026 אינו בינה מלאכותית שכותבת קוד גרוע. ניתן לתקן קוד גרוע באמצעות סקירות (reviews). הסיכון האמיתי הוא סוכנים אוטונומיים (autonomous agents). לסוכנים אלו יש גישה לקבצים ושליטה על ה-pipelines שלך. הם מקבלים החלטות בשעה 2 לפנות בוקר בזמן שאתה ישן.
הנתונים מראים בעיה הולכת וגדלה: • 45% מהפריסות (deployments) של קוד שנוצר על ידי AI גרמו לבעיות. • 48% מהחברות מדווחות על סיכוני אבטחה גבוהים יותר כתוצאה מכתיבת קוד באמצעות AI. • מספרים אלו מגיעים מצוותים שבהם בני אדם עדיין סוקרים את העבודה.
עליך לפעול לפי הכללים הבאים לפני שאתה נותן לסוכן אישור לפעול:
השתמש באוטונומיה זהירה. התחל עם ההרשאות הנמוכות ביותר האפשריות. הוסף גישה נוספת רק לאחר שתראה התנהגות יציבה.
חייב יומני ביקורת (audit logs). כל פעולה של סוכן זקוקה לתיעוד. אתה זקוק ליומנים הללו כדי לחקור כאשר דברים משתבשים.
תכנן ליכולת ביטול (reversibility). השתמש ב-Git commits בנקודות בקרה (checkpoints). אתה חייב להיות מסוגל לבטל כל שינוי שהסוכן מבצע.
בדוק בקפידה מיומנויות של צד שלישי. חבילה (package) גרועה פוגעת באפליקציה. מיומנות סוכן גרועה פוגעת בכל המערכת שלך.
שמור על אחריותיות (accountability). אם סוכן פותח pull request, אתה האחראי לבקשה הזו. אם סוכן מבצע commit לקוד, אתה האחראי לקוד הזה.
מחר אדון בכלי ששינה את נקודת המבט שלי על יצירת קוד ובסוכני ה-AI שאתה צריך להכיר בשנת 2026.