OpenAI ויותר מ-100 חברות טכנולוגיה חתמו על מכתב פתוח הקובע כי מתקפות סייבר מבוססות בינה מלאכותית (AI) עומדות לצאת מהמעבדה ולהכות בתשתיות בעולם האמיתי. הקואליציה מזהירה כי האקרים ישתמשו בקרוב במודלי שפה גדולים (LLMs) ובסוכנים אוטונומיים כדי לצוד פרצות ולהשיק ניצולות (exploits) רב-שלביות במהירות מכונה, מה שמעמיד בסכנה בתי חולים, רשתות חשמל ואספקת מים.

למה האזהרה חשובה דווקא עכשיו

מודלים של בינה מלאכותית זינקו מסקרנות מחקרית לשירותים שמייצרים קוד, כותבים אימיילים ואפילו מתכננים חומרה תוך שניות. שיפור הפרודוקטיביות הזה מעניק לגורמים זדוניים כלים שיכולים לסרוק רשתות, לכתוב סקריפטים של ניצול ולתאם מתקפות ללא מגע יד אדם. התרעה משותפת של שלוש סוכנויות בארה"ב אישרה כי תוקפים כבר משתמשים ב-AI כדי לייצר קוד ניצול המכוון למערכות בקרה תעשייתיות כגון סדרת Siemens S7, המפעילות מפעלי אנרגיה, מים וייצור רבים.

מה מניע את האיום

המכתב מדגיש שלושה שינויים טכניים שהופכים את ה-AI לכלי נשק. ראשית, מודלי שפה גדולים יכולים להפוך תיאור קצר של מטרה לקוד עובד, מה שמקצר משמעותית את הזמן הדרוש לבניית מטען (payload). שנית, סוכני למידת חיזוק (reinforcement-learning agents) יכולים לבחון אלפי וריאציות של ניצול בתוך סביבת בדיקה (sandbox), וללמוד אילו גרסאות מצליחות. שלישית, כלי גנרטיביים יכולים ליצור הודעות פישינג המחקות את הסגנון של הקורבן, מה שמגדיל את שיעורי גניבת פרטי הגישה. בשילוב, תהליך אוטומטי יחיד יכול לאתר פגיעות, לייצר ניצול מותאם אישית ולהשיק אותו על עשרות מכשירים תוך דקות.

מטרות שעלולות להיפגע

תשתיות קריטיות מושכות את תשומת הלב מכיוון שהמערכות שלהן משלבות בקרה דיגיטלית עם תהליכים פיזיים. מתקן לטיפול במים שנפרץ עלול להוסיף מינון לא נכון של כימיקלים; תחנת משנה לחשמל שנפרצה עלולה להטיל אזור שלם בחשיכה; רשת בית חולים שסובלת מפריצה עלולה להשבית ציוד תמיכה בחיים. המכתב מציין בתי חולים, שירותי מים, רשתות אנרגיה ויצרני כימיקלים כמגזרים החשופים ביותר. מפעילים רבים מהם מפעילים ציוד ישן (legacy equipment) שלא ניתן לעדכן (patch) במהירות, מה שמותיר שטח תקיפה עצום עבור סקריפטים מונעי AI.

כיצד המגינים יכולים לעמוד בקצב

החותמים טוענים כי "יתרון המגן" עדיין קיים אך הוא מצטמצם. כדי לשמור עליו, הם מציעים שלוש פעולות:

  • אחריות תאגידית – להפוך את האבטחה לעדיפות בחדר הישיבות, תוך התאמת תקציבים ופיקוח להיקף איום ה-AI.
  • תמיכה ממשלתית – הגברת המימון למחקר, שיתוף מודיעין איומים באופן פתוח ותיאום תוכניות תגובה עם מפעילים פרטיים.
  • דמוקרטיזציה של האבטחה – בניית כלי הגנה מבוססי AI בר השגה וקלים לפריסה, כך ששירותים עירוניים ותשתיות קטנות יותר לא יישארו כחוליה החלשה.

התנגדות פוטנציאלית

מומחים מסוימים מזהירים כי הפעלת אור על AI כאיום חדש עלולה להסיח את הדעת מפערים קיימים ארוכי שנים, כגון תוכנות ללא עדכוני אבטחה, סיסמאות חלשות וחלוקת רשת (network segmentation) לקויה. הם מציינים כי רבות מאותן טכניקות AI המקודדות להתקפה יכולות לשמש גם להגנה — סקירת קוד אוטומטית, זיהוי אנומליות ותגובה מהירה לאירועים. המכתב עצמו מציין כי המגינים כבר משתמשים ב-AI, אך המבקרים מזהירים שהתעשייה עלולה להבטיח הבטחות שווא לגבי כלים חדשים תוך השקעה נמוכה מדי בהיגיינה בסיסית.

מה כדאי לעקוב אחריו

  • יוזמות מדיניות – צפו להצעות למקורות מימון ייעודיים למחקר אבטחת סייבר ממוקד AI ותקנים המסדירים את שחרור המודלים הגנרטיביים החזקים.
  • השקת כלים – ספקים צפויים להשיק סורקי פגיעות מועצמי AI ומערכות לזיהוי חדירות המיועדות למגזרים שהמכתב מדגיש.
  • דיווחים על אירועים – הפריצה הראשונה המתועדת בציבור למערכת תשתית קריטית המונעת על ידי AI תאשש את האזעקה של הקואליציה ועשויה לעורר פעולה רגולטורית.

המכתב הפתוח מסמן את הפעם הראשונה שכל כך הרבה מתחרים מדברים בקול אחד על סיכון קיומי משותף. השאלה אם התעשייה תהפוך את הקונצנזוס הזה למגנוני הגנה קונקרטיים תקבע אם ה-AI יזין את הגל הבא של הרס סייבר או יהפוך לכלי ששומר על האור דולק.