OpenAI משיקה את "Patch the Planet" כדי לאבטח את המערכות האקולוגיות של קוד פתוח

OpenAI נכנסה רשמית לזירה של אבטחת הסייבר עם השקת "Patch the Planet", יוזמה חדשה שמטרתה לחזק את תוכנות הקוד הפתוח המניעות את הכלכלה הדיגיטלית המודרנית. באמצעות שילוב של מומחיות אנושית ייעודית עם כלי AI מתקדמים, החברה שואפת לזהות ולתקן פגיעויות באופן פרואקטיבי לפני שגורמים עוינים יוכלו לנצל אותן.

שותפות אסטרטגית עם Trail of Bits

מתוך הכרה בכך שמנהלי פרויקטים של קוד פתוח מוצפים לעיתים קרובות בזרם של דיווחי באגים ובמשאבים מוגבלים, OpenAI משתפת פעולה עם חברת האבטחה המפורסמת Trail of Bits. שיתוף פעולה זה נועד לשמש כשירות "code EMT" (צוות רפואת חירום לקוד) עבור קהילת המפתחים.

במקום פשוט להציף את המנהלים בהתראות אוטומטיות, מהנדסי האבטחה של Trail of Bits יעבדו ישירות עם מובילי הפרויקטים כדי לבחון בעיות פוטנציאליות, לבצע טריאז' (מיון) לממצאים, ולפתח תיקונים (patches) ובדיקות חסונים. גישת "human-in-the-loop" זו מבטיחה ששיפורי האבטחה יהיו ישימים ולא יוסיפו לנטל המנהלתי הקיים של מנהלי פרויקטים מבוזרים.

ניצול Codex Security להגנה אוטומטית

בלב היוזמה הזו עומדת טכנולוגיית האבטחה הקניינית של OpenAI, ובמיוחד כלים כמו Codex Security. בעוד שחלק ניכר מהשיח האחרון סביב מודלי שפה גדולים (LLMs) התמקד ביכולתם להפוך פשיעת סייבר לאוטומטית, OpenAI מנסה לשנות את התסריט.

התעשייה הביעה דאגה משמעותית בנוגע לכלים כמו Mythos של Anthropic, שניתן להשתמש בהם לזיהוי באגים ויצירת אקספלויטים (exploits). האסטרטגיה של OpenAI היא להשתמש באותה יכולת בסיסית – היכולת של AI לנתח ולהבין בסיסי קוד מורכבים – כדי לשמש כמגן הגנתי. באמצעות שילוב Codex Security בתהליך העבודה של "Patch the Planet", היוזמה שואפת לאוטומציה של זיהוי פגיעויות, מה שיאפשר למהנדסים אנושיים להתמקד בתיקון ברמה גבוהה וביצירת תהליכי עבודה מאובטחים הניתנים לשימוש חוזר.

מדוע אבטחת קוד פתוח חשובה לטכנולוגיה העולמית

הסיכונים ביוזמה זו אינם ניתנים להערכה מוגבלת. פרויקטים של קוד פתוח משמשים כיסוד הדיגיטלי עבור כמעט כל תוכנה מסחרית, אך לעיתים קרובות חסר להם הניטור המרכזי הנדרש לשמירה על סטנדרטים גבוהים של אבטחה. התעשייה עדיין זוכרת בבירור את פרשת Log4j, שבה פגיעות בודדת בכלי קוד פתוח נפוץ יצרה משבר עצום ושרשרתי בבסיסי קוד מסחריים ברחבי העולם.

באמצעות התערבות במקור, OpenAI ו-Trail of Bits מנסות לתקן את הפגיעויות ביסודות של האינטרנט עצמו. אם תצליח, יוזמה זו עשויה לקבוע סטנדרט חדש לאופן שבו חברות AI לוקחות אחריות על ההשלכות הביטחוניות של מערכות התוכנה שבהן הן פועלות ומשפיעות.

נקודות מרכזיות

• תיקון שיתופי: OpenAI משתפת פעולה עם Trail of Bits כדי לספק תמיכה הנדסית מעשית בתחום האבטחה למנהלי קוד פתוח, ובכך לסייע להם במיון ותיקון באגים.
• הגנה מונעת על ידי AI: היוזמה משתמשת בכלי Codex Security של OpenAI כדי לאוטומט את זיהוי הפגיעויות, ובכך הופכת את ה-AI מנשק פוטנציאלי עבור האקרים לנכס הגנתי.
• צמצום סיכונים מערכתיים: על ידי התמקדות ב"יסודות" של הקוד הפתוח, הפרויקט שואף למנוע מתקפות שרשרת אספקה רחבות היקף דומות למשבר Log4j.