ה-CTO של Arcee קורא תיגר על החששות מפני מודלי AI סיניים מסוג open-weight

בעוד שמודלים סיניים מסוג open-weight, כמו Qwen של Alibaba ו-Kimi K3 של Moonshot AI, צוברים פופולריות עצומה, התפתח ויכוח סוער בנוגע להשלכות האבטחה שלהם. בעוד שיש החוששים שמודלים אלו עלולים לשמש כווקטורים למתקפות סייבר, מה שעלול להוביל לאיסורים מצד הממשל האמריקאי, מומחים דוחים את הרעיון שהם מסוכנים מטבעם.

הפרכת הנרטיב של "כוונה זדונית"

החשש העיקרי המועלה על ידי המבקרים הוא שמודלים שפותחו בסין עלולים להכיל "כוונות נסתרות" או דלתות אחוריות (backdoors) שתוכנתו על ידי גורמים זדוניים. עם זאת, לוקאס אטקינס (Lucas Atkins), ה-CTO של מעבדת ה-AI האמריקאית Arcee, טוען שאי-הבנה זו מציגה באופן שגוי מיסודה את האופן שבו מודלי שפה גדולים (LLMs) פועלים.

בניגוד לתוכנה מסורתית, שבה מפתח יכול לתכנת במפורש פקודה זדונית ספציפית, LLMs הם תוצר של תהליכי אימון. אטקינס מציין שברגע שמודל open-weight מורד ומופעל בסביבה פרטית ומקומית, למפתח המקורי אין שום דרך לגשת לאותו מופע (instance) או לשלוט בו. ההפרדה הזו בין משקלי המודל (model weights) לבין התשתית של המשתמש מספקת שכבת אבטחה קריטית שחסרה בתוכנה מסורתית.

המציאות הטכנית של אבטחת מודלים

בעוד הוויכוח נמשך, הקהילה הטכנית מדגישה כי הסיכויים להתנהגות AI "חמקמקה" הם נמוכים ביותר. חשש תיאורטי אחד הוא האם ניתן לאמן מודל קידוד להחדיר תוכנה זדונית (malware) לבסיסי קוד ספציפיים. בעוד אטקינס מודה שזה אפשרי מבחינה תיאורטית, הוא מציין שזה ידרוש "מעשי אקרובטיקה" של הנדסה שאינם מעשיים כיום.

יתרה מכך, הטבע של LLMs הוא הסתברותי ויצירתי, מה שהופך את ה"סערה המושלמת" הנדרשת כדי להפעיל תגובה זדונית ספציפית לבלתי סבירה ביותר. עבור ארגונים, האבטחה מנוהלת באמצעות מספר שכבות סטנדרטיות:

• בדיקות אבטחה: ארגונים גדולים מריצים את ליבת המודל בתהליכי בדיקה קפדניים.
• פוסט-אימון (Post-Training): חברות מבצעות כוונון עדין (fine-tuning) למודלים למשימות ספציפיות, מה שמאפשר להן לבצע ביקורת על הטיות, רעילות והזיות (hallucinations).
• אגנוסטיות למודל (Model Agnosticism): ארכיטקטורת AI מודרנית היא אגנוסטית למודלים יותר ויותר, מה שאומר שארגונים יכולים להחליף מודלים סיניים בחלופות אמריקאיות מבלי לתכנן מחדש את כל מערך הטכנולוגיה (stack) שלהם.

תחרות באמצעות חדשנות, לא באמצעות רגולציה

Arcee, שבנתה מודלים פתוחים כדי לספק לחברות אמריקאיות חלופות מקומיות, מוצאת את עצמה בעמדה ייחודית. בעוד שאיסור על מודלים סיניים יועיל תיאורטית לעסק שלהם, אטקינס טוען שיש להעביר את המוקד מאיסור לטיפוח אקוסיסטם מקומי חזק.

מעניין לציין כי עלייתם של מודלים סיניים בעלי ביצועים גבוהים מאיצה למעשה את החדשנות במערב. Arcee משתמשת במודלים אלו (open-weight) כדי ללמוד מהארכיטקטורות ומהיכולות שלהם, ובכך מניעה מעגל של שיפור מתמיד. לדברי אטקינס, הדרך הטובה ביותר עבור מעבדות אמריקאיות להתחרות היא לא באמצעות מדיניות, אלא באמצעות ביצועים: "הדרך להתחרות במודלים סיניים היא לשחרר מודל שהוא טוב יותר".

נקודות מרכזיות

• אבטחה באמצעות בידוד: ברגע שמודלים מסוג open-weight מופעלים במרכז נתונים פרטי, למפתחים המקוריים אין שום מנגנון לגשת לסביבה המקומית או לתמרן אותה.
• סיכון תיאורטי מול סיכון מעשי: בעוד ש"אימון נסתר" להחדרת קוד זדוני הוא אפשרי תיאורטית, הוא נותר הישג מורכב ובלתי סביר ביותר בארכיטקטורות LLM הנוכחיות.
• חדשנות באמצעות תחרות: במקום לרדוף אחרי איסורים, מגזר ה-AI האמריקאי יכול להפיק תועלת מהלחץ התחרותי ומהידע המשותף שמספקים מודלים סיניים מסוג open-weight בעלי ביצועים גבוהים.