האם סין השיגה גישה ל-Mythos של Anthropic? מבט אל תוך הוויכוח על הביטחון הלאומי

נקודת המפגש בין בינה מלאכותית מתקדמת לבין גיאופוליטיקה עולמית הגיעה לנקודת רתיחה בעקבות דיווחים לפיהם סין עשויה הייתה להשיג גישה למודלים רגישים ביותר של Anthropic. בעוד הבית הלבן שוקל הטלת בקרת ייצוא מחמירה, הדלפה פוטנציאלית של טכנולוגיית דגל כמו Mythos מעלה שאלות עמוקות בנוגע לאבטחת מודלים ולמרוץ על עליונות בתחום ה-AI.

הסיכון לביטחון הלאומי כתוצאה מחשיפת מודלים

על פי דיווח שנחשף לאחרונה ב-Semafor, ההחלטה של הבית הלבן להטיל הגבלות ייצוא על Mythos של Anthropic נבעה בחלקה ממידע מודיעיני המצביע על כך שקבוצה הקשורה לסין עשויה הייתה להשיג גישה למודל. אם ממשלת סין אכן השיגה גישה למודלים ברמה גבוהה כמו Mythos 5 או Fable 5, ההשלכות על הביטחון העולמי הן עצומות.

החשש העיקרי של סוכנויות המודיעין אינו רק השימוש הישיר במודלים הללו, אלא הסיכון להנדסה לאחור (reverse engineering). באמצעות תהליך המכונה distillation, יריב יכול להשתמש במודל "מורה" – במקרה זה, Mythos המתקדם – כדי לאמן בינה מלאכותית קטנה יותר מסוג "תלמיד". הדבר מאפשר למעצמה מתחרה לשכפל את יכולות ההסקה המתוחכמות ואת דפוסי ההתנהגות של מודל קנייני בשבריר מעלות הפיתוח המקורית, ובכך לנטרל ביעילות את היתרון הטכנולוגי שבידי מעבדות שבסיסן בארה"ב.

פרצות אבטחה והוויכוח על ה-jailbreaking

בעוד שהקשר לסין טרם אושר על ידי הבית הלבן, השיח סביב הפגיעות של Mythos הוא רב-פנים. פרשנים טכנולוגיים מסוימים, בהם היועץ David Sacks, הדגישו חששות בנוגע לרגישותם של Fable ו-Mythos ל-"jailbreaking" – התהליך של עקיפת מנגנוני הגנה (guardrails) כדי לאלץ בינה מלאכותית לנהוג בהתנהגויות אסורות. למרות ש-Anthropic הכחישה את הטענות הללו, המחלוקת נמשכת.

זו לא הפעם הראשונה שבה הנכסים החזקים ביותר של Anthropic עומדים תחת בחינה. למרות עמדת החברה לפיה Mythos מסוכן וחזק מדי לצריכה ציבורית רחבה, פרצת אבטחה שדווחה אפשרה לקבוצת Discord גישה למודל במשך שבועיים לפני ש-Anthropic הצליחה להתערב. דפוס זה של גישה בלתי מורשית מדגיש את הקושי בשמירה על "גנים סגורים" (walled gardens) סביב מודלי קצה (frontier models).

מדוע זה חשוב לנוף ה-AI

הפריצה הפוטנציאלית ל-Mythos מייצגת רגע מכריע עבור תעשיית ה-AI. היא מדגישה מתח גובר בין ההתקדמות המהירה של מודלי קצה (frontier models) לבין יכולתן של תאגידים לאבטח אותם מפני גורמים הממומנים על ידי מדינות. ככל שהמודלים הופכים ליכולתיים יותר בניתוח לוגי מורכב וביצירת קוד, הם עוברים מכלים תוכנתיים גרידא לנכסים לאומיים אסטרטגיים.

עבור מפתחים ומייסדים, התפתחות זו מסמנת שינוי בסביבה הרגולטורית. אנו נכנסים לעידן שבו בטיחות AI אינה עוסקת עוד רק במניעת פלטים מוטים או טקסט רעיל, אלא בהגנה על המשקולות (weights) והלוגיקה הבסיסיים של המודלים מפני ריגול בינלאומי ודיסטילציה (distillation) בלתי מורשית.

נקודות מרכזיות

• סיכוני דיסטילציה: גישה בלתי מורשית למודלי קצה כמו Mythos מאפשרת ליריבים להשתמש בדיסטילציה כדי לשכפל יכולות AI ברמה גבוהה באמצעות מודלי "תלמיד" (student models).
• פגיעויות אבטחה: Anthropic התמודדה בעבר עם כשלים אבטחתיים, כולל פריצה שנמשכה שבועיים על ידי קבוצת Discord, מה שמדגיש את האתגרים שבאבטחת מודלי AI קצה קנייניים.
• רגולציה גיאופוליטית: הבית הלבן רואה יותר ויותר במודלי AI מתקדמים דרך עדשה של ביטחון לאומי, ומשתמש בבקרת ייצוא כדי לצמצם את הסיכון להעברת טכנולוגיה לסין.