מודלי Anthropic הופסקו עקב חששות בנושאי ביטחון ארה"ב וקשרים עם סין
Anthropic מתמודדת עם משבר משמעותי בעקבות ההשבתה הכפויה של מודלי ה-AI שלה, Claude Mythos ו-Fable 5. שילוב של מתחים גיאופוליטיים המערבים את SK Telecom ופרצות אבטחה קריטיות הוביל להתערבות ישירה של הבית הלבן.
חיכוך גיאופוליטי והקשר ל-SK Telecom
הנפילה של מודלי Claude Mythos החלה בחשש אבטחה ברמה גבוהה שכלל את ענקית התקשורת הדרום-קוריאנית SK Telecom. באמצעות תוכנית השותפים של Anthropic, הידועה בשם Project Glasswing, הגיעה SK Telecom לגישה למודלי Mythos. עם זאת, גורמים רשמיים בארה"ב העלו התרעות בנוגע לקשריה לכאורה של SK Telecom עם סין, וראו בשותפות זו סיכון פוטנציאלי לביטחון הלאומי.
בעוד ש-SK Telecom הכחישה קיום קשרים עם סין, ההיסטוריה של החברה בתוך קבוצת SK Group הרחבה עוררה בחינה מדוקדקת. לקבוצת SK Group יש אינטרסים עסקיים משמעותיים בסין, ובעבר היא החזיקה בנתח בחברת התקשורת הסינית שבבעלות המדינה, China Unicom, עד שנת 2009. בתגובה לחששות אלו, הבית הלבן הנחה, על פי הדיווחים, את Anthropic לנתק באופן מיידי את הגישה של SK Telecom, הנחיה שמעבדת ה-AI צייתה לה באופן מיידי.
פרצות אבטחה ב-Fable 5 ואובדן האמון
המצב עבר מבעיה גיאופוליטית לאסון טכני כאשר זוהו פרצות אבטחה במודל Fable 5. שחקנים מרכזיים בתעשייה, כולל Amazon, סימנו פגמים קריטיים שעלולים לאפשר למשתמשים לעקוף מגבלות בטיחות מוגדרות. פרצות אלו הצביעו על כך שמנגנוני ההגנה של המודל אינם מספיקים כדי למנוע שימוש לרעה או מניפולציה זדונית.
השילוב בין שני האירועים הללו — הסיכון הנתפס לחשיפת מודיעין זר באמצעות SK Telecom והכישלון הטכני של פרוטוקולי הבטיחות ב-Fable 5 — הוביל לאובדן מוחלט של אמון מצד גורמים רשמיים בארה"ב. כתוצאה מכך, הבית הלבן הפעיל לחץ על Anthropic להשבית את שני המודלים לחלוטין כדי לצמצם סיכונים פוטנציאליים לביטחון הלאומי ולבטיחות הדיגיטלית.
השלכות על חזית ה-AI
תקרית זו משמשת כאזהרה חריפה לתעשיית ה-AI המתפתחת במהירות, ומדגישה כי מצוינות טכנית אינה עוד המדד היחיד להצלחה. עבור מפתחי AI ויזמים, המשבר של Anthropic מדגים כי שיקולים גיאופוליטיים ו-"safety-by-design" הם כעת מרכזיים בנוף הרגולטורי.
ככל שמודלי הקצה (frontier models) הופכים לחזקים יותר, נקודת המפגש בין יחסים בינלאומיים לממשל AI צפויה להתעצם. חברות חייבות כעת לנווט ברשת מורכבת של פיקוח ממשלתי, שבה שותפות בודדת או עקיפה של מעקה בטיחות (safety guardrail) אחד יכולות להוביל להשבתה מיידית של טכנולוגיית הדגל.
נקודות מרכזיות
- סיכון גיאופוליטי: קשרים לכאורה בין SK Telecom לאינטרסים סיניים הובילו להתערבות הבית הלבן, מה שאילץ את Anthropic להפסיק את הגישה באמצעות Project Glasswing.
- פגיעויות טכניות: פרצות אבטחה קריטיות במודל Fable 5, שסומנו על ידי Amazon, אפשרו עקיפה של מגבלות בטיחות חיוניות.
- לחץ רגולטורי: השילוב בין חששות לביטחון לאומי לבין כשלים בבטיחות הוביל להשבתה מוחלטת של המודלים Claude Mythos ו-Fable 5.