ממשלת ארה"ב החזירה מודל AI
ממשלת ארה"ב אילצה זה עתה את Anthropic להסיר שני מודלי AI מרכזיים מהשוק. זה קרה שלושה ימים בלבד לאחר ההשקה.
המודלים הם Fable 5 ו-Mythos 5. משרד המסחר הוציא הנחיית בקרת ייצוא בטענה של ביטחון לאומי.
הטריגר היה טענה בעל פה. חברה מתחרה טענה שהיא ביצעה jailbreak ל-Mythos. לא היה דוח טכני כתוב או ממצא אבטחה רשמי. רק טענה בעל פה.
ההנחיה חלה על כל האזרחים הזרים. מכיוון ש-Anthropic מעסיקה אזרחים זרים, החברה נאלצה להשבית את המודלים הללו באופן גלובלי כדי לציית להנחיה.
זו הפעם הראשונה שממשלה אילצה החזרה (recall) של מודל AI מסחרי מתקדם (frontier). זה יוצר שלושה לקחים חשובים עבורכם:
- טענות בעל פה הן בעלות משקל כעת. מילה של מתחרה ומכתב ממשלתי עצרו מוצר גלובלי.
- בקרת ייצוא היא כלי גס. החוק אינו מאפשר דיוק כירורגי. אם מודל פוגע בכלל מסוים, הוא נכבה בכל מקום.
- פריסה מהירה טומנת בחובה סיכונים. חברות המשתמשות במודלים אלו בסביבת ייצור (production) השבוע חייבות למצוא תחליפים באופן מיידי.
אם אתם משתמשים ב-Fable 5 או ב-Mythos 5, עברו ל-Claude Sonnet או Opus עכשיו. אל תחכו לעדכונים.
אם אתם בונים מוצרי AI, עשו זאת:
- בנו נתיבי גיבוי (fallback) מהיום הראשון.
- התייחסו לבקרת ייצוא כאל סיכון תפעולי ממשי.
- לעולם אל תבנו תלות קריטית במודל בשבוע הראשון שלו.
Anthropic נלחמת בחזרה. הם אומרים שפעולות הממשלה יעצרו את כל פריסות המודלים החדשות אם זה יהפוך לתקן.
הממשלה תכננה את הכללים הללו עבור חומרה ושבבים. כעת, הם מחילים אותם על מודלים של תוכנה. זה יוצר תקדים חדש לאופן שבו הרגולטורים שולטים ב-AI.
מקור: The New Stack, Axios, Anthropic
קהילת למידה אופציונלית: https://t.me/GyaanSetuAi