כיצד מחקר של Amazon עורר הגבלות של הבית הלבן על Anthropic

פריצת דרך בתחום אבטחת הסייבר לאחרונה על ידי חוקרים ב-Amazon עוררה גל של זעזועים בתעשיית ה-AI, והובילה להנחיות משמעותיות של בקרת ייצוא נגד Anthropic. ההחלטה להגביל את הגישה למודלים המתקדמים ביותר של Anthropic הציתה ויכוח עז בנוגע לביטחון לאומי, פגיעויות של מודלים והנוף הפוליטי של הבינה המלאכותית.

המחקר של Amazon שעורר את האיסור

המחלוקת מתמקדת בנייר עמדה טכני שהופק על ידי צוות מחקר האבטחה של Amazon. על פי דיווחים ב-Wall Street Journal, חוקרים ב-Amazon הדגימו כי באמצעות סדרה ספציפית של הנחיות (prompts), ניתן לתמרן את המודלים Fable 5 ו-Mythos 5 של Anthropic כדי לספק מידע המסוגל לסייע בביצוע מתקפות סייבר.

על פי הדיווחים, ממצא זה שותף ישירות לבית הלבן על ידי מנכ"ל Amazon, אנדי ג'אסי (Andy Jassy). בעקבות דיונים אלו, הממשל פרסם הנחיית בקרת ייצוא שחוסמת בפועל אזרחים זרים מגישה למודלים ספציפיים אלו. מהלך זה יצר משבר פנימי מיידי עבור Anthropic, שכן רבים מהחוקרים של החברה עצמה הם ילידי חוץ וכעת נאסר עליהם להשתמש בדיוק בטכנולוגיה שהם עצמם עזרו לבנות.

ויכוח ה-"Jailbreak" ופגיעויות של מודלים

Anthropic פעלה במהירות כדי לערער על הסיווג הטכני של הממשל לגבי האירוע. בעוד שהממשל מאפיין את הניצול (exploit) כ-"jailbreak", Anthropic טוענת כי הפגיעויות שזוהו אינן ייחודיות לארכיטקטורה שלהם. החברה טוענת כי ניתן לגלות רבות מאותן פרצות אבטחה גם באמצעות מודלים בולטים אחרים הזמינים לציבור, כג as GPT 5.5.

ויכוח טכני זה נתמך על ידי מומחי אבטחה עצמאיים. קייטי מוסוריס (Katie Moussouris), מייסדת ומנכ"לית LutaSecurity, הצהירה בפומבי כי הממצאים בנייר העמדה של Amazon אינם מהווים "jailbreak" מסורתי. הבחנה זו היא קריטית לתעשייה, שכן היא מעלה את השאלה האם הממשל מכוון לפגמים ספציפיים במודלים או מיישם צעדי רגולציה רחבים יותר, ואולי אפילו תגובתיים.

מתחים פוליטיים והנוף של ה-AI

האיסור אינו קיים בוואקום; הוא מגיע על רקע קרע עמוק יותר בין Anthropic לבין הממשל הנוכחי. Anthropic שומרת על עמדה אתית נחרצת, וסרבה לאפשר את השימוש במודלי ה-AI שלה למעקב המוני אחר אזרחי ארה"ב או לפיתוח נשק אוטונומי קטלני.

על פי הדיווחים, מגנוני הגנה אתיים אלו הובילו לחיכוך עם ממשל טראמפ, אשר הורה בעבר על הפסקת השימוש בשירותי ה-AI של Anthropic על ידי סוכנויות פדרליות. חלק מהצופים בתעשייה, בהם קייט קורן, בכירה לשעבר במשרד המסחר, מציעים כי העמדה הקיימת של הבית הלבן כלפי Anthropic עשויה הייתה להשפיע על המהירות ועל חומרת הגבלות הייצוא האחרונות. ככל שמודלי ה-AI הופכים ליכולתיים יותר, נקודת המפגש בין מחקר אבטחת סייבר, אתיקה תאגידית ושליטה גיאופוליטית הופכת לחזית החדשה של הרגולציה הטכנולוגית.

נקודות מרכזיות

• טריגר אבטחה: המחקר של Amazon הראה שניתן להנחות את Fable 5 ו-Mythos 5 לסייע בתקיפות סייבר, מה שהוביל להגבלות ייצוא פדרליות.
• נזק נלווה: האיסור על אזרחים זרים לגשת למודלים של Anthropic מנע בטעות מחוקרים רבים של החברה עצמה, ילידי חוץ, גישה לכלים שלהם.
• מחלוקת טכנית: Anthropic ומומחי אבטחה טוענים כי הפגיעות אינה "jailbreak" ייחודי אלא בעיה מערכתית הקיימת במודלים אחרים כמו GPT 5.5.