Anthropic מקצצת ב-80% מה-System Prompt של Claude Code עבור Fable 5
Anthropic עדה לשינוי פרדיגמה באופן שבו מנווטים מודלי שפה גדולים, תוך מעבר מסטים כבדים של הוראות לעבר הנחיה קלה ואינטואיטיבית יותר. אבולוציה זו מונעת על ידי הופעתם של מודלי ה-Fable 5 (מסוג Mythos) החדשים, המשגשגים עם פחות אילוצים ויותר הקשר (context).
מותו של ה-System Prompt הארוך
במשך שנים, הסטנדרט בתעשייה לאופטימיזציה של ביצועי AI כלל "prompt engineering" באמצעות הוראות מערכת מסיביות ודוגמאות few-shot מקיפות. מפתחים האמינו שיותר כללים ויותר אילוצי "אל תעשה זאת" הם המפתח לאמינות. עם זאת, Anthropic הופכת מגמה זו.
טריק שיפיפר (Tariq Shihipar), חבר בסגל הטכני של Anthropic, חשף כי החברה קיצצה ב-system prompt של Claude Code בשיעור מדהים של 80 אחוזים. צמצום זה אינו סימן לפישוט המודל, אלא תגובה ליכולות הקוגניטיביות המתוחכמות של מודלי ה-Fable 5 החדשים. ככל שהמודלים הופכים למתקדמים יותר, השיטה המסורתית של "ליווי צמוד" (hand-holding) באמצעות פרומפטים ארוכים הפכה לבלתי יעילה.
מדוע מודלי Fable 5 מתנגדים לאילוצים
המעבר למודלי Fable 5 (או מסוג Mythos) מייצג שינוי יסודי בהתנהגות המודל. לפי שיפיפר, מתן דוגמאות נרחבות וכללים נוקשים למודלים ספציפיים אלו למעשה פוגע בביצועים. הסיבה אינה צפויה: מודלים אלו הם "דמיוניים" יותר מטבעם מאשר קודמיהם.
כאשר מפתח מספק רשימה ארוכה של דוגמאות ספציפיות, היא פועלת כאילוץ המגביל את יכולות ההסקה (reasoning) של המודל. במקום לחקור את הפתרון היעיל או היצירתי ביותר לבעיה, המודל מרגיש מחויב לחקות את התבניות הספציפיות שסופקו בפרומפט. כדי לשחרר את הפוטנציאל האמיתי של מסוג Mythos, Anthropic מתרחקת מכללים נוקשים ועוברת ל"ניווט באמצעות הקשר" (steering through context). הדבר מאפשר למודל להשתמש ביכולות ההסקה שלו כדי לנווט במשימות מבלי להיות מוגבל על ידי עומס הוראות מוגזם.
האבולוציה המחזורית של Prompt Engineering
המסע של ה-prompt engineering עקב אחר דפוס מחזורי מובחן ככל שהמודלים התפתחו. הממצאים הפנימיים של Anthropic מדגישים שלושה שלבים נפרדים של פיתוח מודלים:
- מודלים מוקדמים: דרשו פרומפטים קצרים וספציפיים מאוד, המחוזקים על ידי דוגמאות רבות והוראות מגבילות ביותר כדי לשמור על רמה כלשהי של קוהרנטיות.
- מודלים ביניים: ככל שההבנה השתפרה, הפרומפטים הפכו לארוכים משמעותית. מפתחים ניצלו את היכולת המוגברת הזו ל"ציות להוראות" (instruction following) כדי ליצור פרומפטים של מערכת מסיביים ומורכבים ששלטו בכל היבט של התנהגות המודל.
- עידן ה-Fable 5: נכנסנו לשלב שבו הפרומפטים הופכים שוב לקצרים יותר. המוקד עבר מלהגיד למודל מה לעשות (כללים) למתן הסביבה (context) הדרושה למודל כדי לפעול באופן אוטונומי.
פיתוח זה מהווה אבן דרך בנוף ה-AI. הוא מרמז שככל שנעבור למודלים בעלי יכולות סוכנות (agentic) ויכולות הסקה גבוהות יותר, תפקיד המפתח ישתנה מ"יוצר כללים" ל"מספק הקשר", תוך מתן עדיפות לאיכות המידע על פני כמות ההוראות.
נקודות מפתח
- צמצום של 80%: Anthropic קיצצה ב-system prompt של Claude Code ב-80% כדי להתאים טוב יותר ליכולות של מודלי ה-Fable 5 (מסוג Mythos).
- אילוצים מגבילים יצירתיות: דוגמאות מוגזמות וכללי "אל תעשה" נוקשים עלולים למעשה להגביל את יכולות ההסקה והדמיון של מודלים מתקדמים.
- הקשר על פני כללים: החזית החדשה של ניווט AI כוללת מתן הקשר עשיר במקום סטים של הוראות ארוכות ומגבילות.