החוקרים Yuxing Lu, Yicheng Chen ו-Shanchan Wu שחררו מסגרת עבודה (framework) של "גרף פרוצדורלי" (Procedural Graph) המאפשרת לסוכני מודלי שפה גדולים (LLM) לשכתב את תוכניות ביצוע המשימות שלהם תוך כדי עבודה.
הבעיה עם הסוכנים של היום
רוב העוזרים המונעים על ידי LLM פועלים כמו שף שיכול רק לדקלם מתכון. המודל שומר את השלבים בזיכרון זמני, בוחר את הכלי הבא, ומקווה שהטוקן (token) הבא יגיע בצורה נכונה. בפועל, שלוש תקלות מופיעות לעיתים קרובות:
- סטיית מטרה (Goal drift) – לאחר מספר סבבים, הסוכן שוכח את היעד המקורי.
- שימוש שגוי בכלים – הוא קורא ל-API בסדר שגוי או נכנס ללולאה על אותה קריאה.
- טעויות שלא נלמדו – אותה טעות צפה מחדש בסשנים לא קשורים מכיוון ששום דבר לא מתעד את הכישלון באופן קבוע.
מכיוון שההסקה נשארת מרומזת (implicit), מפתחים אינם יכולים לראות מדוע פעולה מסוימת התרחשה, ומשתמשים אינם יכולים לתקן פגמים שיטתיים.
הפיכת פרומפטים לגרף
גרפים פרוצדורליים מחליפים את גישת ה-"זיכרון בלבד" במבנה מפורש וניתן לעריכה. מסגרת העבודה מגדירה שלושה מרכיבי ליבה:
| מרכיב | תפקיד |
|---|---|
| צומת (Node) | שלב קונקרטי כגון "חיפוש טיסה" או "אימות תשלום". |
| קשת (Edge) | הזרימה בין הצמתים – רצפים בקו ישר, ענפים מותנים (if/then) ולולאות. |
| מאפיין (Attribute) | מטא-דאטה המחובר לצומת או לקשת, למשל: שיעור הצלחה, זמן ביצוע ממוצע או ציון ביטחון. |
כאשר סוכן LLM מקבל בקשה, הוא תחילה ממפה את הבקשה על גרף קיים או בונה גרף חדש תוך כדי תנועה. לאחר מכן, הביצוע עוקב אחר הקשתות, מפעיל כלים ושומר את התוצאות במאפיינים. מכיוון שהגרף חי מחוץ לזרם הטוקנים של המודל, אנשים יכולים לבחון, להציג ויזואלית ולערוך אותו.
אבולוציה עצמית בחמישה שלבים
החידוש טמון בלולאה המאפשרת לסוכן לשפר את הגרף שלו עצמו:
- תיעוד (Record) של כל נתיב שהסוכן עובר, תוך רישום קלטים, קריאות לכלים ותוצאות.
- השוואה (Compare) של נתיבים מוצלחים מול נתיבים שנכשלו, תוך זיהוי הנקודה שבה הם מתפצלים.
- אבחון (Diagnose) השגיאה על ידי בחינת מאפייני הצמתים (למשל, שיעור הצלחה נמוך) ותנאי הקשתות.