4 ממדי תכנון של Agentic Workflows
אנשים נוטים לעיתים קרובות לבלבל בין סוכני AI לבין תהליכי עבודה (workflows) של AI. יש האומרים שכל LLM עם כלים הוא סוכן. אחרים אומרים שסוכן חייב לפעול לבדו לאורך זמן. הוויכוחים הללו אינם עוזרים לכם לבנות מערכות טובות יותר.
הפסיקו לשאול אם מערכת היא agentic. במקום זאת, הביטו בארבעת ממדי התכנון הללו:
- מי מחליט על הצעד הבא?
- Code-driven: הקוד שולט ברצף. השתמשו בזה למשימות בעלות סיכון גבוה עם כללים ברורים.
- Model-driven: ה-LLM מתכנן את הצעדים. השתמשו בזה למשימות פתוחות.
- Hybrid: הקוד קובע את המסגרת וה-LLM מקבל החלטות קטנות. זו הבחירה הפרקטית ביותר.
- האם המסלול קבוע?
- Fixed: הצעדים עוקבים אחר סדר מוגדר.
- Conditional: המערכת משתמשת בענפים (branches) או בניסיונות חוזרים (retries) בהתאם לתוצאות.
- Adaptive: המסלול משתנה בזמן ריצה (runtime). השתמשו בזה למחקר או לניפוי שגיאות (debugging).
- כיצד סוכנים עובדים יחד?
- Single Agent: סוכן אחד משתמש בכמה כלים. זה פשוט, אך ההקשר (context) עלול להפוך למבולגן.
- Manager-Worker: סוכן אחד מפרק משימות ומעביר אותן לאחרים.
- Handoff: סוכן אחד מעביר את השליטה למומחה.
- Peer: מספר סוכנים משתפים פעולה ללא מנהיג מרכזי. זה הקשה ביותר לניפוי שגיאות (debugging).
- היכן בני אדם נכנסים לתמונה?
- Human-triggered: אתם מאשרים כל פעולה משמעותית.
- Checkpointed: המערכת עובדת לבדה אך עוצרת לאישור בצעדים בסיכון גבוה.
- Goal-driven with guardrails: אתם קובעים את המטרה והמערכת עובדת במסגרת מגבלות כמו תקציבים והרשאות.
אל תוסיפו סוכנים רק כדי להיראות מגניבים. הוספת סוכן מגדילה את ה-latency, את העלות ואת קושי ה-debugging. השתמשו במספר סוכנים רק אם אתם יכולים להריץ משימות במקביל או אם לסוכן יחיד יש יותר מדי context.
התאימו את הארכיטקטורה שלכם למשימה. אם המשימה מסוכנת, השתמשו ב-checkpoints. אם המשימה פשוטה, השתמשו בקוד.
שאלו את עצמכם את שש השאלות הללו לפני הבנייה:
- האם קוד רגיל יכול לפתור זאת?
- כמה שונות יש בקלט?
- האם ניתן לפצל את המשימה?
- כמה עולה כשל?
- האם אתם יכולים לראות היכן זה נשבר?
- האם המורכבות הנוספת שווה את התוצאה?
תהליך עבודה טוב נשאר גמיש במקומות שבהם הוא חייב, ונשאר צפוי במקומות שבהם הוא צריך.
מקור: https://dev.to/whchi/4-design-dimensions-of-agentic-workflows-1i0m
קהילת למידה אופציונלית: https://t.me/GyaanSetuAi