למה רוב סוכני ה-AI הם Overengineered

סוכני AI נמצאים בכל מקום. אתם רואים נחילים של סוכנים (agent swarms), צוותים אוטונומיים ומערכות המשפרות את עצמן. בכל שבוע, framework חדש מבטיח לבנות את הדור הבא של ה-AI.

לאחר שחקרתי תהליכי עבודה (workflows) של AI, הגעתי למסקנה פשוטה. רוב סוכני ה-AI הם Overengineered.

סוכנים אינם חסרי תועלת. עם זאת, מפתחים רבים פותרים בעיות באמצעות סוכנים כאשר הם יכולים להשתמש במשהו פשוט יותר.

התעשייה אוהבת מורכבות

דמיינו שאתם רוצים לבנות מערכת שקוראת קבצי PDF, מחלצת נתונים ועונה על שאלות. מפתחים רבים יוצרים ארכיטקטורה מורכבת עם שישה סוכנים, פרומפטים מרובים וניהול מצב (state management). זה גורם להרבה כאבי ראש.

אותה בעיה ניתנת לפתרון לרוב באמצעות רצף פשוט:

  • PDF ל-Chunk
  • Chunk ל-Embed
  • Embed ל-Vector DB
  • LLM לתגובה

לפעמים workflow מספיק. אתם לא צריכים צבא של סוכנים.

Workflows פותרים את רוב הבעיות

רוב יישומי ה-AI הם דטרמיניסטיים. הם עוקבים אחר רצף קבוע. דוגמאות כוללות:

  • שאלות ותשובות על מסמכים (Document Q&A)
  • תמיכה בלקוחות
  • סיכומי פגישות
  • יצירת בלוגים
  • סקירת קוד (Code review)

אלו הם workflows, לא מערכות אוטונומיות. קל יותר לדבג (debug), להרחיב (scale), לתחזק ולהסביר workflows.

סוכנים מביאים איתם עלויות נסתרות

כל סוכן חדש מוסיף בעיות:

  • עלויות token גבוהות יותר עקב יותר פרומפטים
  • שיהוי (latency) גבוה יותר עקב שלבים נוספים
  • יותר סיכויים להזיות (hallucinations)
  • דיבאג (debugging) קשה יותר
  • צורך בתשתית רבה יותר

אפליקציה פשוטה הופכת לפרויקט הנדסי עצום.

איפה סוכנים באמת זורחים

אני לא נגד סוכנים. סוכנים מועילים כאשר:

  • משימות רצות לאורך זמן, כמו מחקר של מספר אתרים.
  • נדרשת קבלת החלטות המבוססת על לוגיקה ספציפית.
  • התערבות אנושית היא חלק מהתהליך.
  • מספר כלים כמו Slack, GitHub ואימייל חייבים לעבוד בשיתוף פעולה.

הכלל שלי

מפתחים רבים קופצים ישר למסגרות עבודה (frameworks) מורכבות. לפני שאתם עושים זאת, שאלו שאלה אחת: האם workflow יכול לפתור את זה?

אם התשובה היא כן, התחילו שם. הוסיפו סוכנים רק כאשר המורכבות מחייבת זאת.

עקבו אחר העיקרון הזה:

  • Workflow קודם.
  • סוכן שני.
  • Multi-agent אחרון.

מורכבות היא לא חדשנות. מורכבות היא עלות. למשתמשים לא אכפת בכמה סוכנים אתם משתמשים. אכפת להם אם הכלי עובד. פשטות היא פיצ'ר.

Source: https://dev.to/jaideepparashar/why-i-think-most-ai-agents-are-overengineered-249o