כמה אוטונומיה צריך שתהיה לסוכן ה-AI שלך?

אנשים מתמקדים לעיתים קרובות בהפיכת סוכני AI לאוטונומיים יותר. הם רוצים יותר יכולת הסקה (reasoning) ויותר תכנון. הם רוצים יותר עצמאות.

זה נשמע כמו התקדמות. אך יותר אוטונומיה היא לא תמיד התשובה.

מהנדסי תוכנה לא תמיד בונים כדי להשיג "יותר". אתם לא משתמשים במיקרו-שירותים (microservices) רק כי הם פופולריים. אתם בוחרים ארכיטקטורה שמאזנת בין יכולת למורכבות.

אותו כלל תקף גם ל-AI. אל תשאלו כמה אוטונומי סוכן יכול להיות. שאלו כמה אוטונומי הוא צריך להיות.

אוטונומיה היא החלטת עיצוב. בכל פעם שאתם מאפשרים לסוכן לקבל החלטה, אתם מגדילים את האחריות שלו. זה מביא יתרונות, אך זה גם מביא אתגרים הנדסיים.

אוטונומיה גבוהה עוזרת לסוכן להסתגל למצבים חדשים. הוא פועל לעבר מטרה ללא הנחיה מתמדת. עם זאת, היא גם הופכת את הסוכן לקשה יותר לחיזוי, לניפוי שגיאות (debug) ולאמינות.

אוטונומיה אינה בחינם.

חשבו על אוטונומיה כעל ספקטרום. • בקצה אחד, מערכות רק מייצרות תגובות. • בקצה השני, סוכנים מתכננים צעדים ופועלים בעזרת מינימום סיוע אנושי.

כל צעד במעלה הספקטרום הזה מגדיל את היכולת ואת המורכבות. המטרה שלכם היא לא להגיע לפסגה. המטרה שלכם היא לעצור ברמה שהבעיה שלכם דורשת.

חשבו על עוזר משאבי אנוש (HR). הוא עונה על שאלות בנוגע למדיניות. מתן סמכות לשנות רשומות עובדים מוסיף סיכון מבלי להוסיף ערך.

כעת חשבו על סוכן תפעול. הוא חוקר שגיאות ייצור. הוא צריך לבדוק לוגים (logs) ולשאול מערכות (query systems). תזרים עבודה (workflow) נוקשה מגביל את הסוכן הזה. כאן, אוטונומיה משפרת את הפתרון.

ההבדל הוא בבעיה, לא בטכנולוגיה.

מערכות מצליחות רבות משתמשות באוטונומיה מוגבלת (bounded autonomy). המשמעות היא שהסוכן פועל במסגרת מגבלות קשיחות.

  • הגבלת גישה לכלים.
  • הגבלת היקף המשימה.
  • דרישת אישור לפעולות בעלות השפעה גבוהה.
  • קביעת מגבלות הוצאה.
  • הגדרה מתי לעצור ולשאול בן אדם.

אילוצים הופכים סוכן לצפוי ומהימן.

לפני שאתם מגדילים את האוטונומיה, שאלו את השאלות הבאות:

  • האם תזרים עבודה יכול לפתור זאת?
  • האם הצעד הבא תלוי במידע לא ידוע?
  • מה קורה אם הסוכן נכשל?
  • האם ניתן להפריד בין פעולות מסוכנות לבין הסקה בסיכון נמוך?
  • האם אוטונומיה מוגבלת תעבוד?

המהנדסים הטובים ביותר לא ממקסמים אוטונומיה. הם מחליטים בדיוק איפה היא מתחילה ואיפה היא מסתיימת. ארכיטקטורה טובה עוסקת בביצוע בדיוק מה שנחוץ.

מקור: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi