למי סוכני AI מיועדים באמת?
המונח "AI agent" משמעותו שונה עבור אנשים שונים. מערכת היחסים שלך עם סוכן תלויה בתפקיד שלך. הפער בין התפקידים הללו יוצר בעיות אדירות בעולם העסקי.
מוצרים נבנים עבור האנשים הלא נכונים. הנהלות קובעות ציפיות שמהנדסים אינם יכולים לעמוד בהן. משתמשים מקבלים כלים שהם לא מבינים.
כך תפקידים שונים תופסים סוכני AI:
המשתמש היומיומי הם רוצים שהכלי יעבוד כמו מפסק תאורה. לא אכפת להם ממודלים או מזיכרון. אכפת להם רק אם המשימה מתבצעת בניסיון הראשון. הפחד העיקרי שלהם הוא שהסוכן יעשה משהו שהם לא ביקשו.
הטינקרר (Tinkerer) הם משתמשים ב-prompts מותאמים אישית ובכלי אוטומציה. הם בונים מערכות שעובדות בצורה מושלמת בסביבה מבוקרת. הם מתקשים כאשר סוכנים נותנים תשובות בטוחות אך שגויות, או כאשר שינוי ב-API שובר את זרימת העבודה שלהם.
המנהל/ת הבכיר/ה הם מתמקדים במה שהסוכנים מאפשרים, כמו עבודה מהירה יותר או עלויות נמוכות יותר. הם לעיתים קרובות מבטיחים הבטחות למשקיעים לפני שהם יודעים אם הטכנולוגיה באמת עובדת. זה יוצר לחץ על כל צוות טכני בהמשך השרשרת.
מהנדס/ת QA הם זקוקים ליכולת שחזור ולהגדרות ברורות של מה נחשב "נכון". סוכנים מקשים על כך. הפלט משתנה בכל פעם, וכשלים הם לעיתים קרובות עדינים מדי מכדי שניתן יהיה לזהות אותם באמצעות בדיקות מסורתיות.
צוות ה-IT הם יורשים את האחריות על ה-deployment. הם מתמודדים עם בעיות כמו "stochastic degradation", שבה המודל פשוט מתפקד בצורה גרועה ללא קוד שגיאה ברור. הם זקוקים לתיעוד שעדיין לא קיים.
מנהל/ת בסיסי הנתונים (DBA) הם מנהלים את הנתונים שמזינים את הסוכן. הם מתמודדים עם בעיות חדשות כמו ניהול vector stores ומעקב אחר מידת העדכניות של retrieval index. הם לרוב מגלים שגיאות נתונים לפני כולם.
המפתח/ת הם חייבים להיות חלק מהנדסים וחלק כותבי prompts. הדיבאגינג (Debugging) הוא החלק הקשה ביותר. אין stack trace לתגובה גרועה של מודל. תיקון לבעיה אחת עלול ליצור שלוש בעיות חדשות.
הארכיטקט/ית הם רואים בסוכן מערכת של גבולות ותלויות. עליהם להחליט כיצד רכיבים מתקשרים זה עם זה כדי למנוע קריסה מוחלטת של המערכת.
הטכנולוגיה היא לא הבעיה העיקרית. הבעיה היא הפער בין האנשים הללו. כולם משתמשים באותו כלי, אך הם לא מדברים זה עם זה על מה הוא אמור לעשות או מי אחראי עליו כשהוא נכשל.
מקור: https://dev.to/scythe2/who-is-an-ai-agent-actually-for-a-user-type-field-guide-5760
קהילת למידה אופציונלית: https://t.me/GyaanSetuAi