מודל הבשלות של Agentic AI

רוב החברות תקועות ב"מלכודת הצ'אטבוט".

הן משתמשות ב-AI כדי לסכם קבצים או לענות על שאלות. הן קוראות לזה אוטונומיה. זה לא. זו פשוט גרסה טובה יותר של השלמה אוטומטית (autocomplete).

המעבר ממערכת שמדברת למערכת שמבצעת עבודה דורש שינוי בארכיטקטורה. אתם כבר לא מנהלים טקסט; אתם מנהלים פעולות וסיכונים.

אם AI עושה טעות בחלון צ'אט, זה מטרד. אם AI עושה טעות בפקודה למחיקת מסד הנתונים בענן שלכם, זה אסון.

השתמשו במודל הבשלות בן ארבעת השלבים הזה כדי להנחות את המעבר שלכם:

• שלב 1: הפקיד (The Clerk) ה-AI מנסח טקסט או מוצא מידע. אדם מנהל כל צעד וצעד. דוגמה: ה-AI מנסח תשובה לשירות לקוחות כדי שאדם ישלח אותה.

• שלב 2: המציע (The Proposer) ה-AI מציע פעולה או עסקה ספציפית. אדם חייב ללחוץ על אישור. דוגמה: ה-AI מציע החזר כספי של 20$. אדם לוחץ על הכפתור כדי לשלוח אותו.

• שלב 3: הסוכן המוסמך (The Delegated Agent) ה-AI עובד לבד בתוך גבולות נוקשים. בני אדם מגדירים את הכללים במקום לאשר כל משימה. דוגמה: ה-AI מעבד באופן אוטומטי את כל ההחזרים הכספיים מתחת ל-50$ עבור לקוחות נאמנים.

• שלב 4: האופטימייזר (The Optimizer) ה-AI מנטר תוצאות ומשפר את התוכניות שלו בעצמו. דוגמה: ה-AI חוזה עומס בשרת ומבצע scaling של משאבים כדי לחסוך בעלויות.

הסכנה היא הניסיון לדלג על שלבים. מעבר לשלב 4 ללא המנגנונים המאבטחים של שלבים 2 ו-3 יוצר חוסר יציבות מערכתית.

היזהרו משלושת הסיכונים הללו:

  • לולאות אינסופיות (Infinite Loops): שני סוכנים מפעילים זה את זה במעגל שגורם לקריסת המערכת.
  • התרחבות הרשאות (Permission Creep): מתן גישת מנהל (admin) לסוכן כשהוא זקוק רק לעדכון שדה אחד.
  • הטיות אוטומציה (Automation Bias): בני אדם מפסיקים להקדיש תשומת לב והופכים ל"חותמת גומי" פסיבית.

תובנות מפתח עבור מהנדסי פלטפורמה:

  • מעבר מ-RAG ל-Agentic RAG: המערכת חייבת להחליט באילו כלים להשתמש כדי למצוא מידע.
  • פתרון לסטיית מצב (State Drift): ודאו שכל הסוכנים רואים את אותם נתונים בזמן אמת.
  • בניית עקבות ביקורת בלתי ניתנים לשינוי (Immutable Audit Trails): עליכם לתעד (log) את המטרה, את התוכנית ואת כל קריאה לכלי.
  • ארכיטקטורה עבור יכולת פעולה משותפת (Interoperability): בנו רשת (mesh) שבה סוכנים שונים יכולים לתקשר זה עם זה.

הפסיקו להתייחס ל-AI כאל תוסף (plugin). התחילו להתייחס אליו כמערכת מנוהלת (governed system).

מקור: https://dev.to/omnithium/the-agentic-ai-maturity-model-moving-beyond-the-chatbot-trap-3b21

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi