התפשטות סוכני AI: למה חברות טובעות בכלי AI
השיח על AI השתנה.
ב-2024, צוותים דנו באיזה מודל חכם יותר. ב-2025, הם בנו פיצ'רים באמצעות AI. ב-2026, הם נאבקים לנהל את הכל.
Cursor נמצא בכל מחשב נייד. Claude Code רץ ב-CI. Copilot נמצא ב-IDE. צוותי מוצר משתמשים ב-ChatGPT. צוותי דאטה משתמשים ב-Gemini. מחלקות שיווק משתמשות בתריסר כלי כתיבה.
לאף אחד אין רשימה מלאה. אף אחד לא מבצע ביקורת (audit) על הטוקנים. אף אחד לא יודע איזה כלי שלח נתוני לקוחות לאיזה endpoint.
זוהי התפשטות סוכני AI (AI agent sprawl). זו בעיית התשתית הגדולה ביותר של 2026.
התפשטות מתרחשת כאשר אימוץ הכלים מהיר יותר מהכללים של החברה. זה לא קשור לשימוש בכלים רבים; זה קשור לשימוש בהם ללא נראות (visibility) או שליטה.
סימנים לכך שיש לכם התפשטות:
- צוותים שונים משתמשים בכלים שונים למשימות זהות.
- עלויות הטוקנים מגיעות כהפתעה כשהחשבונית מגיעה.
- מהנדסים לא יכולים לעקוב אחרי איזה AI נגע בנתונים ספציפיים.
- הנדסת פרומפטים (Prompt engineering) מתבצעת בבידוד (silos) ללא שיתוף פעולה.
- אתם מגלים שכלי מסוים קרס רק כששישה צוותים נכשלים בבת אחת.
הבעיה היא גרף התלויות הבלתי נראה.
מהנדס עשוי להשתמש ב-Cursor, בעוד שצינור (pipeline) של CI משתמש באינטגרציה מותאמת אישית של GPT-4. בוט לסקירת קוד עשוי להשתמש ב-Gemini.
עכשיו תשאלו: לאילו מהם יש גישה לסכמות של מסד הנתונים שלכם? למפתחות ה-API שלכם? לנתוני הלקוחות שלכם?
התשובה היא לעיתים קרובות כולם. מפתחים שוכחים לנקות נתונים לפני שכלי AI מעבדים אותם. ללא מנגנוני הגנה (guardrails), הם ייכשלו.
קשה גם לעקוב אחר עלויות AI. לולאת סוכן (agent loop) אחת יכולה לשלש את החשבונית שלכם בשבוע אחד. ללא חשבונאות מרכזית, תראו את הנזק רק כשהחשבונית תגיע.
אתם זקוקים לאסטרטגיית ממשל (governance). השתמשו בסיווג נתונים כדי להחליט לאילו כלים תינתן גישה:
- נתונים ציבוריים: כל כלי.
- נתונים פנימיים: כלים עם הסכמי נתונים מתאימים.
- נתונים חסויים: רק APIs מארחים עצמי (self-hosted) או בעלי אפשרות zero-retention.
- נתונים מוגבלים: ללא כלי AI. נקודה.
הפתרון הטוב ביותר הוא AI Gateway. זוהי נקודה אחת שדרכה עוברת כל תעבורת ה-AI.
AI Gateway מספק:
- נראות עלויות עבור כל טוקן.
- ניקוי סודות (secret scrubbing) להסרת PII לפני שהם עוזבים את הרשת שלכם.
- אכיפת מדיניות לחסימת ספקים לא מאושרים.
- ניהול גרסאות לפרומפטים (prompt versioning) כדי להתייחס לפרומפטים כמו לקוד.
הפסיקו להתייחס ל-AI כאל קופסה קסומה. התייחסו אליו כמו למסדי הנתונים בייצור (production) שלכם. הפעילו את אותה קפדנות הנדסית על הסוכנים שלכם כפי שאתם מפעילים על מערכות האימות (auth) וצינורות הפריסה (deployment pipelines) שלכם.
ממשל (Governance) הוא פשוט המשמעת של לדעת מה רץ במערכת שלכם, למה הוא רץ, ומה מותר לו לעשות.
Optional learning community: https://t.me/GyaanSetuAi