מדוע ארגנים מתקשים לחשב את ההחזר על ההשקעה (ROI) בבינה מלאכותית

גל ה-"tokenmaxxing" הראשוני — שבו מנכ"לים עודדו שימוש אגרסיבי ולא מבוקר בבינה מלאכותית — נתקל בבדיקת מציאות קשה ככל שתקציבי החברות עוברים בחינה מדוקדקת. ככל שחברות עוברות את שלב הניסויים, האתגר המרכזי עבר מאימוץ פשוט להוכחת החזר על השקעה (ROI) מוחשי.

מ-"tokenmaxxing" לאחריות תקציבית

מוקדם יותר השנה, עמק הסיליקון היה שרוי ב-"tokenmaxxing", מגמה שבה ארגונים דחפו את השימוש בבינה מלאכותית לקצוות המוחלטים כדי למקסם יכולות. עם זאת, ההשלכות הכלכליות של ההתלהבות חסרת הרסן הזו מתחילות כעת לצוף על פני השטח. דיווחים מצביעים על כך ששחקנים מרכזיים כמו Uber ככל הנראה כילו את תקציבי ה-AI השנתיים שלהם תוך חודשים ספורים בלבד.

זינוק זה בצריכה הוביל לשלב של תיקון בנוף הארגוני. אנו רואים ארגונים מצמצמים פעילות, כמו חברות המבטלות רישיונות Claude עבור מחלקות ספציפיות, ואפילו Meta שעל פי הדיווחים הפסיקה את ה-AI leaderboard הפנימי שלה. מהלכים אלו מסמנים מעבר מגישת "צמיחה בכל מחיר" לגישה של משמעת פיסקלית קפדנית וניהול משאבים.

החיפוש אחר "רגעים קסומים" וסוכנים אישיים

למרות הידוק התקציבים, Tiffany Luck, שותפה ב-NEA, נותרה אופטימית לגבי הפוטנציאל הטרנספורמטיבי של בינה מלאכותית, במיוחד במגזר הצרכני. Luck מדגישה את החשיבות של זיהוי "רגעים קסומים" — אותם רגעים ספציפיים שבהם ה-AI מספק תועלת בלתי ניתנת להכחשה ובעלת ערך גבוה למשתמש הקצה.

התעשייה מתקדמת מעבר לצ'אטבוטים פשוטים לעבר פיתוח של סוכנים אישיים מתוחכמים. סוכנים אלו מייצגים את חזית ה-AI הבאה, במעבר מכלים ריאקטיביים לעוזרים פרואקטיביים המסוגלים לנווט במשימות מורכבות. עבור קרנות הון סיכון ומייסדים, המטרה היא להתקדם מעבר ליישומים גנריים של LLM ולבנות סוכנים מתמחים הפותרים בעיות בעלות חיכוך גבוה בדרכים שמצדיקות את עלויות התפעול המשמעותיות שלהם.

עליית ניהול הוצאות ה-AI

ככל שהפער בין ההייפ סביב ה-AI לבין הפרודוקטיביות בפועל מצטמצם, תת-מגזר חדש של סטארט-אפים צומח כדי לגשר על הפער. ארגונים מתקשים כעת לעקוב אחר העלויות המפורטות של קריאות API של מודלים, כוח מחשוב ורישיונות משתמש (seat licenses) אל מול הערך הממשי שנוצר.

זה יצר הזדמנות אדירה עבור סטארט-אפים המתמקדים ב-AI observability ובניהול הוצאות. חברות מחפשות כלים המספקים שקיפות למערך ה-AI שלהן, המאפשרים להן לראות בדיוק היכן נצרכים טוקנים והאם הטוקנים הללו מייצרים הכנסות או רק מוסיפים לתקורה. היכולת לקשר בין הוצאות AI לבין תוצאות עסקיות ספציפיות תהיה הגורם המכריע עבור ארגונים שיצליחו לשלב AI בתהליכי העבודה המרכזיים שלהם.

תובנות מרכזיות