שינויים בחיוב של GitHub Copilot יוצרים אי-ודאות

GitHub Copilot שינה את מודל החיוב שלו. הוא עבר מתעריף קבוע לחיוב מבוסס שימוש. השינוי הזה יוצר בעיות עבור מפתחים וצוותים.

מפתחים מדווחים על ניצול של כל מכסת הפרימיום החודשית שלהם ביום אחד בלבד. פרומפט בודד למודלים מסוימים יכול לצרוך 40% מהמכסה החודשית. זה מקשה על תכנון העבודה היומית.

הבעיות העיקריות הן:

  • חוסר שקיפות: משתמשים אינם רואים אזהרות על עלויות לפני שליחת פרומפט.
  • היעדר פירוט מפורט: משתמשים אינם יודעים מדוע בקשות מסוימות עולות כל כך הרבה.
  • תקציבים בלתי צפויים: צוותים אינם יכולים לחזות את ההוצאות החודשיות.

אי-הוודאות הזו משפיעה על יותר מאשר רק מפתחים בודדים. CTOs ומנהלי מוצר מתמודדים עם סיכונים תפעוליים חדשים. קשה לתכנן ספרינטים או להקצות משאבים כאשר עלויות הכלים הן "קופסה שחורה".

חלק מהמפתחים מתרחקים מ-Copilot. הם משתמשים במודלים מקומיים באמצעות Ollama כדי להחזיר לעצמם את השליטה. זה מאפשר להם לנהל עלויות והתנהגות מודלים ללא עמלות מפתיעות.

מובילים טכנולוגיים צריכים לשקול את הצעדים הבאים:

  • חיזוי עלויות: קבעו האם הצוות שלכם יכול להתמודד עם הוצאות AI בלתי צפויות.
  • אסטרטגיות היברידיות: שילוב שירותי ענן עם מודלים המאוחסנים באופן עצמאי (self-hosted) עבור עומסי עבודה יציבים.
  • ניטור מורל: בדקו האם כלים לא אמינים גורמים לתסכול בצוותי ההנדסה שלכם.

שקיפות היא עניין חשוב. כלי AI צריכים לסייע באספקת תוכנה, לא ליצור כאבי ראש תקציביים.

מקור: https://dev.to/devactivity/github-copilots-new-billing-a-blow-to-predictability-and-software-development-efficiency-3869

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi