אשליית היעילות: למה ה"מייל האחרון" של ה-AI עולה הכל

אתם קוראים על כלל ה-80/20 של קוד AI ומנהנים בראש.

ה-AI כותב את ה-80% הראשונים של הקוד שלכם בשניות. זה נראה כמו התקדמות. זה מרגיש כמו מהירות.

זו מלכודת.

ה-20% האחרונים של העבודה תופסים 80% מהזמן שלכם. כאן פרויקטים מתים. כאן מפתחים מאבדים את השפיות.

ה-AI עובד על סמך הסתברות. הוא חוזה את המילה או שורת הקוד הבאה שהיא הסבירה ביותר. הוא לא מבין לוגיקה. הוא לא מבין את ארכיטקטורת המערכת הספציפית שלכם. הוא יוצר "נתיב אושר" (happy path) שעובד רק בתנאים מושלמים.

כשעוברים מעבר ל"נתיב האושר", נתקעים בקיר.

אני קורא לזה חוב אימות (Verification Debt).

חוב טכני נובע מתיקונים מהירים. חוב אימות נובע מחוסר הבנה.

כשאתם כותבים קוד בעצמכם, אתם בונים מפה מנטלית. אתם יודעים למה כל שורה קיימת. כש-AI כותב אותו, מוגש לכם מוצר מוגמר שלא בניתם. אתם לא הבעלים של הלוגיקה. אתם רק הבעלים של התוצאה.

אם אתם לא מבינים את הקוד, אתם לא יכולים לדבג (debug) אותו. אתם מבזבזים שעות בניסיון לתקן טעות שה-AI עשה בשנייה אחת.

מהירות היצירה יוצרת אשליית סיום. אתם חושבים שאתם כמעט גמורים. ואז מגיעים מקרי הקצה (edge cases). האינטגרציה נכשלת. פרצות אבטחה מופיעות.

ה-20% האחרונים הם לא רק "ליטושים אחרונים". הם הליבה של האיכות. הם הבדיקות, הדיבאגינג והטיפול במקרי קצה.

איך מתקנים את זה?

הפסיקו להתייחס לפלט של ה-AI כמוצר סופי. התייחסו אליו כאל נתונים לא מהימנים.

  • כתבו בדיקות תחילה. לעולם אל תייצרו לוגיקה לפני שאתם מייצרים את הבדיקות. הגדירו איך נראה כישלון לפני שה-AI מתחיל לדבר.
  • ודאו במקטעים. אל תחכו לאינטגרציה מלאה של המערכת כדי למצוא שגיאות. בדקו כל בלוק קטן בבידוד.
  • זרקו במקום לתקן (patching). אם פונקציה של AI נכשלת בבדיקה, אל תנסו לתקן אותה שורה אחר שורה. מחקו אותה ונסו פרומפט אחר. ניסיונות לתיקון (patching) של שגיאות AI יוצרים לעיתים קרובות עוד שגיאות.

כלל ה-80/20 הוא אזהרה. ה-AI מגביר את המהירות שלכם, אך הוא גם מגדיל את האחריות שלכם לאמת.

אם אתם מבלים את כל הזמן שלכם בתיקון טעויות של ה-AI, לא השגתם יעילות. רק החלפתם סוג אחד של עבודה בסוג אחר.

ה"מייל האחרון" הוא המקום שבו אתם מוכיחים שהקוד באמת עובד. זה המקום שבו אתם מוכיחים שלא עליתם על שקר שנראה מושלם.

Source: https://dev.to/amrree/the-illusion-of-efficiency-why-ais-last-mile-costs-everything-a7g

Optional learning community: https://t.me/GyaanSetuAi