הנדסת לופים (Loop Engineering): תכננו לופים, אל תסתפקו רק בפרומפטים

הפסיקו להזין פרומפטים לסוכני קוד באופן ידני. התחילו לתכנן לופים (loops) שמזינים להם פרומפטים עבורכם.

הרעיון הזה מפיטר שטיינברגר שינה את השיח בקרב מפתחי AI. הוא טוען שמתכנתים צריכים לעבור מתפקיד הנהגים לתפקיד של מעצבי מערכות.

מהי הנדסת לופים (Loop Engineering)?

זהו המעבר מהקלדת פרומפטים אחד אחד לכתיבת תוכניות שמנהלות סוכנים. במקום שאתם תעשו את העבודה, לופ מטפל בלוגיקה.

הלופ מבצע את השלבים הבאים:

  • הוא בוחר משימה.
  • הוא שולח את המשימה לסוכן.
  • הוא בודק את התוצאה.
  • הוא מחליט להמשיך או לעצור.

הלופ עובד בזמן שאתם ישנים.

המחזור בן 4 השלבים של כל לופ:

  1. פעולה (Act): הסוכן כותב קוד או מריץ פקודה.
  2. תצפית (Observe): המערכת קוראת את הפלט, לוגים של שגיאות או תוצאות בדיקה.
  3. חשיבה (Reason): המערכת מעריכה האם המטרה הושגה.
  4. חזרה (Repeat): אם זה נכשל, המערכת שולחת את הסוכן לנסות שוב.

פרומפטינג ידני מול הנדסת לופים:

  • ידני: אתם המנוע. אתם חייבים לשבת מול המסך. אתם קוראים כל diff.
  • לופ: הלופ הוא המנוע. הוא רץ באופן אוטומטי. הוא עובד 24/7.

עמודי התווך של ההצלחה:

לופ טוב דורש שלושה דברים:

  • מאמת (Verifier): כלי לבדיקה אם העבודה אכן נכונה. אל תתנו לסוכן לבדוק את העבודה של עצמו. השתמשו בבדיקות אמיתיות וב-linters.
  • ניהול מצב (State Management): מעקב אחר מה בוצע ומה ממתין לביצוע.
  • בקרת עלויות (Cost Control): קביעת מגבלות על מספר הטוקנים ומספר ניסיונות החזרה.

סיכונים שיש לשים לב אליהם:

  • סיום כוזב (False Completion): הסוכן אומר שהוא סיים, אך הבאגים עדיין קיימים. פתרו זאת באמצעות מאמתים חזקים.
  • עומס מהירות (Speed Overload): הלופ כותב 1,000 שורות קוד בזמן שאתם ישנים. אתם עלולים להקדיש יום שלם רק לניסיון להבין אותו.
  • הסתמכות יתר (Over-reliance): אתם מפסיקים לבדוק את העבודה כי היא נראית טוב עשר פעמים ברציפות. תמיד שמרו על בן אדם בלופ (human in the loop) עבור משימות קריטיות.

איך מתחילים:

  • התחילו בקטן. בנו לופ פשוט שמנסה שוב ושוב פרומפט עד שבוחן (test) עובר.
  • השקיעו במאמתים. השתמשו בערכות הבדיקה (test suites) הקיימות שלכם כ"עיניים" של הלופ.
  • הגבילו נזקים. השתמשו ב-git branches והגדירו מגבלות מקסימליות לניסיונות חוזרים.
  • תרגלו במשימות בעלות סיכון נמוך. השתמשו בלופים עבור תיעוד או refactoring לפני שעוברים לקוד בסביבת production.

עידן הפרומפטינג הידני מסתיים. עידן הנדסת הלופים הגיע.

Source: https://dev.to/sarantoon/loop-engineering-emuuekaar-prompt-agent-dwymuueaimphiiktaip-aelw-programmer-tngkaebb-loop-aethn-1ikh

Optional learning community: https://t.me/GyaanSetuAi