הנדסת הקשר (Context Engineering) לבינה מלאכותית: למה פרומפטים הם לא מספיקים
לפני שנתיים, כולם דיברו על הנדסת פרומפטים (prompt engineering).
אנשים שיתפו פרומפטים לכתיבת קוד או כדי לפעול כמו מומחים. הרעיון היה פשוט: פרומפט טוב יותר שווה לתוצאה טובה יותר.
אבל מהנדסים שבנו מוצרי AI אמיתיים גילו אמת אחת. פרומפט הוא רק חלק אחד מהפאזל.
כלי AI מודרניים כמו Claude, Cursor, או GitHub Copilot אינם מסתמכים על פרומפט בודד. הם משתמשים בהנדסת הקשר (Context Engineering).
הנדסת פרומפטים שואלת: "מה אני צריך לשאול את המודל?"
הנדסת הקשר שואלת: "איזה מידע המודל צריך כדי לענות היטב?"
תחשבו על מפתח תוכנה. אם תגידו לו "האפליקציה שבורה", הוא לא יוכל לעזור לכם. הוא ישאל המון שאלות.
אם תספקו לו לוגים של שגיאות (error logs), stack traces ו-deployments אחרונים, הוא יתקן את זה מהר. הוא לא הפך לחכם יותר. פשוט נתתם לו הקשר טוב יותר.
AI עובד באותה צורה.
אם תבקשו מ-AI שאילתת SQL, הוא עלול לנחש. אם תתנו לו את שמות הטבלאות, סוגי העמודות וכללים ספציפיים, התשובה תהיה מדויקת. הפרומפט נשאר פשוט, אבל ההקשר השתנה.
במערכות AI בסביבת ייצור (production), המודל מקבל הרבה יותר מהטקסט שלכם. לעיתים קרובות הוא מקבל:
- הוראות מערכת (System instructions)
- היסטוריית שיחה
- רשומות מסד נתונים
- קבצי פרויקט
- פלטים של כלים (Tool outputs)
עוזר קוד מבוסס AI יודע על מה אתם מדברים כי הוא רואה את הקבצים הפתוחים ואת מבנה התיקיות שלכם. אתם מקלידים ארבע מילים, אבל המודל מקבל אלפי טוקנים (tokens) של נתונים.
תפסיקו להקדיש שעות לליטוש הניסוח של פרומפט. במקום זאת, תשאלו את עצמכם: "איזה מידע חסר למודל?"
אספקת תיעוד טוב יותר, סכמות API או חוקים עסקיים עובדת טוב יותר מאשר חיפוש אחר פרומפט "קסום".
הנדסת הקשר היא לתת למודל את הנתונים הנכונים בזמן הנכון.
בחלק 2, אעסוק ב:
- חלונות הקשר (context windows) וטוקנים
- למה יותר הקשר זה לא תמיד טוב יותר
- איך זיכרון עובד ב-AI
מערכות AI מצוינות תלויות בנתונים שמאחורי הקלעים, ולא רק במילים שאתם מקלידים.
קהילת למידה אופציונלית: https://t.me/GyaanSetuAi