המדריך החדש של OpenAI ל-Prompting: התמקדו בתוצאות, לא בתסריטים שלב-אחר-שלב

OpenAI שחררה מסגרת עבודה (framework) חדשה ל-prompting המאתגרת את האובססיה המסורתית ל-"chain-of-thought", ומעודדת משתמשים לתת עדיפות לתוצאות על פני הוראות נוקשות. שינוי זה מסמן מעבר לאינטראקציות אינטואיטיביות יותר, המבוססות על יכולות הסקה, שבהן המודל מקבל אוטונומיה במקום תסריט מחמיר.

ארבעת אבני הבניין של Prompting אפקטיבי

במקום לספק מדריך מורכב של פרמטרי API או סכמות מפורטות, OpenAI מפשטת את ארכיטקטורת ה-prompting לארבעה מרכיבים אופציונליים: מטרה (Goal), הקשר (Context), פורמט פלט (Output Format), וגבולות (Boundaries). חשוב לציין כי אף אחד מהם אינו חובה. עבור שאילתות פשוטות, prompt קצר מניב לעיתים קרובות תוצאות טובות יותר מאשר סט הוראות מתוכנן יתר על המידה.

פילוסופיית הליבה של מדריך זה היא "להתחיל בקטן". OpenAI מציעה כי המשתמשים יובילו עם התוצאה הרצויה במקום עם רצף של שלבים מפורטים. על ידי תיאור המטרה הסופית במקום התהליך, אתם מאפשרים למודלים כמו GPT-4o לחפש, להשוות מידע ולהתאים את הגישה שלהם באופן אוטונומי. יש להשתמש בתיאורי תהליך מפורטים רק כאשר המתודולוגיה הספציפית חשובה באותה מידה כמו הפלט הסופי.

מגבלות על פני תסריטים

תובנה מרכזית עבור מפתחים ומשתמשים מתקדמים היא שמגבלות הן אפקטיביות יותר מתסריטים שלב-אחר-שלב. במקום לנסות לנהל במיקרו-ניהול כל צעד שה-AI עושה, OpenAI ממליצה להטמיע "כללים נוקשים" אחדים כדי למנוע התנהגות לא רצויה. דוגמאות כוללות הנחיות כמו "שמור על נתוני התקציב המאושרים ללא שינוי" או "הכן זאת כטיוטה; אל תשלח אותה".

גישת ה-"less-is-more" הזו משתרעת גם על ניהול ההקשר (context). המדריך ממליץ לצרף קבצים — כגון PDF, גיליונות אלקטרוניים או תמונות — אשר אכן ישפיעו על התשובה בלבד. עבור עבודה מקצועית בעלת חשיבות גבוהה, OpenAI מציעה לולאת "אימות עצמי" (self-verification), שבה אתם מבקשים מהמודל במפורש לבדוק את הפלט שלו עבור שגיאות ספציפיות, כגון וידוא שלכל משימה יש בעלים ומועד סיום מוגדרים.

ההבחנה בין "Chat" ל-"Work" ושדרוג Codex

OpenAI גם מעניקה פורמליות להבחנה בין "Chat" ל-"Work". בעוד ש-Chat מיועד לשאילתות מהירות וניסוח מחדש, "Work" מתייחס למשימות עומס כבד השואבות מידע ממקורות מרובים (כמו Gmail, Slack או GitHub) כדי להפיק תוצרים גדולים. בעוד שמשימות Work צורכות יותר קרדיטים, הן נועדו לאוטומציה של תהליכי עבודה מורכבים וחוזרים.

עבור מפתחים המשתמשים ב-Codex, המדריך מציג יכולות steering ו-sandboxing מתוחכמות. משתמשים יכולים כעת להשתמש בפקודת "Steer" כדי להפנות מחדש ריצה נוכחית, או ב-"Queue" כדי לתור את ההוראה הבאה. כדי לנהל פרויקטי קוד מורכבים, OpenAI הציגה פקודות slash ספציפיות:

• /plan: מנתח קוד ומציע גישה לפני הביצוע.
• /goal: קובע יעד ברמה גבוהה שהמודל עוקב אחריו לאורך מספר שלבים.
• /review: מאפשר ביצוע ביקורות אבטחה ולוגיקה באופן מקומי או בשילוב עם GitHub.

תובנות מרכזיות

• תנו עדיפות לתוצאות: התחילו עם התוצאה הרצויה; הגדירו את התהליך רק אם השלבים הספציפיים חיוניים למשימה.
• השתמשו במגבלות, לא בתסריטים: השתמשו בגבולות נוקשים כדי למנוע שגיאות, במקום לנסות לכתוב תסריט לכל תנועה בודדת של המודל.
• נצלו פקודות ייעודיות: השתמשו בפקודות ה-slash של Codex כמו /plan ו-/goal כדי לנהל תהליכי עבודה טכניים מורכבים ורב-שלביים.