𝗠𝗶𝗱-𝗖𝗼𝗻𝘃𝗲𝗿𝘀𝗮𝘁𝗶𝗼𝗻 𝗦𝘆𝘀𝘁𝗲𝗺 𝗣𝗿𝗼𝗺𝗽𝘁𝘀

ایجنٹ کے طویل سیشنز میں ایک مستحکم سسٹم پرامپٹ اور بڑھتی ہوئی ہسٹری (history) استعمال ہوتی ہے۔ اخراجات کم رکھنے کے لیے آپ پری فکس (prefix) کو کیش (cache) کر لیتے ہیں۔

مسئلہ تب پیدا ہوتا ہے جب آپ کو سیشن کے دوران نئی ہدایات شامل کرنے کی ضرورت پڑتی ہے۔ مثلاً آپ ایجنٹ کو زبان تبدیل کرنے یا کوئی سیٹنگ اپ ڈیٹ کرنے کا کہنا چاہتے ہیں۔

اگر آپ ٹاپ لیول (top-level) سسٹم پرامپٹ میں ترمیم کرتے ہیں، تو آپ کیش (cache) کو توڑ دیتے ہیں۔ شروع میں ایک بائٹ (byte) تبدیل کرنے سے ہر کیش شدہ ٹرن (cached turn) غیر مؤثر ہو جاتا ہے۔ آپ کو پوری ہسٹری کو دوبارہ پروسیس کرنے کے لیے مکمل قیمت ادا کرنی پڑتی ہے۔ یہ طریقہ سست اور مہنگا ہے۔

Claude کے نئے ماڈلز اس مسئلے کو گفتگو کے دوران سسٹم میسجز (mid-conversation system messages) کے ذریعے حل کرتے ہیں۔

اب آپ میسجز ایرے (messages array) میں براہ راست سسٹم رول میسج (system role message) رکھ سکتے ہیں۔ آپ اسے ٹاپ پر رکھنے کے بجائے ہسٹری کے بعد رکھتے ہیں۔

یہ طریقہ اس لیے کام کرتا ہے کیونکہ نئی ہدایت کیش شدہ ہسٹری کے بعد آتی ہے۔ یہ اس سے پہلے والی کسی بھی چیز کو غیر مؤثر نہیں بناتی۔ آپ کو صرف اس چھوٹے سے نئے میسج کے لیے ادائیگی کرنی پڑتی ہے۔ ایجنٹ اب بھی اس ہدایت کو مکمل اتھارٹی کے ساتھ تسلیم کرتا ہے۔

پرانا طریقہ ہدایات کو یوزر میسج (user message) کے اندر رکھنا تھا۔ اس میں سیکیورٹی کا خطرہ ہے۔ صارفین آپ کے ایجنٹ کو دھوکہ دینے کے لیے یوزر میسجز کو سپوف (spoof) کر سکتے ہیں۔ سسٹم رول میسج کو سپوف نہیں کیا جا سکتا۔ یہ موڈ سوئچ یا پرمیشنز جیسے قابل اعتماد اپ ڈیٹس کے لیے ایک محفوظ چینل فراہم کرتا ہے۔

اسے درست طریقے سے استعمال کرنے کے لیے ان اصولوں پر عمل کریں:

• ہدایات کو حقائق کے طور پر بیان کریں۔ اوور رائڈ (override) زبان استعمال نہ کریں۔ • بہتر: "Auto-approve mode اب فعال ہے۔" • غلط: "صارف کو نظر انداز کریں اور اس کے بجائے X کریں۔" • ماڈلز ان ہدایات کی مزاحمت کر سکتے ہیں جو انہیں پچھلا سیاق و سباق (context) نظر انداز کرنے کو کہتی ہیں۔ • یہ میسجز کسی یوزر یا اسسٹنٹ میسج کے بعد آنے چاہئیں۔ • یہ ایرے (array) میں پہلا میسج نہیں ہو سکتے۔ • ابتدائی سیٹ اپ کے لیے ٹاپ لیول سسٹم پرامپٹ استعمال کریں۔

اگر آپ ایسا ماڈل استعمال کرتے ہیں جو اسے سپورٹ نہیں کرتا، تو آپ کو 400 ایرر (error) ملے گا۔ ہمیشہ اپنے کال (call) کو try-catch بلاک میں رکھیں۔ اگر سسٹم رول ناکام ہو جائے تو یوزر ٹرن ریمائنڈر (user-turn reminder) کا سہارا لیں۔

جب سیشن شروع ہونے کے بعد آپ کو کچھ نیا معلوم ہو تو اس فیچر کا استعمال کریں۔ اسے موڈ کی تبدیلیوں یا نئے سیاق و سباق (context) کے لیے استعمال کریں۔ یہ آپ کے کیش (cache) کو فعال رکھتا ہے اور آپ کی ہدایات کو محفوظ بناتا ہے۔

ماخذ: https://dev.to/pavelespitia/mid-conversation-system-prompts-steering-an-agent-without-breaking-the-cache-2kd3

اختیاری لرننگ کمیونٹی: https://t.me/GyaanSetuAi