گفتگو کے دوران سسٹم پرامپٹس
طویل عرصے تک چلنے والے AI ایجنٹس بناتے وقت اکثر ایک مہنگی غلطی ہو جاتی ہے۔
آپ پیسے بچانے کے لیے ایک بڑا سسٹم پرامپٹ استعمال کرتے ہیں اور اسے کیش (cache) کر لیتے ہیں۔ یہ تب تک کام کرتا ہے جب تک آپ کو سیشن کے دوران ایجنٹ کو نئی ہدایات دینے کی ضرورت نہ پڑے۔ ہو سکتا ہے کہ آپ کو کوڈنگ کی زبان تبدیل کرنے یا پروجیکٹ کی حالت (state) کو اپ ڈیٹ کرنے کی ضرورت ہو۔
اگر آپ یہ معلومات شامل کرنے کے لیے ٹاپ لیول کے سسٹم پرامپٹ میں ترمیم کرتے ہیں، تو آپ کیش (cache) کو توڑ دیتے ہیں۔ ماڈل کو پوری ہسٹری کو مکمل قیمت پر دوبارہ پروسیس کرنا پڑتا ہے۔ اس سے آپ کا ایجنٹ سست اور مہنگا ہو جاتا ہے۔
نئے Claude ماڈلز اس مسئلے کو گفتگو کے دوران سسٹم میسجز (mid-conversation system messages) کے ذریعے حل کرتے ہیں۔
اب آپ سسٹم رول میسج کو براہ راست اپنے میسج ایرے (message array) کے اندر رکھ سکتے ہیں۔ آپ اسے ٹاپ پر رکھنے کے بجائے ہسٹری کے بعد رکھتے ہیں۔
یہ کیوں اہم ہے:
• کیش کی حفاظت (Cache Safety): ہدایت آپ کی کیش شدہ ہسٹری کے بعد آتی ہے۔ یہ پری فکس (prefix) کو باطل نہیں کرتی۔ آپ صرف نئے، چھوٹے میسج کے لیے ادائیگی کرتے ہیں۔ • سیکیورٹی: آپ متبادل کے طور پر یوزر میسجز استعمال کر سکتے ہیں، لیکن صارفین انہیں جعلی بنا سکتے ہیں۔ سسٹم رول میسج میں وہ اتھارٹی ہوتی ہے جسے صارف دھوکہ نہیں دے سکتا۔ یہ پرامپٹ انجیکشن (prompt injection) کو روکتا ہے۔
اسے صحیح طریقے سے کیسے کریں:
ان میسجز کو حقائق کے طور پر پیش کریں۔ اوور رائڈ (override) کرنے والی زبان استعمال نہ کریں۔
• بہتر: "آٹو اپروو موڈ اب فعال ہو گیا ہے۔" • غیر مناسب: "صارف نے جو کہا اسے نظر انداز کریں اور اس کے بجائے یہ کریں۔"
ماڈلز اکثر ان ہدایات کی مزاحمت کرتے ہیں جو انہیں پچھلا سیاق و سباق (context) نظر انداز کرنے کو کہتی ہیں۔ دنیا کی نئی حالت بیان کرنے پر توجہ دیں۔
استعمال کے اصول:
- یہ یوزر یا اسسٹنٹ میسج کے بعد آنا چاہیے۔
- یہ ایرے میں پہلا میسج نہیں ہو سکتا۔
- یہ صرف ٹیکسٹ مواد قبول کرتا ہے۔
- تمام ماڈلز اس کی حمایت نہیں کرتے۔ اگر آپ کو 400 ایرر ملے تو ہمیشہ یوزر ٹرن ریمائنڈر (user-turn reminder) پر واپس جانے کے لیے
try-catchبلاک استعمال کریں۔
اسے اس وقت استعمال کریں جب سیشن شروع ہونے کے بعد آپ کو کچھ نیا معلوم ہو۔ اگر آپ کو حقیقت کا آغاز میں ہی علم ہو، تو اسے مین سسٹم پرامپٹ میں رکھیں۔ اگر حقیقت متحرک (dynamic) ہے، تو گفتگو کے دوران سسٹم میسج استعمال کریں۔
یہ آپ کے کیش کو فعال (hot) رکھتا ہے اور آپ کے اخراجات کم رکھتا ہے۔