𝗔𝗜 𝗠𝗲𝗺𝗼𝗿𝘆 𝗜𝘀 𝗔 𝗣𝗿𝗼𝗱𝘂𝗰𝘁 𝗦𝘁𝗮𝘁𝗲, 𝗡𝗼𝘁 𝗔 𝗣𝗿𝗼𝗺𝗽𝘁 𝗧𝗿𝗶𝗰𝗸
میموری کے ساتھ اے آئی پروڈکٹس بنانا مشکل کام ہے۔
آسان طریقہ یہ ہے کہ حقائق کو محفوظ کیا جائے اور انہیں اگلے پرامپٹ میں ڈال دیا جائے۔ یہ صارف کی پسند (user preference) کو یاد رکھنے جیسے سادہ کاموں کے لیے کارآمد ہے۔
لیکن جب صارفین ذاتی ڈیٹا شیئر کرتے ہیں تو یہ طریقہ ناکام ہو جاتا ہے۔ اگر آپ کی پروڈکٹ خوابوں، موڈز، یا نجی خیالات کو ہینڈل کرتی ہے، تو آپ میموری کو ایک ہی ڈھیر (single bucket) کے طور پر نہیں دیکھ سکتے۔
میموری کے لیے صرف ایک "آن/آف" سوئچ بہت زیادہ پیچیدگی کو چھپا دیتا ہے۔ آپ کو اس چیز کو الگ کرنا چاہیے جو صارف کی ملکیت ہے اور اسے جو ماڈل استعمال کرتا ہے۔
میں نے یہ ایک ریفلیکٹیو (reflective) اے آئی پروڈکٹ بناتے ہوئے سیکھا۔ مجھے احساس ہوا کہ میموری کوئی ایک چیز نہیں ہے۔ یہ کئی مختلف تہوں (layers) پر مشتمل ہے:
- گفتگو: خام چیٹ ہسٹری۔
- سیشن نوٹس: چیٹ کے بعد تیار کردہ خلاصے۔
- میموری آئٹمز: مخصوص حقائق جن کی صارف منظوری دیتا ہے۔
- یوزر کانٹیکسٹ: پس منظر کی معلومات جو صارف نے خود لکھی ہوں۔
- ریٹریول ایویڈنس: وہ ڈیٹا جسے سسٹم کسی مخصوص مرحلے کے لیے منتخب کرتا ہے۔
- پرامپٹ کانٹیکسٹ: وہ حتمی ڈیٹا جو ماڈل اصل میں دیکھتا ہے۔
ہر تہہ کے لیے اپنے الگ قواعد کی ضرورت ہوتی ہے۔
سب سے بڑی غلطی محفوظ شدہ میموری کو پرامپٹ ٹائم میموری کے ساتھ ملانا ہے۔ ہو سکتا ہے کہ کوئی صارف میموری اثاثے (memory asset) کا مالک ہو لیکن وہ نہ چاہے کہ ماڈل اسے ابھی استعمال کرے۔
اس کے انتظام کے لیے آپ کو ایک ایکسیس لیئر (access layer) کی ضرورت ہے۔ صرف یہ پوچھنے کے بجائے کہ "کیا میموری آن ہے،" یہ پوچھیں کہ "کیا یہ میموری پرامپٹ میں شامل ہو سکتی ہے؟"
یہ فرق کئی مسائل حل کرتا ہے:
- ایک مفت صارف ڈیٹا محفوظ کر سکتا ہے بغیر اس کے کہ وہ ہر چیٹ میں فعال ہو۔
- ایک صارف اپنی ہسٹری ڈیلیٹ کیے بغیر میموری کو روک سکتا ہے۔
- سبسکرپشن میں تبدیلی ڈیٹا کو محفوظ رکھتے ہوئے ماڈل کو ڈیٹا استعمال کرنے سے روک سکتی ہے۔
آپ کو یہ بھی بتانے کی ضرورت ہے کہ اے آئی چیزیں کیوں یاد رکھتا ہے۔ اگر اے آئی دو ہفتے پہلے کا کوئی خواب اچانک ذکر کرے، تو اگر وہ اس کی وجہ نہ بتا سکے تو یہ خوفناک (creepy) محسوس ہو سکتا ہے۔
آپ کے سسٹم میں میٹا ڈیٹا (metadata) ہونا چاہیے۔ اسے یہ بتانا چاہیے کہ آیا میموری صارف کا براہ راست نوٹ تھا یا ماڈل کا استخراج (inference)۔
میموری کو پرامپٹ ٹرک سمجھنا بند کریں۔ اسے ایک پروڈکٹ اسٹیٹ کے طور پر دیکھیں۔
اگر آپ حساس یا ذاتی ڈیٹا کے لیے کچھ بنا رہے ہیں، تو ان قواعد پر عمل کریں:
- خام ٹرانسکرپٹس کو طویل مدتی میموری کے طور پر استعمال نہ کریں۔
- اہم میموری آئٹمز کے لیے صارف کی منظوری لازمی بنائیں۔
- محفوظ شدہ ڈیٹا کو اس چیز سے الگ رکھیں جو پرامپٹ میں داخل ہوتی ہے۔
- صارفین کو صرف پورے اکاؤنٹس ہی نہیں بلکہ انفرادی آئٹمز ڈیلیٹ کرنے کی اجازت دیں۔
- ڈیٹا رکھنے (retention) اور ڈیلیٹ کرنے کے قواعد کو واضح اور سادہ رکھیں۔
میموری کے طاقتور بننے سے پہلے اس کا معائنہ کرنا ممکن ہونا چاہیے۔
Source: https://dev.to/woshiliyana/ai-memory-should-be-a-product-state-not-a-prompt-trick-4m20