توقفتُ عن التعامل مع ذاكرة الذكاء الاصطناعي كملخصات
توقفتُ عن التعامل مع ذاكرة الذكاء الاصطناعي كملخص. أنا الآن أتعامل معها كعملية تسليم (handoff).
تركز معظم أنظمة الذاكرة على التلخيص. فهي تضغط المحادثة في نهاية الجلسة، وتحفظ الأجزاء المهمة لوقت لاحق.
هذا خطأ. فالتلخيص يحاول ضغط كل شيء دون وجود قارئ محدد، ويفتقر إلى وجود قارئ واضح.
أما عملية التسليم (handoff) فهي مختلفة. فهي تُعدُّ للتفاعل القادم، وتكتب لجلسة مستقبلية تحتاج إلى استكمال العمل دون التظاهر بأنها كانت موجودة طوال الوقت.
إذا كنت تبني ذاكرة للذكاء الاصطناعي، فعليك التركيز على أربعة أشياء محددة:
- تحولات الإطار (Framing shifts): كيف تغير منظور المستخدم خلال الجلسة.
- الحدود (Boundaries): قواعد مثل "لا تتخذ هذا القرار نيابة عني" أو "اسأل قبل إعادة فتح هذا الموضوع".
- التوترات غير المحسومة (Unresolved tensions): الأشياء التي اختار المستخدم تركها مفتوحة عن قصد.
- تصحيحات المستخدم (User corrections): عندما يفشل النظام ويقدم المستخدم الحل.
تتطلب عملية التسليم مخططًا (schema). يجب أن تفصل بين ما يجب نقله وما يجب تركه وراءنا. كما يجب أن تتبع ما إذا كان المستخدم قد وافق على البيانات أم لا.
الهدف ليس تذكر كل شيء. الهدف هو الحفاظ على الأشياء القليلة التي تجعل الجلسة التالية أكثر دقة وأقل تكرارًا.
الخطر الأكبر يكمن في ترك النموذج يقرر كل شيء. فإذا كتب النموذج عملية التسليم بمفرده، فقد يحفظ نسخة من المستخدم يسهل فهمها ولكنها ليست حقيقية؛ فقد يحول مزاجًا مؤقتًا إلى سمة دائمة.
الحل يكمن في إيجاد منطقة وسطى: النموذج يضع المسودة، والمستخدم يصدّق عليها.
يجب أن يتمتع المستخدم بالسلطة. ينبغي أن يكون قادرًا على الاحتفاظ بما يتم نقله، أو حذفه، أو تعديله بسرعة. فإذا نقل النظام الشيء الخطأ، سيضيع المستخدم وقته في التراجع عنه.
الذاكرة ليست مشكلة تخزين. إنها مشكلة حوكمة.
عليك أن تقرر:
- من يقرر ما الذي سيتم تذكره؟
- من يمكنه تصحيحه؟
- متى يجب على النظام أن يختار النسيان؟
لا ينبغي أن تكون ذاكرة الذكاء الاصطناعي كومة من الملخصات. بل يجب أن تكون مجموعة من عمليات التسليم المحكومة.
المصدر: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi