𝗦𝗮𝗹𝗶𝗲𝗻𝗰𝗲 𝗶𝘀 𝗡𝗼𝘁 𝗖𝗮𝗿𝗿𝘆 𝗩𝗮𝗹𝘂𝗲
معظم الناس يبنون ذاكرة الوكيل (agent) بشكل خاطئ.
إنهم يركزون على التخزين. يستخدمون مخازن المتجهات (vector stores) أو ملخصات ذكية. يعتقدون أنه إذا حفظوا كل شيء، فسيعرف الوكيل كل شيء.
إنهم مخطئون.
عندما يكون لديك مئات الجلسات، لا يمكنك قراءتها جميعًا. إذا بدأ الوكيل جلسة جديدة من الصفر (cold start)، فإنه يضيع الوقت. وإذا بدأ مع الكثير من الضجيج (noise)، فإنه يرتكب الأخطاء.
المشكلة تكمن في الاختيار. يخلط معظم الناس بين البروز (salience) والقيمة المستمرة (carry value).
- البروز (Salience) يخبرك بما كان "صاخبًا" أو بارزًا في الجلسة الأخيرة.
- القيمة المستمرة (Carry value) تخبرك بما تحتاجه الجلسة التالية لتعمل بشكل صحيح.
النقاش الحاد حول اسم متغير ما له بروز عالٍ. ولكن إذا كان هذا الاسم لا يؤثر على الكود المستقبلي، فليس له أي قيمة مستمرة. إذا نقلته للأمام، فأنت تضيف ضجيجًا فحسب.
أنا أدير مسار ذاكرة (memory pipeline) يعتمد على هذه القواعد:
البروز الميكانيكي أولاً. استخدم مقيّمًا حتميًا (deterministic scorer) للعثور على اللحظات المهمة. أعطِ وزنًا للتصحيحات أعلى من التعليقات البسيطة. يجب أن يرتبط كل تمييز (highlight) بالنص الأصلي (raw transcript). لا تسمح للنموذج باختراع حقائق دون مصدر.
التركيب (Synthesis) ثانيًا. استخدم نموذج لغة كبير (LLM) فقط لإضافة طبقة من المعنى للتمييزات. إذا كانت التمييزات سيئة، فسيكون الملخص مجرد هراء واثق.
استخدم موجزًا وقت الاسترجاع (retrieval-time brief). قم بإنشاء ملف مثل INDEX.md لكل مشروع. يقرأ الوكيل هذا الملف في بداية الجلسة. لا ينبغي لأي نموذج أن يخترع هذا الموجز بشكل فوري. يجب أن يكون ملفًا بسيطًا يمكنك فتحه وتعديله يدويًا.
لبناء ذاكرة أفضل، أنت بحاجة إلى ما هو أكثر من مجرد قائمة بالأشياء المهمة. أنت بحاجة إلى:
- درجتان: واحدة لمدى بروز الحدث (salience) وأخرى لمدى أهميته لاحقًا (carry value).
- فئات الذاكرة: افصل بين القرارات النشطة، وقيود التشغيل، والحلقات المفتوحة (open loops).
- تواريخ انتهاء الصلاحية: يجب أن يكون لكل جزء من الذاكرة سبب لـ "الموت". بدون انتهاء الصلاحية، سيتسبب السياق في ازدحام نظامك.
- المحفزات (Triggers): حدد بالضبط متى يجب أن يظهر جزء من الذاكرة.
الهدف هو تقليل تكلفة الاسترداد (recovery cost) إلى أدنى حد.
تكلفة الاسترداد هي عدد الرموز (tokens) أو الدقائق التي يستغرقها الوكيل للحاق بما توقف عنده. إذا كان مسار الذاكرة الخاص بك مجرد استعراض شكلي، فستظل تكلفة الاسترداد مرتفعة.
توقف عن بناء مساحات تخزين أكبر. ابدأ ببناء اختيار أفضل.
المصدر: https://dev.to/jugeni/salience-is-not-carry-value-notes-from-a-running-session-memory-pipeline-4dda
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi