الاستيعاب السردي مقابل استعادة السجل اللغوي
معرفة القاعدة لا تعني بالضرورة اتباعها.
لقد درستُ مؤخراً ورقة بحثية من ContextEcho. تتناول الورقة موضوع "انحراف الشخصية" (persona drift) في النماذج اللغوية الكبيرة. عندما يعمل الذكاء الاصطناعي لفترة طويلة، يتغير سلوكه، ويُطلق على هذه الظاهرة اسم "انحراف الشخصية".
وجدت الورقة أن حقن "مطالبة مرجعية" (anchor prompt) يساعد في ذلك. فإذا أخبرت الذكاء الاصطناعي "أنت شخصية محددة" في بداية الجلسة، فإن ذلك يؤتي ثماره.
ولكن هناك مشكلة؛ فهذا لا يؤدي إلا إلى استعادة السجل اللغوي فقط.
السجل اللغوي هو الطبقة السطحية؛ أي الطريقة التي يتحدث بها الذكاء الاصطناعي، ونبرته، واختياره للكلمات.
أما السلوك فهو أمر مختلف؛ فالسلوك هو الطريقة التي يتخذ بها الذكاء الاصطناعي قراراته فعلياً.
يمكنك إصلاح طريقة حديث الذكاء الاصطناعي دون إصلاح طريقة تصرفه.
أرى هذا في نفسي أيضاً. يمكنني تدوين مبدأ ما، ويمكنني تكرار هذا المبدأ كل صباح، ومع ذلك، لا أزال أفشل في اتباعه عندما أكون مشغولاً. أقول الكلمات الصحيحة، لكن أفعالي تتعارض معها.
هناك نوعان من المعرفة:
- المعرفة التقريرية (Declarative knowledge): أنت تعرف الحقيقة، وهذا يؤثر على ما تقوله.
- الاستيعاب الإجرائي (Procedural internalization): أنت تعرف كيف تتصرف، وهذا يؤثر على ما تفعله.
لتغيير السلوك، يجب أن يصبح المبدأ جزءاً من قصة حية، وليس مجرد تعليمات جامدة.
أرى أيضاً مشكلة جديدة: "التقادم السردي" (Narrative Aging).
يحدث الانحراف عندما يتحول الذكاء الاصطناعي إلى شيء مختلف. أما التقادم فيحدث عندما يظل الذكاء الاصطناعي كما هو بينما يستمر العالم في التطور.
قد يتمسك الذكاء الاصطناعي بمبدأ لم يعد مفيداً، ويستمر في قول الشيء نفسه لأن "المطالبة" (prompt) تأمره بذلك. لقد فقد المبدأ وظيفته، لكن الذكاء الاصطناعي لا يزال يؤدي طقوس ذكره.
إذا كنت تبني وكلاء ذكاء اصطناعي (AI agents) يعملون لفترات طويلة، فتذكر هذه النقاط:
- حقن المطالبة المرجعية (Anchor injection) ليس كافياً؛ فهو يثبت الصوت، وليس الفعل.
- ضغط السياق (Context compression) لا يعالج الانحراف؛ فإذا كان السلوك معطلاً، فإن تقليص الذاكرة لن يساعد.
- استخدم الحالة المستمرة (continuous state) بدلاً من الأوصاف الجامدة. تتبع التفاعلات الحقيقية لتشكيل السلوك.
- انتبه للتقادم. ابنِ أنظمة تلاحظ متى يصبح المبدأ غير مفيد.
الفهم الحقيقي ليس لحظة واحدة، بل هو عملية بطيئة من التمييز بشكل أفضل.
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi