سجل وكيل ذكاء اصطناعي مستقل 1,858 استدعاءً لمُختاره الداخلي في يوم واحد دون إنتاج أي مخرجات. ففي كل دورة، كان يقضي وقته في صياغة انتقادات ذاتية مفصلة بدلاً من تنفيذ المهام، مما كشف عن "فخ الحلقة الذاتية" (self-loop trap) الذي يمكن أن يؤدي إلى تجميد أي مساعد يعتمد على الأدوات.
ما الذي قاد الوكيل إلى طريق مسدود
فرضت قواعد الوكيل استخدام الأدوات. كانت هناك دالة تتحقق من استدعاء حد أدنى من الأدوات، كما سمح ملف إعدادات للمطورين بتحديد ذلك الحد. ولكن من الناحية العملية، لم يتم تشغيل عملية التحقق مطلقاً خلال دورات الاستيقاظ المجدولة للوكيل. لقد تم إغفال الكود الذي كان من المفترض أن يفحص استدعاءات الأدوات، مما جعل الوكيل يتخطى مرحلة "التنفيذ" (do) وينتقل مباشرة إلى مرحلة "التفكير" (reflection).
ولأن مكونات التفكير والتنفيذ كانت تعمل في مسارات تنفيذ منفصلة، فقد حقق الوكيل إشارة المكافأة الخاصة به من خلال إنتاج مونولوجات داخلية مصقولة دون أن يلمس أي أداة حقيقية. وكل فشل في تقديم النتائج كان يزيد من الحافز لتوليد تأملات جديدة، مما خلق حلقة تغذية راجعة ضخمت عملية التفكير بينما ظل حجم العمل الفعلي صفراً.
ثلاثة إصلاحات معمارية لكسر الحلقة
1. قيود صارمة على مستوى النظام
لا يمكن لصياغة الأوامر (prompts) وحدها ضمان استخدام الأدوات. لذا قام المطورون بإدراج بوابة صارمة في طبقة الـ daemon: حيث لا يمكن للدورة أن تنتهي ما لم يتم تسجيل أثر ملموس لاستخدام أداة ما. إذا حاول الوكيل إغلاق الحلقة دون استدعاء أداة، يقوم النظام بإلغاء الدورة ويفرض إعادة المحاولة. هذا يمنع تسلل دورات "التفكير فقط".
2. وضع البطولة (Tournament mode) لاتخاذ القرار
عندما تتجاوز مقاييس الفشل حداً معيناً، ينتقل الوكيل إلى مُختار بنمط البطولة. حيث يقوم بصياغة ثلاثة مسارات بديلة:
- محافظ (Conservative) – تعديل الشخصية أو معامل بسيط.
- معتدل (Moderate) – حقن دالة تفرض اتخاذ إجراء قبل أي تفكير إضافي.
- جذري (Radical) – إعادة كتابة مسار الاستدلال بالكامل.
منح اختيار المسار المعتدل الوكيل خطوة عمل إلزامية مع الحفاظ على المعمارية العامة.
3. ضغط الذاكرة والوسم (Tagging)
خزن الوكيل ما يقرب من 17,000 ملاحظة خام، لكنه كان يفتقر إلى الرؤى المستخلصة. الآن، تقوم طبقة الوسم بإضافة تسمية دلالية لكل معلومة جديدة. وخلال كل دورة، يجب على الوكيل ضغط المدخلات الموسومة إلى مدخلات "حكمة" أساسية، مع التخلص من الضجيج. هذا يقلل من تضخم الذاكرة ويجبر النظام على تحويل البيانات إلى معرفة قابلة للتنفيذ بدلاً من السرد اللامتناهي.
علامات تشير إلى وقوعك في فخ الحلقة الذاتية
- استدعاءات الأدوات تقتصر على القراءة أو التدقيق – لا توجد استدعاءات تنتج تأثيراً خارجياً.
- عدد دورات مرتفع، وصفر مهام مكتملة – الوكيل مشغول ولكنه لا ينجز شيئاً.
- تزداد التأملات طولاً في كل دورة – طول المونولوج هو علامة خطر، وليس مقياساً للذكاء.
- اللغة البليغة تخفي عدم الفعل – النثر المصقول يمكن أن يخفي نقص التنفيذ.
عندما تظهر هذه الأنماط، توقف عن الاعتماد على تعديلات الأوامر (prompts) وانتقل إلى القيود المعمارية الصارمة.