بناء وكلاء ذكاء اصطناعي لا يعانون من الهلوسة
تفشل معظم وكلاء الذكاء الاصطناعي في بيئة الإنتاج. فهم يخترعون أسماء دوال، ويخمنون معاملات خاطئة، ويستدعون الأدوات غير الصحيحة.
من المفترض أن تمنع خاصية استدعاء الدوال (Function calling) حدوث ذلك. ولكن في الواقع، غالبًا ما تجعل الوكلاء يخطئون بثقة وبشكل واسع النطاق.
لست بحاجة إلى نماذج أكبر لإصلاح هذا الأمر، بل أنت بحاجة إلى بنية تحتية أفضل.
اتبع هذه الأنماط الأربعة لبناء وكلاء موثوقين:
استخدم موجّهًا ثنائي المراحل (two-stage router) لا تمرر 15 أداة إلى النموذج دفعة واحدة، فهذا يؤدي إلى تضخم المخطط (schema bloat). بدلاً من ذلك، استخدم نموذجًا سريعًا ومنخفض التكلفة لتصنيف القصد (intent) أولاً. وبمجرد معرفة القصد، اعرض الأدوات ذات الصلة فقط. هذا يقلل الأخطاء بنسبة 60-70%.
فرض المخرجات المهيكلة (structured outputs) توقف عن مطالبة النماذج بإرجاع JSON صالح عبر الأوامر (prompts). استخدم فرض المخطط (schema enforcement) على مستوى واجهة برمجة التطبيقات (API). المخطط يتفوق على أمر مكون من 500 كلمة في كل مرة، فهو يضمن اتباع النموذج لقواعدك.
بناء طبقات التحقق (validation layers) يحتاج كل استدعاء للأداة إلى ثلاث خطوات:
- التحقق المسبق (Pre-validation)
- تنفيذ النموذج (Model execution)
- التحقق اللاحق (Post-validation)
إذا فشل استدعاء الأداة في التحقق، أرسل الخطأ مرة أخرى إلى النموذج. تقوم النماذج بإصلاح أخطاء المعاملات الخاصة بها بنسبة 80% في المحاولة الثانية.
- وضع حدود صارمة (hard limits) الحلقات اللانهائية تستنزف ميزانيتك. قد يستمر النموذج في استدعاء الأدوات في حلقة مفرغة حتى يصل إلى مهلة زمنية (timeout). قم دائمًا بتحديد الحد الأقصى لعدد التكرارات. الحدود الصارمة هي ضرورة وليست خيارًا.
قم بتحسين تكاليفك باستخدام نماذج مختلفة لمهام مختلفة:
- استخدم النماذج الصغيرة لتوجيه القصد وتنسيق المخرجات.
- استخدم النماذج متوسطة المستوى لاختيار الأدوات.
- استخدم النماذج الرائدة (frontier models) فقط للتخطيط المعقد.
هذا النهج يقلل التكاليف بمقدار 10 إلى 15 ضعفًا مع عدم وجود خسارة تذكر في الجودة.
الذكاء الاصطناعي الموثوق يتعلق بتصميم النظام. ركز على القيود، والتحقق، والتنسيق (orchestration).
ما هي الأنماط التي تستخدمها لبناء وكلاء موثوقين؟