الوكيل يمكنه القيادة، لكن لا يزال عليك معرفة الطريق.
يرغب الكثير من الناس في تفويض كل شيء لوكلاء الذكاء الاصطناعي. يعطون الوكيل هدفاً ثم يبتعدون، فهم يريدون تفويضاً كاملاً.
هذا فخ.
سيعمل الوكيل معظم الوقت، لكن المشكلة تظهر عندما يفشل؛ عندما تتعطل عملية البناء (build) أو يتغير السلوك، أو عندما يبدأ النموذج في الدوران في حلقات مفرغة.
إذا لم تكن تفهم ما بناه الوكيل، فلن تتمكن من إصلاحه. ستجد نفسك عالقاً تنظر إلى كود لا تتعرف عليه، ولن تملك خريطة للعثور على الخطأ.
فكر في وكيل الذكاء الاصطناعي كمطور مبتدئ (junior developer). المطور المبتدئ يصطدم بالعقبات ويطلب منك المساعدة، وأنت تمثل شبكة الأمان له.
عندما يفشل الوكيل، فأنت شبكة الأمان. لا يوجد أحد غيرك. وإذا كنت أنت أيضاً عالقاً، سيتوقف كل شيء. لا يمكنك إصلاح نظام إذا كنت تائهاً تماماً مثل الوكيل.
توقف عن السؤال عن مقدار ما يمكنك تفويضه، وابدأ في السؤال عما يجب أن تظل فاهماً له.
لست بحاجة إلى حفظ كل سطر من الكود، فهذا ينافي الغرض من استخدام الوكلاء. بدلاً من ذلك، يجب عليك فهم الأجزاء الجوهرية التي يعتمد عليها النظام:
• كيفية انتقال البيانات عبر نظامك. • أين تُخزن حالة النظام (system state). • المسار الحرج لتطبيقك. • النقاط التي تتصل فيها الأجزاء المختلفة.
استخدم هذا الاختبار لترى ما إذا كنت مستعداً:
هل يمكنك تتبع طلب واحد من البداية إلى النهاية؟ هل يمكنك شرحه بصوت عالٍ؟ وعند حدوث خطأ، هل يمكنك تخمين مكانه؟
إذا استطعت تخمين موقع الخطأ، فأنت تسيطر على الأمور. أما إذا كنت تكتفي بنسخ الخطأ وإعادته إلى الذكاء الاصطناعي وتأمل في إصلاحه، فأنت لا تملك النظام، بل أنت تستأجره فقط.
دع الوكيل يتولى المهام المتكررة، واستغل تلك السرعة للتركيز على البنية التحتية (architecture). حافظ على إلمامك بالهيكل الأساسي للنظام.
يمكنك تفويض عملية الكتابة، لكن لا يمكنك تفويض كونك خط الدفاع الأخير.
المصدر: https://dev.to/jaikora/the-agent-can-drive-you-still-need-to-know-the-route-274
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi