ما مدى الاستقلالية التي يجب أن يتمتع بها وكيل الذكاء الاصطناعي الخاص بك؟
يتحدث الناس عن الذكاء الاصطناعي الوكيل (Agentic AI) كسباق نحو مزيد من الاستقلالية.
يريدون المزيد من الأدوات. المزيد من التفكير المنطقي. المزيد من الاستقلالية.
مهندسو البرمجيات لا يعملون بهذه الطريقة. نحن لا نبني الخدمات المصغرة (microservices) لمجرد أنها شائعة. نحن نبني أنظمة توازن بين القدرة والتعقيد.
تتطلب وكلاء الذكاء الاصطناعي النهج نفسه.
السؤال ليس عن مدى الاستقلالية التي يمكن أن يتمتع بها الوكيل، بل السؤال هو ما مدى الاستقلالية التي يجب أن يتمتع بها.
الاستقلالية هي قرار تصميمي. في كل مرة يتخذ فيها الوكيل قراراً، فإنك تزيد من مسؤوليته.
تساعد الاستقلالية العالية الوكيل على التكيف مع المواقف الجديدة، وتساعده على الوصول إلى الأهداف دون توجيه مستمر.
لكن الاستقلالية العالية تجعل من الصعب التنبؤ بالوكيل وتصحيح أخطائه، كما تجعل من الصعب الوثوق به.
الاستقلالية هي طيف.
- استقلالية منخفضة: الأنظمة التي تولد النصوص فقط.
- استقلالية متوسطة: الأنظمة التي تقترح الإجراءات وتستخدم الأدوات.
- استقلالية عالية: الأنظمة التي تقرر كيفية الوصول إلى هدف ما بمساعدة بشرية قليلة.
كل خطوة تزيد من القدرة والتعقيد. يجب أن تتوقف عند المستوى الذي تتطلبه مشكلتك.
لنأخذ مساعد الموارد البشرية (HR) كمثال. هو يجيب على الأسئلة المتعلقة بالسياسات. منحُه صلاحية تعديل سجلات الموظفين يضيف مخاطر دون إضافة قيمة تذكر.
الآن لننظر في وكيل العمليات. هو يحقق في حوادث الإنتاج، ويجب عليه فحص السجلات (logs) والبحث في الوثائق. يحتاج إلى تكييف بحثه بناءً على ما يجده. سير العمل الثابت يفشل هنا، بينما الاستقلالية الأكبر تحسن هذا الحل.
المشكلة هي التي تملي مستوى الاستقلالية.
غالباً ما تكون أنظمة الإنتاج الناجحة مقيدة عن عمد. يُطلق على هذا "الاستقلالية المقيدة" (bounded autonomy). أنت تضع حدوداً للحفاظ على موثوقية النظام.
أمثلة على القيود:
- تقييد الوصول إلى الأدوات
- تحديد نطاق المهام
- اشتراط الموافقة البشرية للإجراءات الكبيرة
- وضع حدود للإنفاق
- تحديد متى يجب التصعيد إلى إنسان
هذه القيود تجعل وكيلك أكثر قابلية للتنبؤ.
قبل منح المزيد من الاستقلالية، اطرح هذه الأسئلة:
- هل يمكن لسير عمل ثابت حل هذا؟
- هل تعتمد الخطوة التالية على معلومات غير معروفة؟
- ماذا يحدث إذا فشل الوكيل؟
- هل يمكنك فصل الإجراءات الخطرة عن التفكير منخفض المخاطر؟
أفضل المهندسين لا يسعون لتعظيم الاستقلالية، بل يقررون بدقة أين تبدأ وأين تنتهي.
البنية البرمجية الجيدة تتعلق بفعل ما هو ضروري فقط، ولا شيء أكثر من ذلك.
المصدر: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n