تصميم "الإنسان في الحلقة" (Human-in-the-loop) لوكلاء البريد الإلكتروني

يصل طلب استرداد أموال إلى قائمة انتظار الدعم الخاصة بك. يجد وكيل الذكاء الاصطناعي الخاص بك تطابقاً في قاعدة المعرفة بنسبة ثقة 91%. ومع ذلك، لا ينبغي للوكيل إرسال هذا الرد.

ترى معظم الفرق أن الإشراف البشري هو خيار بسيط: إما أن يرسل الذكاء الاصطناعي رسائل البريد الإلكتروني بمفرده أو يقوم إنسان بمراجعة كل شيء. وكلتا الطريقتين تفشلان.

تؤدي الأتمتة الكاملة إلى ردود سيئة تضر بعلامتك التجارية. أما المراجعة البشرية الكاملة فتجعل من الذكاء الاصطناعي مجرد مولد مسودات مكلف لا يوفر أي وقت.

استخدم "مؤشراً" (dial) بدلاً من "مفتاح تشغيل/إيقاف" (switch). حدد مستوى الأتمتة بناءً على نوع الرسالة.

البوابة 1: تطابق المعرفة

تنظر هذه البوابة في مدى تأكد الذكاء الاصطناعي من الإجابة.

• ثقة 85% أو أعلى: صياغة الرد مباشرة من المقال. • ثقة من 60% إلى 85%: صياغة الرد مع تضمين رابط المصدر ليتمكن الإنسان من التحقق منه بسرعة. • ثقة أقل من 60%: عدم صياغة الرد. وضع علامة عليه للمراجعة اليدوية.

البوابة 2: مستوى المخاطر

تنظر هذه البوابة في عواقب الخطأ، وتتجاهل درجات الثقة.

• مخاطر منخفضة (إعادة تعيين كلمة المرور، الأسئلة الشائعة): صياغة الرد للحصول على موافقة بشرية. • مخاطر متوسطة (استرداد الأموال، تغييرات الفواتير): صياغة الرد مع اشتراط تدقيق بشري إضافي. • مخاطر عالية (تهديدات قانونية، احتيال): عدم صياغة الرد. تصعيد الأمر إلى شخص فوراً.

هذا هو السبب في عدم إرسال رد استرداد الأموال رغم وصول نسبة الثقة إلى 91%. تخبرك "الثقة" ما إذا كان الذكاء الاصطناعي يعرف الإجابة، بينما تخبرك "المخاطر" بما سيحدث إذا أخطأ الذكاء الاصطناعي. يجب عليك الفصل بين هذين المفهومين.

القاعدة بسيطة: اعرض المسودة دائماً قبل الإرسال. لا تستخدم الإرسال التلقائي أبداً.

الإشراف البشري ليس ضريبة، بل هو الطريقة التي تجمع بها البيانات اللازمة لأتمتة المزيد لاحقاً. وللانتقال من مرحلة "الصياغة والموافقة" إلى "الأتمتة الكاملة"، استخدم السجلات (logs) لإثبات دقة عملك. لا تعتمد على المشاعر.

قم بتصنيف أنواع الرسائل لديك إلى مستويات المخاطر الثلاثة هذه خلال هذا الأسبوع. حدد المواضع التي تبالغ فيها في المراجعة، والمواضع التي تتخذ فيها مخاطر كبيرة.

Source: https://dev.to/qasim157/human-in-the-loop-design-for-email-agents-3fhc

Optional learning community: https://t.me/GyaanSetuAi