عميل الذكاء الاصطناعي الخاص بك ليس معطلاً. الحقيقة في شركتك هي المعطلة.
كان لدى عميل الذكاء الاصطناعي مهمة واحدة: دفع فاتورة مورد معتمدة. أراد الفريق المالي التوقف عن القيام بذلك يدوياً.
في يوم الثلاثاء، استلم العميل فاتورة بقيمة 48,000 شلن كيني. حدد نظام الـ ERP الفاتورة على أنها معتمدة وغير مدفوعة. راجع العميل القواعد، وكانت كل الأمور مستوفاة، فقام بدفع الفاتورة.
المشكلة؟ لقد تم دفع الفاتورة بالفعل يوم الخميس الماضي بواسطة أحد الموظفين.
لم يكن أي نظام بمفرده مخطئاً، لكنها جميعاً كانت متضاربة:
• قال نظام الـ ERP إنها غير مدفوعة لأن المزامنة مع البنك قد فشلت. • أفاد تدفق بيانات البنك بأنها مدفوعة. • أشارت محادثة على Slack إلى تعليق جميع المدفوعات لهذا المورد. • أكدت رسالة بريد إلكتروني من المورد استلامهم للمبلغ.
كان كل نظام يمتلك جزءاً من اللغز، لكن لم يستطع أي نظام الإجابة على السؤال الوحيد المهم: هل تم دفع هذه الفاتورة تحديداً؟
كان الموظف البشري سيكتشف هذا الخطأ. ليس لأنه أذكى، بل لأنه يشعر بـ "الاحتكاك" (friction). فالبشر يتذكرون المهام أو يلاحظون رسائل Slack. يعمل البشر كالغراء الذي يربط الأنظمة الفوضوية ببعضها؛ فنحن من يقدم التقدير والحكم.
لا يمتلك عملاء الذكاء الاصطناعي غريزة. إنهم يقرؤون البيانات بسرعة الآلة؛ يرون "معتمدة" و"غير مدفوعة" فيقومون بالتنفيذ، دون أن يشعروا بأن هناك خطأ ما.
لم يفشل العميل، بل عمل تماماً كما صُمم. الفشل يكمن فيما أسميه "الانهيار المعرفي" (epistemic collapse).
تحاول معظم الشركات إصلاح العملاء عبر تحسين الأوامر (prompts) أو استخدام نماذج أفضل. هذا هو التصرف الخاطئ؛ فلا يمكنك عبر الأوامر الوصول إلى معلومات غير موجودة أصلاً في بياناتك.
المشكلة الحقيقية هي غياب البنية التحتية المعرفية (epistemic infrastructure).
البيانات هي ما تخزنه أنظمتك، أما الحقيقة فهي ما يحدث بالفعل. تمتلك معظم الشركات الكثير من البيانات، ولكنها تفتقر تماماً إلى الحقيقة.
تدمج الأنظمة الحالية ثلاثة أشياء مختلفة في حقل واحد:
- الملاحظة (Observation): ما يقول النظام إنه حدث.
- الحقيقة (Truth): ما هو صحيح بالفعل.
- التاريخ (History): ما كان صحيحاً في السابق.
عندما تقول قاعدة البيانات "الحالة: غير مدفوعة"، فإنها تمحو التاريخ والشك، وتقدم ملاحظة واحدة وكأنها حقيقة مطلقة.
يمثل عملاء الذكاء الاصطناعي اختباراً قاسياً لهذه المشكلة القديمة؛ فهم يزيلون العنصر البشري الذي كان يعالج هذه التناقضات بصمت كل يوم. وبدون البشر لسد الفجوات، ستتحول الشقوق في بياناتك إلى أخطاء مكلفة.
توقف عن محاولة بناء عملاء أفضل. ابدأ في بناء الطبقة التي تقع تحتهم. أنت بحاجة إلى نظام يتتبع الملاحظات، ويتعرف على حالات الاختلاف، ويحدد البيانات المتقادمة (stale data).
ما لم تبنِ طبقة من الحقيقة، ستستمر وكلاؤك في القيام بالأمر الخاطئ، وبدقة متناهية.
المصدر: https://dev.to/code_with_mwai/your-ai-agent-isnt-broken-your-companys-truth-is-2cl8
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi