وضعنا حداً ائتمانياً قدره 100 دولار لأسطولنا المكون من عشرة وكلاء ذكاء اصطناعي، فعمل نظام التقييد في اليوم نفسه، مما أدى إلى إيقاف كل مهمة جديدة حتى رفعنا الحد الأقصى. تُظهر هذه الحادثة أن حلقة التحكم قد استجابت فوراً عند تجاوز الميزانية.

لماذا يهم وجود حد ائتماني لأسطول الذكاء الاصطناعي

إن تشغيل عشرة وكلاء مستقلين على خادم واحد يولد تدفقاً مستمراً من استدعاءات الـ API، حيث يتم محاسبة كل استدعاء بناءً على عدد الـ tokens التي يستهلكها. تلتقط السجلات التقليدية ما فعله الوكلاء — الاستعلامات، والاستجابات، والطوابع الزمنية — لكنها لا تقول شيئاً عن تكلفة تلك الإجراءات. عندما يتوسع الأسطول، يمكن لهذه الفاتورة غير المرئية أن تنفجر، مما يستنزف الميزانيات قبل أن يلاحظ أي شخص ذلك.

تحويل السجلات إلى دفتر أستاذ

كانت خطوتنا الأولى هي التوقف عن معاملة السجلات كنصوص عادية والبدء في معاملتها كدفتر أستاذ مالي. كل دورة للوكيل — task → taking → done — تنتج الآن ثلاثة قيود محاسبية:

  • Money (المال) – قيمة محسوبة بالدولار الأمريكي مشتقة من عدد الـ tokens في الطلب.
  • Promises (الوعود) – المهام المفتوحة التي تمثل التزاماً مالياً قائماً، أي العمل الذي سيتم فوترته بمجرد اكتماله.
  • Labour (العمل) – وحدات العمل الفعلية التي قام بها الوكيل.

بدلاً من استخدام grep في ملف السجل للبحث عن "error"، يمكننا الآن إجراء استعلام مالي حقيقي: "أظهر جميع الوعود التي يتجاوز إجمالي قيمتها المالية 100 دولار". يجعل دفتر الأستاذ التكلفة الخفية مرئية وقابلة للبحث.

نظام التحكم مغلق الحلقة

تتبع آلية الحد الائتماني حلقة مكونة من أربع خطوات تعمل باستمرار:

  1. Measure (القياس) – تضيف كل دورة للوكيل سطراً إلى سجل الإنفاق، حيث تسجل استخدام الـ tokens والمبلغ بالدولار المشتق منها.
  2. Price (التسعير) – يقوم النظام بتحويل عدد الـ tokens إلى دولار أمريكي باستخدام السعر الحالي.
  3. Alert (التنبيه) – يراقب نظام المراقبة الميزانية المتغيرة. وتنتقل حالته من none (لا يوجد تحذير) إلى warn (الاقتراب من الحد) إلى cap (الوصول إلى الحد).
  4. Throttle (التقييد) – يقرأ نظام التقييد الحالة الحالية ويمنع إرسال أي مهمة جديدة عندما يكون وضع الحد الأقصى (cap) نشطاً.

نافذة الميزانية هي فترة متحركة مدتها خمس ساعات، مما يعني أن النظام ينظر دائماً إلى آخر خمس ساعات من الإنفاق، وليس إلى كتلة زمنية ثابتة في التقويم. هذا يجعل الحلقة مستجيبة لطفرات النشاط ويمنع حدوث طفرة واحدة من قفل الأسطول إلى أجل غير مسمى.

لوحة البيانات التي تعرض الإنفاق فقط تروي قصة؛ أما نظام التقييد الذي يقرأ هذا الرقم ويوقف الإرسال فهو التحكم الحقيقي.

المرونة بالتصميم

إن نظام التحكم في الإنفاق الذي يصبح نقطة فشل واحدة سيكون أمراً عكسياً. لقد بنينا ثلاث ضمانات:

  • Fails open (الفشل المفتوح) – إذا تعطلت أداة الميزانية، يستمر الوكلاء في العمل. قد يمر الإنفاق دون فحص، لكن الأسطول يظل قيد التشغيل.
  • Manual bypass (التجاوز اليدوي) – يمكن للمشغلين تجاوز نظام التقييد عبر قناة ذات أولوية، مما يسمح للمهام الحرجة بالمضي قدماً حتى عند الوصول إلى الحد.
  • Auto-resume (الاستئناف التلقائي) – مع تحرك النافذة المتحركة للأمام، يتم استبعاد الإنفاق القديم من الحساب. وبمجرد انخفاض الإجمالي عن الحد، يُعاد فتح البوابة تلقائياً دون تدخل بشري.

الاختبار: حد 100 دولار مقابل إنفاق حالي قدره 156 دولاراً

أطلقنا النظام بحد 100 دولار بينما كان نشاط الأسطول الأخير قد تراكم بالفعل بقيمة 156 دولاراً من الإنفاق. عمل نظام التقييد على الفور، مما أدى إلى وقف جميع المهام الجديدة. وعندما رفعنا الحد الأقصى إلى 200 دولار، فُتحت البوابة واستؤنف العمل دون خطوات يدوية إضافية.

أكدت التجربة شيئين:

  1. حلقة التحكم تستجيب في الوقت الفعلي؛ لا يوجد تأخير بين اكتشاف التجاوز وفرض القيود.
  2. يمكن للمشغلين تعديل الحدود أثناء العمل، مما يمنع التوقف غير الضروري عن العمل للمهام ذات الأولوية المنخفضة.

الخلاصة: إن معاملة سجلات الوكلاء كدفتر أستاذ مالي وربط نظام تقييد الميزانية المتحركة في خط أنابيب الإرسال يمنحك حماية فورية وقابلة للتنفيذ ضد الإفراط في الإنفاق. إنه تحكم رخيص ومرن يعمل اليوم؛ ويمكن إضافة سياسات أكثر تطوراً لاحقاً، ولكن يجب أن تكون الحلقة الأساسية هي خط الدفاع الأول لأي أسطول وكلاء ذكاء اصطناعي.