صندوق باندورا لتوجيه الذكاء الاصطناعي
كشفت DeepMind عن "Pandora’s Router"، وهو إطار عمل يعامل عملية اختيار النموذج كمسألة "صندوق باندورا" تراعي التكلفة. ومن خلال فرض رسوم فقط مقابل المعلومات التي تحسن النتائج فعلياً، يعمل النظام على خفض نفقات الاستدلال مع الحفاظ على نتائج تضاهي عمليات البحث الشاملة.
لماذا لا يكون اختيار النموذج مجانياً
غالباً ما تفترض خطوط الإنتاج أن الخطوة التي تختار النموذج لا تكلف شيئاً. في الواقع، فإن تقدير مدى ملاءمة النموذج يستهلك قدرات الحوسبة والذاكرة، وأحياناً يتطلب استدعاءات لبيانات خارجية. التقدير السريع وغير الدقيق رخيص الثمن ولكنه قد يكون مضللاً؛ أما التقدير الدقيق فيعني عادةً تشغيل نموذج أصغر أو جلب سياق إضافي، مما يزيد من التكاليف الإجمالية.
تعيد ورقة DeepMind البحث صياغة هذه المعضلة. فكل نموذج مرشح يخفي "قيمة" ما - وهي أداؤه المتوقع على الاستعلام الوارد. يتيح الإطار للمتحكم دفع رسوم للاطلاع على تلك القيمة والتوقف عن الدفع بمجرد أن تصبح الرؤية الإضافية غير مبررة لتكلفتها.
مكونا الحل
Pandora’s Router – محرك مركزي يقرر، لكل طلب، ما إذا كان سيتم الدفع مقابل تقدير أكثر دقة لقيمة النموذج. ويقوم بتحديد "سعر احتياطي": وهو حد أدنى لا تتجاوز فيه المكاسب المتوقعة من التقدير الأفضل قيمة الرسوم المدفوعة. وعندما يتجاوز التحسن المتوقع هذا السعر الاحتياطي، يقوم المحرك بشراء تلك المعلومة؛ وإلا فإنه يستمر باستخدام أفضل تخمين لديه بالفعل.
Pandora’s Bidder – نظير لامركزي مخصص لأسواق النماذج. يقرر المزودون المستقلون ما إذا كانوا سينفقون قدرات حوسبية لتحسين تقديرهم الخاص للقيمة قبل تقديم العطاء. ويجبرهم سعرهم الاحتياطي الخاص على الإنفاق فقط عندما يكون من المرجح أن يفوز التقدير المنقح.
يشترك كلا الجزءين في المبدأ نفسه: الإنفاق على المعلومات فقط عندما تتجاوز العوائد المتوقعة تكلفتها.
النتائج عبر ثلاثة مجالات
اختبر المؤلفون النهج على ثلاثة أنواع من أعباء العمل:
- الاستدلال الرياضي – الاختيار من بين أدوات الحل ذات الدقة المتفاوتة.
- التوليد المعزز بالاسترجاع (RAG) – الاختيار بين استراتيجيات البحث المختلفة في قواعد المعرفة.
- نماذج التضمين واسعة النطاق – اختيار أفضل مشفر (encoder) لعملية البحث عن التشابه.
تفوق Pandora’s Router على قواعد التوجيه الثابتة والخوارزميات الجشعة (greedy heuristics) في كل حالة. وفي أصعب السيناريوهات، طابق جودة المسح الشامل (brute-force scan) لجميع النماذج مع تجنب معظم تكاليف الفحص. ويذكر المؤلفون أنه تم توفير "معظم تكاليف الفحص"، مما يشير إلى خفض هائل في نفقات الحوسبة.
ماذا يعني هذا لهندسة الذكاء الاصطناعي
- لا تتجاهل الأعباء الإضافية للتوجيه. فقرار تحديد النموذج الذي سيتم استخدامه يحمل تكلفة ملموسة.
- استخدم سعراً احتياطياً. حدد حداً فاصلاً واضحاً للحالات التي تستحق فيها الرؤية الإضافية دفع رسومها.
- اعتمد التوجيه المراعي للتكلفة. إن وجود طبقة قرار توازن بين المكاسب المتوقعة والمصاريف يحافظ على ضبط الميزانيات مع نمو كتالوجات النماذج.
وجهة نظر معارضة: التعقيد المضاف
إن إضافة طبقة للمزايدة أو التوجيه تفرض مقايضات. يجب على الفرق صيانة المنطق الذي يحسب الأسعار الاحتياطية، ومراقبة هياكل الرسوم، والتأكد من أن مسار الكود الإضافي لا يصبح عنق زجاجة. بالنسبة لعمليات النشر الصغيرة التي تضم عدداً قليلاً من النماذج، قد تكلف Pandora’s Router أكثر مما توفره. كما يفترض الإطار أن تكلفة التقدير الأفضل معروفة ومستقرة، وهو افتراض قد ينهار في ظل تقلب أسعار السحابة أو انقطاعات المثيلات الفورية (spot-instances).
الخلاصة
تعامل مع اختيار النموذج كقرار اقتصادي، وليس كخطوة توجيه مجانية. يوضح Pandora’s Router أن النهج المنضبط والمراعي للتكلفة يمكن أن يقلص الحوسبة غير الضرورية دون التضحية بجودة المخرجات، مما يحافظ على قابلية أنظمة الذكاء الاصطناعي للتوسع واستدامتها مالياً.