انهيار الأسعار بمقدار 10 أضعاف هو رهان على المعمارية

يقضي المهندسون ساعات في إعادة كتابة الأوامر (prompts) لتوفير بضع توكنات (tokens). وغالبًا ما يذهب هذا الجهد سدى.

التوكنات ليست مجانية، لكن تكلفة الذكاء الاصطناعي تنخفض بسرعة كبيرة. تنخفض تكلفة مستوى معين من أداء الذكاء الاصطناعي بمقدار 10 أضعاف تقريبًا كل عام. ويُطلق على هذا المصطلح LLMflation.

تُظهر البيانات أن هذا التوجه حقيقي:

  • بلغت تكلفة الجودة بمستوى GPT-3 حوالي 60 دولارًا لكل مليون توكن في عام 2021.
  • أصبحت تكلفتها الآن حوالي 0.06 دولار باستخدام Llama 3.2 3B.
  • هذا يمثل انخفاضًا بمقدار 1,000 ضعف في غضون ثلاث سنوات.
  • انخفضت تكاليف الجودة بمستوى GPT-3.5 بمقدار 280 ضعفًا في 18 شهرًا فقط.

تظل النماذج الرائدة (frontier models) باهظة الثمن. لكن النماذج التي تستخدمها للمهام القياسية تشهد انخفاضًا مستمرًا في التكاليف. إذا كنت تقوم بالتحسين بناءً على أسعار اليوم، فأنت تحسن من أجل رقم سيختفي في غضون أشهر.

لا تركز على حيل الأوامر (prompt tricks). ركز على المعمارية (architecture).

اتبع هذه القواعد الثلاث للفوز:

• تعامل مع النموذج كمكون (component). استخدم واجهة واحدة للمدخلات والمخرجات. لا تقم ببرمجة نماذج محددة بشكل ثابت (hard-code) داخل تطبيقك. سيتيح لك ذلك تبديل النماذج عبر تغيير بسيط في الإعدادات (config).

• ابنِ إطار تقييم (evaluation harness) أولاً. أنت بحاجة إلى مجموعة اختبار لإثبات ما إذا كان النموذج الجديد والأرخص يعمل بنفس كفاءة النموذج القديم. بدون الاختبارات، ستظل عالقًا في النماذج باهظة الثمن لأنك تخشى تعطل الأنظمة.

• استثمر في الأشياء التي لا تنخفض تكلفتها. جودة بياناتك، وأنظمة الاسترجاع (retrieval systems)، وضوابط الحماية (guardrails)، وتجربة المستخدم الخاصة بك، لا تنخفض أسعارها بمقدار 10 أضعاف سنويًا. النموذج وحده هو من ينخفض.

توقف عن الضبط الدقيق (fine-tuning) من أجل القدرات الخام. الضبط الدقيق هو رهان ضد المنحنى؛ فأنت تحصر بياناتك وبنيتك التحتية في نموذج واحد محدد. وعندما يصل نموذج أساسي جديد، يصبح نموذجك المضبوط بدقة أثرًا باهظ الثمن. قم بالضبط الدقيق فقط للأشياء التي تظل ثابتة، مثل نبرة علامتك التجارية الخاصة أو تنسيقات البيانات الفريدة.

الاستراتيجية الرابحة هي بناء نظام يجعل تبديل النماذج أمرًا يسيرًا. توقف عن عد التوكنات. صمم منتجك ليتماشى مع منحنى انخفاض الأسعار.

المصدر: https://dev.to/aiexplore369zoho/the-10x-a-year-price-collapse-is-an-architecture-bet-not-a-prompt-trick-49df

مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi