أطلقت Prism ML نموذج Bonsai 27B، وهو نسخة من النموذج اللغوي الكبير Qwen 3.6 التي يمكن تشغيلها على الهاتف المحمول. ومن خلال ضغط الحجم الأصلي البالغ 54 جيجابايت إلى أقل من 4 جيجابايت باستخدام التكميم بنظام 1-بت (1-bit quantization)، حققت الشركة تقليصاً في الحجم بمقدار 14 ضعفاً، مما يتيح للمستخدمين تشغيل النموذج محلياً دون الحاجة إلى استدعاءات واجهة برمجة التطبيقات (API) السحابية.

لماذا يهم الضغط

عادةً ما تحتاج النماذج اللغوية الكبيرة (LLMs) إلى وحدة معالجة رسومات (GPU) من فئة الأجهزة المكتبية أو واجهة برمجة تطبيقات مدفوعة لأن أوزانها تشغل عشرات الجيجابايتات. ويؤدي التكميم (Quantization) — وهو استخدام عدد بتات أقل لكل وزن — إلى تقليص حجم النموذج، ولكنه قد يؤدي أيضاً إلى تجريده من المعرفة. يقدم Bonsai خيارين متطرفين: نسخة ثلاثية (ternary variant) (ثلاث قيم محتملة للأوزان، 7.2 جيجابايت) ونسخة 1-بت هجومية (3.9 جيجابايت). وتعد المقايضة بين الحجم والقدرة هي المحرك لهذا الاختبار.

أداء النماذج في استرجاع الحقائق

أجاب نموذج Qwen 3.6 الأصلي على كل سؤال يتعلق بالتواريخ التاريخية بشكل صحيح في مجموعة اختبارات المختبر. أما نسخة Bonsai الثلاثية فقد أخطأت في خمسة من أصل ستة أسئلة، وفشلت نسخة 1-بت في كل استعلام عن التاريخ. وكما هو متوقع، فإن الضغط الهجومي يتخلص من الحقائق النادرة والمحددة أولاً، محافظاً فقط على الأنماط اللغوية الواسعة التي تمنح الطلاقة.

أداء البرمجة يروي قصة مختلفة

عندما تحولت الأوامر إلى مهام برمجية، انقلبت النتائج. حلت النماذج الثلاثة جميع أخطاء التزامن (concurrency bugs) الكلاسيكية دون خطأ. وفي تحدٍ صعب يتعلق بالرسوم المتحركة باستخدام React، أنهى نموذج Bonsai بنظام 1-بت المهمة في محاولتين، بينما احتاج النموذج الأصلي إلى أربع محاولات لأنه استغرق وقتاً إضافياً في تحليل الكود (parsing). أما النسخة الثلاثية فقد تطلبت عشر محاولات وتسببت في النهاية في تعطل خادم الاختبار.

عقبات عملية

لا يعمل Bonsai على بيئة تشغيل Ollama الشهيرة. يحتاج نموذج 1-بت إلى طبقة تنفيذ مخصصة توفرها Prism ML، لذا يجب على المستخدمين تثبيت برمجيات غير قياسية لتشغيله. وتحد هذه التبعية من جاذبية النموذج إلا لأولئك الذين لديهم خبرة في تعديل بيئاتهم البرمجية.

من يجب أن يفكر في Bonsai، ومن يجب أن يبتعد عنه

  • الدردشة للأغراض العامة – يؤدي الفقدان الحاد في التفاصيل الواقعية إلى جعل Bonsai غير مناسب كمساعد لقاعدة معرفية. للحصول على إجابات دقيقة في التاريخ أو العلوم أو الأحداث الجارية، التزم بالنموذج الأصلي أو واجهة برمجة تطبيقات سحابية.
  • مساعد برمجة محلي – سيجد المطورون الذين يرغبون في أداة تعمل دون اتصال بالإنترنت ويمكنها اقتراح الكود واكتشاف الأخطاء والعمل على هاتف أو كمبيوتر محمول ضعيف الإمكانيات، أن نسخة 1-بت توفر السرعة وتكلفة تخزين منخفضة. إنه ليس وكيلاً مستقلاً، ولكنه يتعامل مع المنطق والقواعد النحوية (syntax) بكفاءة.

الخلاصة

يظهر Bonsai 27B أنه يمكنك ضغط نموذج لغوي كبير بحجم 54 جيجابايت إلى 3.9 جيجابايت فقط ليكون مناسباً للهواتف، ومع ذلك لا تزال تحصل على اقتراحات برمجية سريعة وكفؤة بشكل مدهش. الثمن هو تآكل شبه كامل في استرجاع الحقائق المحددة، لذا ينتمي هذا النموذج إلى حقيبة أدوات المطورين الذين يقدرون السرعة دون اتصال بالإنترنت أكثر من المعرفة الموسوعية.