المدير التقني لشركة Arcee يتحدى المخاوف بشأن نماذج الذكاء الاصطناعي الصينية مفتوحة الأوزان
مع اكتساب النماذج الصينية مفتوحة الأوزان، مثل Qwen من Alibaba و Kimi K3 من Moonshot AI، شعبية هائلة، نشأ نقاش حاد حول تداعياتها الأمنية. وبينما يخشى البعض من أن هذه النماذج قد تعمل كناقلات للهجمات السيبرانية، مما قد يؤدي إلى حظرها من قبل الحكومة الأمريكية، يدفع الخبراء ضد فكرة أنها خطيرة بطبيعتها.
تفنيد رواية "النية الخبيثة"
إن القلق الرئيسي الذي يشير إليه النقاد هو أن النماذج التي طورتها الصين قد تحتوي على "نوايا خفية" أو أبواب خلفية برمجها جهات سيئة. ومع ذلك، يرى لوكاس أتكينز، المدير التقني لمختبر الذكاء الاصطناعي Arcee الذي يتخذ من الولايات المتحدة مقراً له، أن هذا الفهم الخاطئ يسيء تمثيل كيفية عمل النماذج اللغوية الكبيرة (LLMs) بشكل أساسي.
وعلى عكس البرمجيات التقليدية، حيث يمكن للمطور برمجة أمر خبيث محدد بشكل صريح، فإن النماذج اللغوية الكبيرة هي نتاج عمليات تدريب. ويشير أتكينز إلى أنه بمجرد تنزيل نموذج مفتوح الأوزان وتشغيله في بيئة محلية خاصة، لن يكون لدى المطور الأصلي أي وسيلة للوصول إلى تلك النسخة أو التحكم فيها. ويوفر هذا الفصل بين أوزان النموذج والبنية التحتية للمستخدم طبقة أمنية حاسمة تفتقر إليها البرمجيات التقليدية.
الواقع التقني لأمن النماذج
بينما يستمر النقاش، يؤكد المجتمع التقني أن مخاطر سلوك الذكاء الاصطناعي "المتسلل" منخفضة للغاية. أحد المخاوف النظرية هو ما إذا كان من الممكن تدريب نموذج برمجي لحقن برامج ضارة في قواعد أكواد محددة. وبينما يعترف أتكينز بأن هذا ممكن نظرياً، فإنه يشير إلى أن ذلك سيتطلب "براعة هندسية استثنائية" غير عملية في الوقت الحالي.
علاوة على ذلك، فإن طبيعة النماذج اللغوية الكبيرة احتمالية وإبداعية، مما يجعل "العاصفة المثالية" المطلوبة لإطلاق استجابة خبيثة محددة أمراً مستبعداً للغاية. وبالنسبة للمؤسسات، تتم إدارة الأمن من خلال عدة طبقات قياسية:
- اختبار الأمن: تقوم المؤسسات الكبيرة بإخضاع النماذج الأساسية لعمليات فحص دقيقة.
- ما بعد التدريب: تقوم الشركات بضبط النماذج بدقة لمهام محددة، مما يسمح لها بمراجعة التحيز والسمية والهلوسة.
- الاستقلالية عن النموذج: أصبحت بنية الذكاء الاصطناعي الحديثة مستقلة عن النماذج بشكل متزايد، مما يعني أن المؤسسات يمكنها استبدال النماذج الصينية ببدائل أمريكية دون الحاجة إلى إعادة هندسة بنيتها التحتية بالكامل.
المنافسة من خلال الابتكار، لا التنظيم
تجد شركة Arcee، التي تبني نماذج مفتوحة لتزويد الشركات الأمريكية ببدائل محلية، نفسها في وضع فريد. وبينما قد يفيد حظر النماذج الصينية أعمالهم من الناحية النظرية، يرى أتكينز أن التركيز يجب أن ينتقل من المنع إلى تعزيز نظام بيئي محلي قوي.
ومن المثير للاهتمام أن صعود النماذج الصينية عالية الأداء يسرع في الواقع من وتيرة الابتكار في الغرب. تستخدم Arcee هذه النماذج مفتوحة الأوزان للتعلم من بنيتها وقدراتها، مما يدفع دورة من التحسين المستمر. ووفقاً لأتكينز، فإن الطريقة المثلى للمختبرات الأمريكية للمنافسة ليست من خلال السياسات، بل من خلال الأداء: "الطريقة للمنافسة مع النماذج الصينية هي إصدار نموذج أفضل".
خلاصات رئيسية
- الأمن من خلال العزل: بمجرد نشر النماذج مفتوحة الأوزان في مركز بيانات خاص، لن يكون لدى المطورين الأصليين أي آلية للوصول إلى البيئة المحلية أو التلاعب بها.
- المخاطر النظرية مقابل العملية: بينما يعد "التدريب الخفي" لحقن الأكواد الخبيثة ممكناً من الناحية النظرية، إلا أنه يظل إنجازاً معقداً للغاية وغير مرجح في بنيات النماذج اللغوية الكبيرة الحالية.
- الابتكار عبر المنافسة: بدلاً من السعي وراء الحظر، يمكن لقطاع الذكاء الاصطناعي الأمريكي الاستفادة من الضغط التنافسي والمعرفة المشتركة التي توفرها النماذج الصينية مفتوحة الأوزان عالية الأداء.