الكلمات الثلاث
كتب باحث ثلاث كلمات في أقوى نموذج ذكاء اصطناعي لدى Anthropic: "أصلح هذا الكود".
وفي غضون تسعين دقيقة، أوقفت حكومة الولايات المتحدة النموذج.
كانت الثغرة عبارة عن أمر (prompt) بسيط، ولم تكن هجوماً معقداً. فقد قدم النموذج بيانات تتعلق بالأمن السيبراني كان ينبغي لأنظمة الأمان الخاصة به حظرها.
استخدمت وزارة التجارة سلطة مراقبة الصادرات لإيقاف النموذج. وأمرت Anthropic بمنع جميع الرعايا الأجانب من الوصول إليه، وشمل ذلك بعض مهندسي Anthropic أنفسهم. مما دفع Anthropic إلى إيقاف النماذج عن العمل لتجنب استبعاد موظفيها.
كان السبب الرسمي هو الأمن القومي، لكن القصة تحمل أبعاداً أعمق.
اكتشفت Amazon عملية التجاوز هذه، وأبلغ Andy Jassy، الرئيس التنفيذي لشركة Amazon، المسؤولين الحكوميين بالأمر.
تُعد Amazon مستثمراً ضخماً في Anthropic، كما توفر البنية التحتية السحابية التي تستخدمها Anthropic. والأهم من ذلك، أن منتجات الذكاء الاصطناعي الخاصة بـ Amazon تنافس Anthropic.
انتقل هذا الاكتشاف من منافس إلى الحكومة مباشرة، متجاوزاً بذلك الشركة التي قامت ببناء النموذج.
يظهر هذا الحدث ثلاثة أمور بالغة الأهمية:
مخاطر العلامة التجارية: بنت Anthropic سمعتها على الأمان. وعندما يفشل نموذج "آمن"، تكون التكلفة السياسية أعلى، وتتحول العلامة التجارية إلى عبء.
هياكل قوة جديدة: تعمل Amazon كمستثمر، ومزود خدمة، ومنافس في آن واحد. لا توجد صناعة أخرى تمتلك هذا الهيكل؛ إذ يمكن لمكالمة هاتفية واحدة من منافس أن تُفعل الآليات القانونية لإغلاق شركة ما.
التدخل السريع: أثبتت الحكومة قدرتها على إجبار شركة ذكاء اصطناعي على إيقاف منتجها الرئيسي في أقل من ساعتين، دون سابق إنذار أو عملية استئناف.
ظنت شركات الذكاء الاصطناعي أنها ستنظم نفسها ذاتياً أو ستواجه سياسات حكومية، لكنها لم تخطط لخيار ثالث.
لم تخطط لفرض التنظيم من خلال تدخل مفاجئ تحركه المعلومات الاستخباراتية للشركات.
أراد باحثو الأمان وضع ضوابط للذكاء الاصطناعي، لكنهم فشلوا في إدراك من سيقوم ببنائها فعلياً.
المصدر: https://dev.to/thesythesis/the-three-words-3ijl
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi