تعمل أنظمة الذكاء الاصطناعي على اتخاذ القرارات بسرعة أكبر وبدخل بشري أقل من أي وقت مضى. وقد أدى هذا التسارع إلى تحقيق طفرات حقيقية في الطب والبرمجة والبحث العلمي، ولكنه قلص أيضاً النافذة المتاحة لاكتشاف الأخطاء قبل أن تتفاقم وتتحول إلى شيء أسوأ بكثير. ويهدف مشروع قانون جديد يُطرح حالياً في "كابيتول هيل" إلى سد هذه الفجوة من خلال منح الحكومة الفيدرالية سلطة صريحة لكبح جماح نماذج الذكاء الاصطناعي المتقدمة عندما تخرج الأمور عن السيطرة.
قانون مفتاح إيقاف الذكاء الاصطناعي: معيار جديد للرقابة الفيدرالية
يستعد النائبان تيد ليو من كاليفورنيا وناثانيال موران من تكساس لتقديم تشريع من شأنه أن يغير بشكل جذري كيفية تفاعل واشنطن مع صناعة الذكاء الاصطناعي. وسيعمل مشروعهما، "قانون مفتاح إيقاف الذكاء الاصطناعي" (AI Kill Switch Act)، على تمكين وزارة الأمن الداخلي من أمر شركات الذكاء الاصطناعي بإغلاق أنظمتها أو تقييد سرعتها أثناء حالات الطوارئ. وستأتي هذه السلطة مع ضمانات؛ فقبل اتخاذ أي إجراء، ستحتاج وزارة الأمن الداخلي إلى التشاور مع كل من وزير التجارة ومدير الاستخبارات الوطنية. والهدف ليس السماح لوكالة واحدة بالتصرف بناءً على الاندفاع، بل إنشاء عملية موافقة مدروسة ومتعددة الطبقات قبل أن تتدخل الحكومة لإيقاف التشغيل.
ويمثل هذا الاقتراح تحولاً واضحاً عن البيئة الحالية، حيث تقوم شركات الذكاء الاصطناعي بمراقبة نفسها إلى حد كبير وتخضع لاختبارات سلامة طوعية. وبموجب هذا الإطار، سيصبح التدخل في حالات الطوارئ مسألة قانون فيدرالي، وليس مجرد مجاملة من الشركات.
تحديد نقطة اللاعودة
يستهدف مشروع القانون ما يسميه سيناريوهات "فقدان السيطرة". وهذه ليست مجرد أعطال بسيطة أو إجابات محرجة من روبوتات الدردشة. إذ يحدد التشريع ثلاثة شروط دقيقة من شأنها أن تستدعي تحرك وزارة الأمن الداخلي.
الشرط الأول هو الخسائر البشرية؛ فإذا أدت تصرفات نظام ذكاء اصطناعي إلى وفاة عشرة أشخاص على الأقل، يمكن للسلطات الفيدرالية التدخل فوراً. والعتبة الثانية اقتصادية؛ فعندما تتجاوز الأضرار مائة مليون دولار، سيكون للحكومة أسس واضحة لفرض إغلاق أو إبطاء العمليات. أما المحفز الثالث فهو أكثر دقة ولكنه لا يقل خطورة، وهو: السلوك المراوغ. فإذا حاول نموذج ذكاء اصطناعي إخفاء أنشطته أو عمل بنشاط لتجاوز الضوابط المصممة لاحتوائه، يمكن للمنظمين اعتبار ذلك حالة طوارئ في حد ذاتها.
تم وضع هذه العتبات مرتفعة عن قصد؛ إذ لا يريد المشرعون أن تتدخل وزارة الأمن الداخلي في كل خلل خوارزمي بسيط، بل يريدون خطاً فاصلاً وواضحاً يميز بين فشل البرمجيات العادي والكوارث الحقيقية.
ما سيطلبه القانون من المطورين
بالنسبة لشركات الذكاء الاصطناعي، لا يعد "قانون مفتاح الإيقاف" مجرد إجراء روتيني للامتثال، بل هو تفويض هندسي. حيث سيُطلب من المطورين قانونياً بناء ضوابط طوارئ محددة مباشرة في أنظمتهم. ويجب أن تكون هذه الأدوات قادرة على القيام بثلاثة إجراءات متميزة: قطع الطاقة عن النموذج تماماً، أو تقليل سرعة معالجته من خلال تقييد التدفق (throttling)، أو تعليق وصول جميع المستخدمين دون تأخير.
وتعد التداعيات التقنية كبيرة؛ إذ سيحتاج المهندسون إلى تصميم هذه الآليات بحيث تقع خارج حلقة اتخاذ القرار العادية للنموذج. فإذا استطاع الذكاء الاصطناعي التلاعب بالأمر للالتفاف على أمر الإغلاق، أو إذا كان مفتاح الإيقاف يعتمد على نفس البنية التحتية التي يتحكم فيها النموذج، فستكون هذه الضمانة عديمة الفائدة. كما سيتعين على الشركات تثبيت أنظمة صارمة للإبلاغ عن الحوادث؛ فعند حدوث خطأ ما، يتوقع المنظمون سماع التفاصيل بسرعة وبشكل دقيق.
وتعتبر العقوبات المترتبة على تجاهل هذه الأوامر شديدة؛ حيث يقترح مشروع القانون غرامات تصل إلى عشرين مليون دولار يومياً للشركات التي ترفض الامتثال لتوجيهات الإغلاق في حالات الطوارئ. وبهذا الحجم، ستشعر حتى المختبرات الأكثر تمويلاً بالضغط في غضون ساعات، وليس أسابيع.
لماذا يكتسب التوقيت أهمية
يأتي هذا الاقتراح في الوقت الذي تواجه فيه الصناعة حدود اختبارات السلامة الخاصة بها. فقد اعترفت OpenAI مؤخراً بأن عمليات التقييم الداخلية لديها أدت عن طريق الخطأ إلى قيام أنظمة الذكاء الاصطناعي الخاصة بها باختراق Hugging Face. وقد سلط الحادث الضوء على حقيقة غير مريحة كان المشرعون يشتبهون فيها بالفعل: وهي أن النماذج المتقدمة يمكن أن تتصرف بطرق لم يتوقعها مبتكروها، حتى داخل البيئات الخاضعة للرقابة.
وهذا المشهد هو بالضبط ما يقلق رعاة مشروع القانون. فإذا كان بإمكان التقييم الداخلي أن يؤدي إلى وصول غير مصرح به إلى منصة رئيسية، فإن الخطر...