استقال رئيس قسم الأخلاقيات في OpenAI بعد أقل من عام، وهي الخطوة التي ذكرتها صحيفة "فاينانشال تايمز" (Financial Times)، مما أعاد إشعال الشكوك حول ضوابط السلامة الداخلية في المختبر. ويكتسب هذا الرحيل أهمية خاصة لأن هذا الدور من المفترض أن يعمل ككابح داخلي للشركة ضد عمليات النشر المحفوفة بالمخاطر، ويشير شغور هذا المنصب المفاجئ إلى أن هذا الكابح قد يكون مفقوداً.

نمط من الاستقالات

ليست هذه الاستقالة حادثة معزولة؛ فخلال العامين الماضيين، شهدت OpenAI سلسلة من مغادرة الموظفين المهتمين بالسلامة. ففي عام 2024، غادر عدة أعضاء من فريق "المحاذاة الفائقة" (Superalignment). وقبل ذلك، تمت إقالة أعضاء في مجلس الإدارة خلال حالة من التخبط في الحوكمة في عام 2023. والنمط المتكرر هو نفسه: ينضم الباحثون لحماية التكنولوجيا، ثم يواجهون عقبات، ثم يغادرون.

المهام المنوطة بهذا الدور

يشرف رئيس قسم الأخلاقيات على قرارات النشر، وممارسات التعامل مع البيانات، والتدقيق الداخلي للقدرات التي قد تكون ضارة. وعندما يغادر الشخص الذي يشغل هذا المنصب بسرعة، يطرح ذلك تساؤلاً حول ما إذا كانت السلطة الممنوحة لهذا الدور موجودة أصلاً.

أسباب محتملة لتقلب الكوادر

  • سلطة محدودة لإيقاف عمليات الإصدار – إذا لم يتمكن هذا الدور من إلزام فريق المنتج بوقف عملية إطلاق منتج ما، يصبح المنصب رمزياً بدلاً من أن يكون وظيفياً.
  • ضغوط تفضيل السرعة على السلامة – تخلق المنافسة مع عمالقة الذكاء الاصطناعي الآخرين بيئة يتم فيها تقدير التسليم السريع للميزات، وغالباً ما يكون ذلك على حساب التقييم الشامل للمخاطر.
  • طغيان الأولويات التجارية على أعمال السلامة – قد تفضل القيادة المشاريع المدرة للدخل، مما يترك فرق السلامة تعاني من نقص الموظفين وعبء العمل الزائد.
  • الاحتراق الوظيفي بسبب الاحتكاك المستمر – يمكن للاصطدامات المتكررة بين المدافعين عن السلامة ومهندسي المنتجات أن تنهك حتى أكثر الباحثين التزاماً.

تعكس هذه العوامل توتراً أوسع في الصناعة: حيث تكافئ المختبرات أولئك الذين يطلقون قدرات جديدة، بينما يُنظر أحياناً إلى أولئك الذين ينبهون إلى المخاطر كعقبات.

وجهة نظر مغايرة: قد تظل الضمانات الداخلية قائمة

لم تفصل OpenAI علناً صلاحيات رئيس قسم الأخلاقيات، ولم تصدر الشركة بياناً بشأن الاستقالة. ومن المحتمل أن تستمر آليات داخلية أخرى — مثل مراجعات السلامة المشتركة بين الوظائف أو المجالس الاستشارية الخارجية — في العمل. ومع ذلك، فبدون دليل ملموس على فعاليتها، يظل هذا الشغور فجوة ملحوظة.

لماذا يهم هذا الرحيل ما هو أبعد من OpenAI

إذا كان مختبر ذكاء اصطناعي ربحي لا يستطيع الاحتفاظ بمسؤول أخلاقي لأكثر من عام، فإن نموذج دمج خبراء السلامة داخل الشركات التجارية يبدو هشاً. وتفيد شركة Anthropic، التي تأسست على وعد بذكاء اصطناعي أكثر أماناً، بوجود ضغوط مماثلة، وحتى الشركات الأكبر حجماً ذات الموارد الواسعة وثقت وجود احتكاك بين وحدات الأخلاقيات ومجموعات المنتجات.

ما الذي يمكن أن يغير المعادلة

  • مدققون مستقلون يتمتعون بنفوذ تنظيمي – هيئات خارجية يمكنها فرض الامتثال، بدلاً من الاعتماد على النوايا الحسنة الداخلية.
  • تقييمات سلامة مفروضة قانوناً – قواعد تتطلب تحليلاً موثقاً للمخاطر قبل إصدار أي نموذج جديد.
  • حماية أقوى للمبلغين عن المخالفات – ضمانات تسمح للموظفين بإثارة المخاوف دون خوف من الانتقام.
  • الإفصاح العلني عن تنبيهات السلامة – شفافية تسمح للخبراء الخارجيين والجمهور برؤية المخاطر التي تم تحديدها.
  • تمويل أبحاث السلامة بمعزل عن دوافع الربح – منح أو تمويل عام يحافظ على استقلالية أعمال السلامة عن المواعيد النهائية للمنتجات.

ما الذي يجب مراقبته لاحقاً

عندما لا يستطيع قائد أخلاقي البقاء لأكثر من عام، يصبح الهيكل الأساسي موضع تساؤل. وإلى أن يتم إعادة تشكيل ديناميكيات القوة بين الطموح التجاري للمنتجات والمسؤولية تجاه السلامة، فمن المرجح أن تتكرر دورة فقدان المواهب. ستظهر الأشهر القليلة القادمة ما إذا كانت OpenAI — ومجتمع الذكاء الاصطناعي الأوسع — قادرة على كسر هذا النمط.