مدیر بخش اخلاق OpenAI پس از گذشت کمتر از یک سال استعفا داد؛ اقدامی که توسط فایننشال تایمز گزارش شده و شک و تردیدها را درباره بررسیهای ایمنی داخلی این آزمایشگاه دوباره برانگیخته است. این جدایی از آن جهت اهمیت دارد که این نقش قرار است به عنوان ترمز داخلی شرکت در برابر استقرارهای پرخطر عمل کند، و خالی شدن ناگهانی این جایگاه نشان میدهد که شاید این ترمز وجود نداشته باشد.
الگویی از خروجها
این استعفا یک حادثه منزوی نیست. طی دو سال گذشته، OpenAI شاهد خروج پیدرپی کارکنانی بوده که بر ایمنی تمرکز داشتند. در سال ۲۰۲۴، چندین عضو تیم Superalignment آنجا را ترک کردند. پیش از آن نیز، در جریان آشفتگیهای مدیریتی در سال ۲۰۲۳، اعضای هیئت مدیره برکنار شدند. تم اصلی تکرار شونده است: پژوهشگران برای محافظت از فناوری میپیوندند، با اصطکاک مواجه میشوند و سپس خارج میشوند.
وظایف این نقش چه بود
مدیر بخش اخلاق بر تصمیمات مربوط به استقرار، شیوههای مدیریت داده و بررسیهای داخلی قابلیتهای بالقوه مضر نظارت میکند. وقتی شخصی که این جایگاه را اشغال کرده است به سرعت میرود، این سوال مطرح میشود که آیا اصلاً چنین قدرتی وجود داشته است یا خیر.
دلایل احتمالی این جابهجاییها
- قدرت محدود برای توقف عرضهها – اگر این نقش نتواند تیم محصول را برای متوقف کردن یک عرضه مجبور کند، این جایگاه به جای عملکردی، صرفاً نمادین خواهد بود.
- فشارِ اولویت سرعت بر ایمنی – رقابت با سایر غولهای هوش مصنوعی محیطی را ایجاد میکند که در آن تحویل سریع ویژگیها، اغلب به قیمت نادیده گرفتن ارزیابی دقیق ریسک، ارزشمند شمرده میشود.
- سایه انداختن اولویتهای تجاری بر کار ایمنی – مدیریت ممکن است پروژههای سودآور را ترجیح دهد و تیمهای ایمنی را با کمبود نیرو و حجم کاری بیش از حد مواجه کند.
- فرسودگی ناشی از اصطکاک مداوم – درگیریهای مکرر بین مدافعان ایمنی و مهندسان محصول میتواند حتی متعهدترین پژوهشگران را نیز فرسوده کند.
این عوامل بازتابدهنده یک تنش گستردهتر در صنعت است: آزمایشگاهها به کسانی که قابلیتهای جدید را عرضه میکنند پاداش میدهند، در حالی که کسانی که خطرها را گوشزد میکنند، گاهی به عنوان مانع دیده میشوند.
دیدگاه مقابل: تدابیر حفاظتی داخلی ممکن است همچنان وجود داشته باشند
OpenAI به طور علنی جزئیات مربوط به اختیارات مدیر اخلاق خود را منتشر نکرده و شرکت بیانیهای در مورد این استعفا صادر نکرده است. این احتمال وجود دارد که سایر مکانیسمهای داخلی — مانند بررسیهای ایمنی میانوظیفهای یا هیئتهای مشورتی خارجی — همچنان به فعالیت خود ادامه دهند. با این حال، بدون شواهد ملموس از اثربخشی آنها، این جایگاه خالی همچنان شکاف قابل توجهی را باقی میگذارد.
چرا این جدایی فراتر از OpenAI اهمیت دارد
اگر یک آزمایشگاه هوش مصنوعی انتفاعی نتواند یک مدیر اخلاق را بیش از یک سال حفظ کند، مدل قرار دادن متخصصان ایمنی در داخل شرکتهای تجاری شکننده به نظر میرسد. Anthropic که با وعده هوش مصنوعی ایمنتر تأسیس شده است، فشارهای مشابهی را گزارش میدهد و حتی شرکتهای بزرگتر با منابع گسترده نیز اصطکاک بین واحدهای اخلاق و گروههای محصول را مستند کردهاند.
چه چیزهایی میتواند معادله را تغییر دهد
- حسابرسان مستقل با قدرت نظارتی – نهادهای خارجی که میتوانند بر رعایت قوانین نظارت کنند، به جای تکیه بر حسن نیت داخلی.
- ارزیابیهای ایمنی که از نظر قانونی الزامی هستند – قوانینی که مستلزم تحلیل مستند ریسک پیش از عرضه هر مدل جدید است.
- حمایتهای قویتر از افشاگران – تدابیر حفاظتی که به کارکنان اجازه میدهد بدون ترس از تلافی، نگرانیهای خود را مطرح کنند.
- افشای عمومی هشدارهای ایمنی – شفافیتی که به کارشناسان خارجی و عموم مردم اجازه میدهد ببینند چه ریسکهایی شناسایی شده است.
- تأمین مالی تحقیقات ایمنی مستقل از انگیزههای سودآوری – کمکهای مالی یا تأمین مالی دولتی که کار ایمنی را از ضربالاجلهای محصول جدا نگه میدارد.
آنچه باید در آینده زیر نظر داشت
وقتی یک رهبر اخلاق نمیتواند بیش از یک سال در جایگاه خود بماند، ساختار زیربنایی زیر سوال میرود. تا زمانی که پویاییهای قدرت بین جاهطلبیهای محصولی و مسئولیتهای ایمنی بازتعریف نشود، چرخه از دست دادن استعدادها احتمالاً تکرار خواهد شد. چند ماه آینده نشان خواهد داد که آیا OpenAI — و جامعه گستردهتر هوش مصنوعی — میتوانند این الگو را بشکنند یا خیر.