OpenAI به‌طور رسمی تیم اختصاصی «آمادگی» (preparedness team) خود را منحل کرد؛ این اقدام نشان‌دهنده یک تغییر ساختاری آشکار در نحوه مدیریت ریسک‌های وجودی و سیستماتیک توسط این غول هوش مصنوعی است. این حرکت، یک واحد ایمنی متمرکز را با یک مدل توزیع‌شده که در خطوط تولید موجود ادغام شده است، جایگزین می‌کند.

گذار از ایمنی متمرکز به مدیریت ریسک توزیع‌شده

تیم آمادگی پیش از این وظیفه داشت ارزیابی کند که آیا مدل‌های پیشرفته هوش مصنوعی می‌توانند، برای مثال، زیرساخت‌های شرکتی را هک کنند یا خیر، و سپس استراتژی‌های کاهش اثرات را طراحی کند. طبق گزارش Financial Times، این واحد در پایان ماه گذشته تعطیل شد.

OpenAI پروتکل‌های ایمنی را رها نمی‌کند؛ بلکه در عوض، وظایف نظارتی را به حوزه‌های تخصصی — مانند ریسک‌های بیولوژیکی و تهدیدات امنیت سایبری — تقسیم کرده و این مسئولیت‌ها را در دل تیم‌های محصول و تحقیق می‌کارد. دیلان اسکاندینارو (Dylan Scandinaro) که پس از پیوستن از Anthropic در ماه فوریه، رهبری تیم آمادگی را بر عهده داشت، اکنون بر پیامدهای هوش مصنوعی «خود-بهبوددهنده بازگشتی» (recursive self-improving) تمرکز خواهد کرد که مرز اصلی رسیدن به هوش مصنوعی عمومی (AGI) محسوب می‌شود.

تحولات داخلی و بحث «محصول در برابر ایمنی»

این بازسازی ساختاری پس از مجموعه‌ای از خروج‌های پرسر و صدا و برچیدن سایر واحدهای ایمنی، از جمله تیم‌های آمادگی AGI و سوپر-تراز (super-alignment)، صورت می‌گیرد. خروج مدیر اخلاق، کلوئی باکالار (Chloé Bakalar)، آینده‌پژوه ارشد، جاش آچیام (Josh Achiam) و مدیر ایمنی، یوهانس هایدکه (Johannes Heidecke)، زنگ خطر را برای ناظران به صدا درآورده است.

یان لایک (Jan Leike)، پژوهشگر سابق OpenAI، استدلال می‌کند که این شرکت «محصولات جذاب» را بر تحقیقات ایمنی بلندمدت مقدم می‌شمارد. این تضاد نشان‌دهنده یک شکاف رو به گسترش است: تسلط سریع بر بازار در مقابل کار دقیق و پژوهش‌محوری که برای جلوگیری از عدم ترازهای (misalignments) فاجعه‌بار مورد نیاز است.

چرخش استراتژیک به سمت عرضه اولیه عمومی (IPO)

OpenAI در حالی که خود را برای یک عرضه اولیه عمومی (IPO) عظیم آماده می‌کند، در حال بازسازی سازمان خود است. تغییر از یک مدل ترکیبی غیرانتفاعی و پژوهش‌محور به یک قدرت تجاری متعارف، فشار برای عرضه محصولات مقیاس‌پذیر و آماده مصرف را افزایش می‌دهد.

برای حوزه گسترده‌تر هوش مصنوعی، این تحول به عنوان یک شاخص عمل می‌کند. این اتفاق نشان‌دهنده اصطکاکی است که هنگام انتقال آزمایشگاه‌های پیشرو از کنجکاوی آکادمیک به نرم‌افزار سازمانی ایجاد می‌شود. گنجاندن ایمنی در تیم‌های اصلی ممکن است چابکی را افزایش دهد، اما در عین حال، نظارت مستقلی را که برای مدیریت پیشرفت‌های پرخطر مورد نیاز است، تهدید می‌کند.

نکات کلیدی

  • ایمنی غیرمتمرکز: OpenAI در حال حذف تیم مستقل آمادگی و ادغام کاهش ریسک‌های بیولوژیکی و سایبری در واحدهای موجود است.
  • خروج مدیران: انحلال این تیم پس از خروج چندین رهبر حوزه ایمنی و اخلاق صورت گرفته که نگرانی‌هایی را در مورد تغییر اولویت‌ها برانگیخته است.
  • شتاب تجاری: این بازسازی ساختاری با تلاش OpenAI برای رسیدن به یک IPO عظیم همسو است و نشان‌دهنده چرخش از تحقیقات صرفِ ایمنی به سمت مقیاس‌پذیری محصول‌محور است.