OpenAI telah secara rasmi membubarkan pasukan kesiapsiagaan khususnya, satu peralihan struktur yang jelas dalam cara gergasi AI tersebut mengendalikan risiko eksistensial dan sistemik. Langkah ini menggantikan unit keselamatan berpusat dengan model teragih yang disepadukan ke dalam saluran pembangunan sedia ada.

Peralihan daripada Keselamatan Berpusat kepada Pengurusan Risiko Teragih

Pasukan kesiapsiagaan tersebut sebelum ini digunakan untuk menilai sama ada model AI canggih boleh, sebagai contoh, menggodam infrastruktur korporat, dan kemudian merangka strategi mitigasi. Financial Times melaporkan bahawa unit tersebut telah ditutup pada akhir bulan lalu.

OpenAI tidak meninggalkan protokol keselamatan. Sebaliknya, ia membahagikan kerja pengawasan kepada domain khusus—risiko biologi, ancaman keselamatan siber—dan menempatkan tanggungjawab tersebut di dalam pasukan produk dan penyelidikan. Dylan Scandinaro, yang menerajui pasukan kesiapsiagaan selepas menyertai daripada Anthropic pada bulan Februari, kini akan menumpukan kepada implikasi AI "penambahbaikan kendiri berulang" (recursive self-improving), satu sempadan utama bagi Kecerdasan Am Buatan (AGI).

Gejolak Dalaman dan Debat "Produk lawan Keselamatan"

Penyusunan semula ini menyusul rentetan peletakan jawatan profil tinggi dan pembubaran unit keselamatan lain, termasuk pasukan kesediaan AGI dan pasukan penyelarasan super (super-alignment). Peletakan jawatan Ketua Etika Chloé Bakalar, Ketua Futuris Josh Achiam, dan Ketua Keselamatan Johannes Heidecke telah mencetuskan kebimbangan dalam kalangan pemerhati.

Bekas penyelidik OpenAI, Jan Leike, berhujah bahawa syarikat tersebut mengutamakan "produk yang gah" berbanding penyelidikan keselamatan jangka panjang. Percanggahan ini menekankan jurang yang semakin melebar: penguasaan pasaran yang pantas berbanding kerja penyelidikan intensif yang teliti yang diperlukan untuk mengelakkan ketidakselarasan bencana.

Peralihan Strategik ke arah IPO

OpenAI sedang membentuk semula organisasinya sambil bersiap sedia untuk Tawaran Awam Permulaan (IPO) yang besar. Peralihan daripada hibrid bukan untung yang diterajui penyelidikan kepada gergasi komersial konvensional meningkatkan tekanan untuk menghasilkan produk yang boleh diskalakan dan sedia untuk pengguna.

Bagi bidang AI yang lebih luas, perkembangan ini berfungsi sebagai petunjuk penting. Ia menunjukkan geseran yang timbul apabila makmal perintis beralih daripada rasa ingin tahu akademik kepada perisian perusahaan. Menanamkan keselamatan di dalam pasukan teras mungkin meningkatkan ketangkasan, tetapi ia juga mengancam penelitian bebas yang diperlukan untuk menguruskan kejayaan berisiko tinggi.

Ringkasan Utama

  • Keselamatan Teragih: OpenAI menggugurkan pasukan kesiapsiagaan berdiri sendiri dan menyepadukan mitigasi risiko bio dan siber ke dalam unit sedia ada.
  • Kehilangan Kepimpinan: Pembubaran pasukan ini menyusul selepas peletakan jawatan beberapa pemimpin keselamatan dan etika, mencetuskan kebimbangan tentang peralihan keutamaan.
  • Momentum Komersial: Penyusunan semula ini selaras dengan usaha OpenAI ke arah IPO yang besar, membayangkan peralihan daripada penyelidikan keselamatan tulen kepada penskalaan berasaskan produk.