Ketua etika OpenAI telah meletak jawatan selepas hanya setahun, satu langkah yang dilaporkan oleh Financial Times yang telah mencetuskan semula keraguan tentang semakan keselamatan dalaman makmal tersebut. Peletakan jawatan ini penting kerana peranan tersebut sepatutnya bertindak sebagai brek dalaman syarikat terhadap penggunaan yang berisiko, dan kekosongan mendadak ini menunjukkan bahawa brek tersebut mungkin telah hilang.

Corak peletakan jawatan

Peletakan jawatan ini bukanlah insiden terpencil. Sepanjang dua tahun yang lalu, OpenAI telah menyaksikan siri kakitangan yang memfokuskan kepada keselamatan meninggalkan syarikat. Pada tahun 2024, beberapa ahli pasukan Superalignment telah keluar. Sebelum itu, ahli lembaga pengarah telah dikeluarkan semasa kekacauan tadbir urus pada tahun 2023. Tema yang berulang adalah sama: penyelidik menyertai syarikat untuk melindungi teknologi tersebut, menghadapi geseran, dan kemudian keluar.

Peranan yang sepatutnya dilaksanakan

Ketua etika menyelia keputusan penggunaan, amalan pengendalian data, dan penilaian dalaman terhadap keupayaan yang berpotensi berbahaya. Apabila individu yang memegang jawatan tersebut keluar dengan cepat, ia menimbulkan persoalan sama ada kuasa tersebut benar-benar wujud.

Kemungkinan sebab pusing ganti kakitangan

  • Kuasa terhad untuk menghentikan pelancaran – Jika peranan tersebut tidak dapat memaksa pasukan produk untuk menghentikan pelancaran, jawatan itu menjadi simbolik dan bukannya berfungsi.
  • Tekanan mengutamakan kelajuan berbanding keselamatan – Persaingan dengan gergasi AI lain mewujudkan persekitaran di mana penyampaian ciri yang pantas lebih dihargai, sering kali dengan mengorbankan penilaian risiko yang menyeluruh.
  • Keutamaan komersial mengatasi kerja keselamatan – Kepimpinan mungkin lebih mengutamakan projek yang menjana pendapatan, menyebabkan pasukan keselamatan kekurangan kakitangan dan terbeban.
  • Keletihan akibat geseran berterusan – Pertelingkahan berulang antara penyokong keselamatan dan jurutera produk boleh melemahkan penyelidik yang paling komited sekalipun.

Faktor-faktor ini mencerminkan ketegangan industri yang lebih luas: makmal memberi ganjaran kepada mereka yang melancarkan keupayaan baharu, manakala mereka yang menandakan bahaya kadangkala dilihat sebagai penghalang.

Sudut pandang berbeza: langkah keselamatan dalaman mungkin masih wujud

OpenAI tidak memperincikan kuasa ketua etikanya secara terbuka, dan syarikat tersebut tidak mengeluarkan kenyataan mengenai peletakan jawatan itu. Adalah mungkin bahawa mekanisme dalaman lain—seperti semakan keselamatan rentas fungsi atau lembaga penasihat luaran—terus berfungsi. Walau bagaimanapun, tanpa bukti konkrit tentang keberkesanannya, kekosongan tersebut tetap meninggalkan jurang yang ketara.

Mengapa peletakan jawatan ini penting melampaui OpenAI

Jika sebuah makmal AI berasaskan keuntungan tidak dapat mengekalkan ketua etika selama lebih daripada setahun, model menempatkan pakar keselamatan di dalam perusahaan komersial kelihatan rapuh. Anthropic, yang diasaskan atas janji AI yang lebih selamat, melaporkan tekanan yang serupa, dan syarikat yang lebih besar dengan sumber yang luas juga telah mendokumentasikan geseran antara unit etika dan kumpulan produk.

Apa yang boleh mengubah keadaan

  • Juruaudit bebas dengan pengaruh kawal selia – Badan luaran yang boleh menguatkuasakan pematuhan, dan bukannya bergantung kepada niat baik dalaman.
  • Penilaian keselamatan yang diwajibkan oleh undang-undang – Peraturan yang memerlukan analisis risiko yang didokumentasikan sebelum sebarang model baharu dilancarkan.
  • Perlindungan pemberi maklumat yang lebih kuat – Langkah keselamatan yang membolehkan pekerja menyuarakan kebimbangan tanpa rasa takut akan tindakan balas.
  • Pendedahan awam terhadap amaran keselamatan – Ketelusan yang membolehkan pakar luaran dan orang awam melihat risiko yang telah dikenal pasti.
  • Pembiayaan penyelidikan keselamatan secara berasingan daripada motif keuntungan – Geran atau pembiayaan awam yang memastikan kerja keselamatan terasing daripada tarikh akhir produk.

Apa yang perlu diperhatikan seterusnya

Apabila seorang pemimpin etika tidak dapat bertahan lebih daripada setahun, struktur asasnya akan dipersoalkan. Selagi dinamika kuasa antara ambisi produk dan tanggungjawab keselamatan tidak diubah suai, kitaran kehilangan bakat berkemungkinan akan berulang. Beberapa bulan akan datang akan menunjukkan sama ada OpenAI—dan komuniti AI yang lebih luas—dapat memecahkan corak tersebut.