Demis Hassabis Gesa Penubuhan Badan Pemantau AI Global Teraju AS untuk Menguruskan Risiko

CEO Google DeepMind, Demis Hassabis, sedang menyokong penciptaan badan kawal selia antarabangsa yang berkuasa dan mampu menghentikan penggunaan model AI frontier yang berbahaya. Memandangkan usaha mengejar Kecerdasan Am Buatan (AGI) semakin pantas, Hassabis berhujah bahawa rangka kerja global yang diseragamkan adalah penting untuk mengelakkan kesan bencana.

Model Kawal Selia Berasaskan Pengawasan Kewangan

Dalam cadangan terbaharunya, "A Framework for Frontier AI and the Dawning of a New Age," Hassabis mencadangkan struktur kawal selia yang serupa dengan Financial Industry Regulatory Authority (FINRA). Badan pemantau yang dicadangkan ini bukan sekadar lembaga penasihat; ia akan terdiri daripada pakar bebas dan wakil daripada komuniti sumber terbuka dengan kuasa nyata untuk menilai model frontier sebelum ia dilancarkan.

Secara pentingnya, organisasi tersebut akan mempunyai kuasa untuk menyelaraskan "perlambatan" (slowdown) di seluruh industri jika sesuatu model tertentu dianggap terlalu berisiko untuk digunakan. Mekanisme ini bertujuan untuk mengelakkan "perlumbaan ke dasar" (race to the bottom) di mana syarikat-syarikat mengabaikan protokol keselamatan demi usaha mencapai AGI dengan lebih pantas daripada pesaing mereka.

Mengapa Amerika Syarikat Harus Mengetuai Usaha Ini

Hassabis berhujah bahawa Amerika Syarikat berada dalam kedudukan unik untuk menerajui inisiatif global ini. Memandangkan kedudukan ekonomi dan teknikal negara tersebut yang dominan dalam sektor AI, AS mempunyai pengaruh yang diperlukan untuk menetapkan piawaian yang boleh diikuti oleh seluruh dunia.

Kesegeraan cadangan ini didorong oleh kepercayaan Hassabis bahawa AGI "mungkin hanya tinggal beberapa tahun sahaja lagi." Beliau menyifatkan era semasa sebagai "kaki gunung singulariti" (foothills of the singularity), satu tempoh transformatif yang akan mentakrifkan semula kemanusiaan secara fundamental. Untuk menguruskan peralihan ini, beliau sedang berusaha merapatkan jurang antara inovasi swasta dan keselamatan awam.

Membina Konsensus Politik dan Industri

Langkah ke arah kawal selia formal sudah mula mendapat momentum di sebalik tabir. Laporan menunjukkan bahawa Hassabis telah menghabiskan masa berbulan-bulan memberi taklimat kepada pelbagai pihak berkepentingan, termasuk pegawai Eropah, makmal AI utama, dan pentadbiran Trump. Menurut Axios, maklum balas awal daripada pentadbiran AS yang akan datang adalah "sangat positif," menunjukkan potensi peralihan ke arah pengawasan persekutuan yang lebih berstruktur.

Desakan untuk tadbir urus ini selaras dengan amaran terbaharu daripada tokoh industri lain, termasuk pengasas bersama Anthropic, Jack Clark, dan bekas CEO Google, Eric Schmidt, mengenai impak ekonomi dan eksistensial AI. Hassabis, pemenang Hadiah Nobel 2024, juga telah menyuarakan risiko berisiko tinggi yang khusus, seperti potensi AI untuk membantu dalam penghasilan senjata biologi.

Implikasi Lebih Luas terhadap Ekosistem AI

Jika direalisasikan, badan pemantau ini akan mewakili peralihan paling signifikan dalam dasar teknologi sejak beberapa dekad. Bagi pembangun dan pengasas, ini bermakna beralih daripada era "bergerak pantas dan pecahkan segalanya" (move fast and break things) kepada era yang dikawal selia dengan ketat di mana audit pra-penempatan menjadi norma. Walaupun sesetengah pihak bimbang ini boleh menyekat inovasi, Hassabis berhujah bahawa rangka kerja yang koheren adalah satu-satunya cara untuk memastikan peralihan ke dunia yang dipacu AGI adalah selamat dan stabil.

Ringkasan Utama

  • Kuasa Kawal Selia: Badan pemantau yang dicadangkan akan mempunyai kuasa untuk menilai model frontier dan mewajibkan perlambatan di seluruh industri jika risiko terlalu tinggi.
  • Kepimpinan AS: Hassabis menegaskan bahawa AS harus menerajui inisiatif ini disebabkan peranannya yang penting dalam ekonomi AI global dan infrastruktur teknikal.
  • Kesegeraan AGI: Cadangan ini didorong oleh kemajuan pesat ke arah AGI, yang dilihat oleh Hassabis sebagai "era baharu bagi kemanusiaan" yang memerlukan pengawasan segera.