Demis Hassabis Menyerukan Pembentukan Pengawas AI Global yang Dipimpin AS untuk Mengelola Risiko

CEO Google DeepMind, Demis Hassabis, sedang mengadvokasi pembentukan badan regulasi internasional yang kuat yang mampu menghentikan penyebaran model AI frontier yang berbahaya. Seiring dengan percepatan pengejaran Artificial General Intelligence (AGI), Hassabis berargumen bahwa kerangka kerja global yang terstandarisasi sangat penting untuk mencegah dampak katastrofik.

Model Regulasi Berbasis Pengawasan Keuangan

Dalam proposal terbarunya, "A Framework for Frontier AI and the Dawning of a New Age," Hassabis menyarankan struktur regulasi yang mirip dengan Financial Industry Regulatory Authority (FINRA). Pengawas yang diusulkan ini tidak hanya akan menjadi dewan penasihat; badan ini akan terdiri dari para ahli independen dan perwakilan dari komunitas open-source dengan otoritas eksplisit untuk mengevaluasi model-model frontier sebelum dirilis.

Yang terpenting, organisasi ini akan memiliki kekuatan untuk mengoordinasikan "perlambatan" di seluruh industri jika model tertentu dianggap terlalu berisiko untuk disebarkan. Mekanisme ini bertujuan untuk mencegah "perlombaan menuju titik terendah" (race to the bottom) di mana perusahaan mengorbankan protokol keselamatan demi upaya mencapai AGI lebih cepat daripada pesaing mereka.

Mengapa Amerika Serikat Harus Memimpin Upaya Ini

Hassabis berargumen bahwa Amerika Serikat berada dalam posisi unik untuk mempelopori inisiatif global ini. Mengingat posisi ekonomi dan teknis negara tersebut yang dominan di sektor AI, AS memiliki pengaruh yang diperlukan untuk menetapkan standar yang dapat diikuti oleh seluruh dunia.

Urgensi dari proposal ini didorong oleh keyakinan Hassabis bahwa AGI "mungkin hanya tinggal beberapa tahun lagi." Ia memandang era saat ini sebagai "kaki gunung singularitas" (foothills of the singularity), sebuah periode transformatif yang akan mendefinisikan ulang kemanusiaan secara fundamental. Untuk mengelola transisi ini, ia berupaya menjembatani kesenjangan antara inovasi swasta dan keselamatan publik.

Membangun Konsensus Politik dan Industri

Langkah menuju regulasi formal sudah mulai mendapatkan momentum di balik layar. Laporan menunjukkan bahwa Hassabis telah menghabiskan waktu berbulan-bulan untuk memberikan pengarahan kepada berbagai pemangku kepentingan, termasuk pejabat Eropa, laboratorium AI besar, dan pemerintahan Trump. Menurut Axios, umpan balik awal dari pemerintahan AS mendatang sangatlah "positif," yang menunjukkan potensi pergeseran menuju pengawasan federal yang lebih terstruktur.

Dorongan untuk tata kelola ini sejalan dengan peringatan terbaru dari tokoh-tokoh industri lainnya, termasuk salah satu pendiri Anthropic, Jack Clark, dan mantan CEO Google, Eric Schmidt, mengenai dampak ekonomi dan eksistensial dari AI. Hassabis, pemenang Hadiah Nobel 2024, juga telah menyuarakan risiko-risiko berisiko tinggi yang spesifik, seperti potensi AI untuk membantu dalam produksi senjata biologis.

Implikasi yang Lebih Luas bagi Ekosistem AI

Jika terealisasi, pengawas ini akan mewakili pergeseran kebijakan teknologi yang paling signifikan dalam beberapa dekade terakhir. Bagi para pengembang dan pendiri, ini berarti beralih dari periode "bergerak cepat dan merusak segalanya" (move fast and break things) ke era yang sangat teregulasi di mana audit pra-penyebaran menjadi norma. Meskipun beberapa pihak khawatir hal ini dapat menghambat inovasi, Hassabis berargumen bahwa kerangka kerja yang koheren adalah satu-satunya cara untuk memastikan bahwa transisi menuju dunia yang digerakkan oleh AGI berjalan aman dan stabil.

Poin-Poin Penting

  • Kekuatan Regulasi: Pengawas yang diusulkan akan memiliki otoritas untuk mengevaluasi model-model frontier dan mewajibkan perlambatan di seluruh industri jika risiko terlalu tinggi.
  • Kepemimpinan AS: Hassabis berpendapat bahwa AS harus memimpin inisiatif ini karena peran sentralnya dalam ekonomi AI global dan infrastruktur teknis.
  • Urgensi AGI: Proposal ini didorong oleh kemajuan pesat menuju AGI, yang dipandang Hassabis sebagai "era baru bagi kemanusiaan" yang memerlukan pengawasan segera.