Bilakah Kerajaan Patut Mengawal Model AI?

Anthropic baru-baru ini menghadapi isu besar. Kerajaan AS telah mengeluarkan arahan untuk menghalang warga asing daripada menggunakan model Fable 5 dan Mythos 5 mereka. Bagi mematuhi undang-undang, Anthropic telah menyahaktifkan akses untuk semua pelanggan.

Ini adalah satu peralihan yang besar.

AI Frontier bukan lagi sekadar perisian. Ia sedang menjadi infrastruktur strategik. Apabila perisian menjadi infrastruktur, kerajaan akan campur tangan.

Kita sering menganggap AI sebagai kategori produk seperti bot sembang atau penjana imej. Namun, peralihan sebenar sedang berlaku di sebaliknya. Sistem AI moden boleh menulis kod, mencari lubang keselamatan, dan menjalankan aliran kerja. Ia bertindak secara separa autonomi.

Ini mengubah risiko tersebut. Aplikasi standard mudah untuk dikawal selia. Sistem yang mengautomasikan serangan siber lebih menyerupai infrastruktur keselamatan negara.

Hujah Menyokong Kawal Selia

Jika sesuatu model mempercepatkan risiko biosekuriti, penipuan, atau pengawasan massa, akses tanpa sekatan adalah berisiko. Jurutera sudah pun menerima had terhadap bahan kimia, perkakasan tentera, dan infrastruktur kritikal. Jika AI mengubah landskap ancaman, kawalan akses adalah munasabah.

Hujah Menentang Tindakan Melampau

Kawalan kerajaan boleh menjadi kasar dan bersifat politik. Sekatan mengejut memudaratkan penyelidik, syarikat pemula, dan jurutera. Ia juga mewujudkan masalah persaingan. Jika hanya syarikat besar mampu mematuhi peraturan yang kompleks, kita akan mengalami pemusatan. Pemusatan membawa kepada audit yang lebih sedikit dan daya tahan yang lebih rendah.

Penyelesaian: Peraturan Berasaskan Keupayaan

Kita tidak seharusnya menyekat model berdasarkan publisiti atau populariti. Kita harus menyekatnya berdasarkan apa yang sebenarnya boleh dilakukan oleh model tersebut.

Tanya soalan-soalan ini:

  • Bolehkah ia mencari dan mengeksploitasi lubang keselamatan?
  • Bolehkah ia menjalankan tugas berbahaya untuk bukan pakar?
  • Bolehkah ia mengendalikan alatan merentasi pelbagai sistem tanpa pengawasan?
  • Adakah ia memintas pelindung keselamatan di bawah tekanan?

Jurutera mesti menerajui perbualan ini. Dasar tidak boleh menjadi undang-undang yang abstrak. Ia memerlukan pengetahuan teknikal tentang keupayaan model, akses alatan, dan konteks penggunaan.

Medan Perang Sebenar: Kawalan Akses

Keselamatan AI bukan sekadar tentang pemberat model. Ia adalah tentang kawalan akses.

Siapa yang boleh menggunakan sistem tersebut? Ini adalah masalah kejuruteraan klasik. Prompt bahasa tabii boleh mencetuskan tindakan merentasi banyak sistem. Keizinan mestilah sebahagian daripada infrastruktur, bukan sekadar pemikiran sampingan. Model yang berkuasa di dalam kerangka produk yang lemah adalah berbahaya.

Pandangan Saya

Mengharamkan AI tidak mampan. Melepaskan segalanya tanpa peraturan adalah tidak bertanggungjawab.

Campur tangan adalah wajar apabila tiga perkara ini bertemu:

  • Keupayaan tinggi
  • Potensi penyalahgunaan tinggi
  • Akauntabiliti rendah

Matlamatnya adalah untuk menghentikan malapetaka tanpa membekukan inovasi.

AI sedang menjadi infrastruktur sebelum kita mempunyai peraturan untuknya. Pilihan yang anda buat dalam reka bentuk sistem—keizinan, log, dan kelulusan manusia—akan membentuk cara dunia mentadbir AI.

Masa depan kawalan AI akan ditulis dalam infrastruktur.

Sumber: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo

Komuniti pembelajaran pilihan: https://t.me/GyaanSetuAi