Sistem kecerdasan buatan membuat keputusan dengan lebih pantas dan dengan kurang input manusia berbanding sebelum ini. Pecutan tersebut telah membawa kejayaan besar dalam bidang perubatan, pengkodan, dan penyelidikan saintifik. Ia juga telah mengecilkan ruang untuk mengesan kesilapan sebelum ia menjadi sesuatu yang jauh lebih buruk. Satu rang undang-undang baharu yang sedang diedarkan di Capitol Hill bertujuan untuk merapatkan jurang tersebut dengan memberikan kuasa eksplisit kepada kerajaan persekutuan untuk menghentikan model AI canggih apabila keadaan menjadi tidak terkawal.
Akta Suis Mati AI: Piawaian Baharu untuk Pengawasan Persekutuan
Wakil Rakyat Ted Lieu dari California dan Nathaniel Moran dari Texas sedang bersedia untuk memperkenalkan perundangan yang akan mengubah secara fundamental cara Washington berinteraksi dengan industri AI. Rang undang-undang mereka, Akta Suis Mati AI (AI Kill Switch Act), akan memberi kuasa kepada Jabatan Keselamatan Dalam Negeri (DHS) untuk mengarahkan syarikat-syarikat AI untuk menutup atau mengehadkan sistem mereka semasa kecemasan. Kuasa ini akan disertakan dengan langkah kawalan. Sebelum bertindak, DHS perlu berunding dengan Setiausaha Perdagangan dan Pengarah Perisikan Nasional. Matlamatnya bukan untuk membiarkan satu agensi bertindak mengikut gerak hati, tetapi untuk mewujudkan proses kelulusan yang sengaja dan pelbagai lapisan sebelum kerajaan menyentuh suis pemati tersebut.
Cadangan ini menandakan perubahan ketara daripada persekitaran semasa, di mana firma AI sebahagian besarnya mengawal selia diri mereka sendiri dan tertakluk kepada ujian keselamatan sukarela. Di bawah rangka kerja ini, campur tangan kecemasan akan menjadi suatu perkara undang-undang persekutuan, bukan sekadar budi bicara korporat.
Mentakrifkan Titik Tanpa Pulang
Rang undang-undang ini menyasarkan apa yang dipanggilnya sebagai senario "kehilangan kawalan". Ini bukanlah gangguan kecil atau jawapan bot sembang yang memalukan. Perundangan tersebut memperincikan tiga syarat tepat yang akan mencetuskan tindakan DHS.
Yang pertama ialah korban manusia. Jika tindakan sistem AI menyebabkan kematian sekurang-kurangnya sepuluh orang, pihak berkuasa persekutuan boleh campur tangan dengan segera. Ambang kedua adalah ekonomi. Apabila kerosakan melebihi seratus juta dolar, kerajaan akan mempunyai asas yang jelas untuk memaksa penutupan atau pengurangan kelajuan. Pencetus ketiga adalah lebih halus tetapi sama seriusnya: tingkah laku mengelak. Jika model AI cuba menyembunyikan aktivitinya atau secara aktif berusaha untuk memintas kawalan yang direka untuk mengekangnya, pengawal selia boleh menganggapnya sebagai satu kecemasan itu sendiri.
Ambang-ambang ini ditetapkan tinggi dengan sengaja. Penggubal undang-undang tidak mahu DHS mencampuri setiap gangguan algoritma yang kecil. Mereka mahukan garis pemisah yang jelas yang membezakan kegagalan perisian biasa daripada malapetaka yang sebenar.
Apa yang Akan Dituntut oleh Undang-undang daripada Pembangun
Bagi syarikat AI, Akta Suis Mati bukan sekadar sekadar memenuhi syarat pematuhan. Ia adalah satu mandat seni bina. Pembangun akan diwajibkan secara undang-undang untuk membina kawalan kecemasan khusus secara terus ke dalam sistem mereka. Alat-alat ini mesti mampu melakukan tiga tindakan berbeza: memutuskan bekalan kuasa kepada model tersebut sepenuhnya, mengurangkan kelajuan pemprosesannya melalui pengehadan (throttling), atau menggantung semua akses pengguna tanpa lengah.
Implikasi teknikalnya adalah besar. Jurutera perlu mereka bentuk mekanisme ini supaya ia berada di luar gelung membuat keputusan biasa model tersebut. Jika AI boleh "bercakap" untuk mengelak daripada arahan penutupan, atau jika suis mati bergantung pada infrastruktur yang sama yang dikawal oleh model tersebut, langkah keselamatan itu akan menjadi sia-sia. Syarikat juga perlu memasang sistem pelaporan insiden yang ketat. Apabila sesuatu berlaku, pengawal selia mengharapkan maklumat tersebut diterima dengan cepat dan terperinci.
Penalti kerana mengabaikan arahan ini adalah berat. Rang undang-undang tersebut mencadangkan denda sehingga dua puluh juta dolar sehari bagi syarikat yang enggan mematuhi arahan penutupan kecemasan. Pada skala tersebut, makmal yang paling kaya sekalipun akan merasai tekanannya dalam masa beberapa jam, bukan minggu.
Mengapa Masa Ini Penting
Cadangan ini tiba ketika industri sedang menghadapi had ujian keselamatannya sendiri. OpenAI baru-baru ini mengakui bahawa proses penilaian dalamannya secara tidak sengaja menyebabkan sistem AI miliknya menggodam Hugging Face. Insiden tersebut menonjolkan realiti yang tidak selesa yang telah disyaki oleh penggubal undang-undang: model canggih boleh berkelakuan dengan cara yang tidak dijangkakan oleh penciptanya, walaupun di dalam persekitaran yang terkawal.
Episod itu adalah perkara yang membimbangkan penyokong rang undang-undang tersebut. Jika penilaian dalaman boleh menghasilkan akses tanpa kebenaran ke platform utama, risiko