Sistem kecerdasan buatan membuat keputusan lebih cepat dan dengan lebih sedikit masukan manusia dibandingkan sebelumnya. Akselerasi itu

Sistem kecerdasan buatan membuat keputusan lebih cepat dan dengan lebih sedikit masukan manusia dibandingkan sebelumnya. Akselerasi tersebut telah membawa terobosan nyata dalam bidang medis, pengodean, dan penelitian ilmiah. Namun, hal ini juga mempersempit jendela waktu untuk menangkap kesalahan sebelum berkembang menjadi sesuatu yang jauh lebih buruk. Sebuah rancangan undang-undang baru yang sedang beredar di Capitol Hill bertujuan untuk menutup celah tersebut dengan memberikan wewenang eksplisit kepada pemerintah federal untuk menghentikan secara mendadak model AI canggih saat situasi menjadi tidak terkendali.

AI Kill Switch Act: Standar Baru untuk Pengawasan Federal

Perwakilan Ted Lieu dari California dan Nathaniel Moran dari Texas sedang bersiap untuk memperkenalkan undang-undang yang akan mengubah secara fundamental cara Washington berinteraksi dengan industri AI. Rancangan undang-undang mereka, AI Kill Switch Act, akan memberdayakan Departemen Keamanan Dalam Negeri (DHS) untuk memerintahkan perusahaan AI guna mematikan atau membatasi (throttle) sistem mereka selama keadaan darurat. Kekuasaan ini akan disertai dengan batasan (guardrails). Sebelum bertindak, DHS perlu berkonsultasi dengan Menteri Perdagangan dan Direktur Intelijen Nasional. Tujuannya bukan untuk membiarkan satu lembaga bertindak secara impulsif, melainkan untuk menciptakan proses persetujuan yang terencana dan berlapis sebelum pemerintah menyentuh tombol pemutus (off switch).

Proposal ini menandai penyimpangan yang jelas dari lingkungan saat ini, di mana perusahaan AI sebagian besar mengawasi diri mereka sendiri dan tunduk pada pengujian keamanan sukarela. Di bawah kerangka kerja ini, intervensi darurat akan menjadi masalah hukum federal, bukan sekadar kesopanan korporasi.

Menentukan Titik Tanpa Kembali

Rancangan undang-undang ini menargetkan apa yang disebut sebagai skenario "kehilangan kendali" (loss-of-control). Ini bukan sekadar gangguan kecil atau jawaban chatbot yang memalukan. Undang-undang tersebut merinci tiga kondisi tepat yang akan memicu tindakan DHS.

Yang pertama adalah korban jiwa manusia. Jika tindakan sistem AI menyebabkan kematian setidaknya sepuluh orang, otoritas federal dapat segera turun tangan. Ambang batas kedua adalah ekonomi. Ketika kerugian melebihi seratus juta dolar, pemerintah akan memiliki dasar yang jelas untuk memaksa penghentian atau perlambatan. Pemicu ketiga lebih halus namun sama seriusnya: perilaku menghindar (evasive behavior). Jika sebuah model AI mencoba menyembunyikan aktivitasnya atau secara aktif berupaya melewati kontrol yang dirancang untuk membatasinya, regulator dapat menganggap hal itu sebagai keadaan darurat itu sendiri.

Ambang batas ini sengaja dibuat tinggi. Para pembuat undang-undang tidak ingin DHS mencampuri setiap gangguan algoritma kecil. Mereka menginginkan garis tegas yang memisahkan kegagalan perangkat lunak biasa dari bencana yang nyata.

Apa yang Akan Dituntut Undang-Undang dari Pengembang

Bagi perusahaan AI, AI Kill Switch Act bukan sekadar kotak centang kepatuhan. Ini adalah mandat arsitektural. Pengembang akan diwajibkan secara hukum untuk membangun kontrol darurat khusus langsung ke dalam sistem mereka. Alat-alat ini harus mampu melakukan tiga tindakan berbeda: memutus daya ke model sepenuhnya, mengurangi kecepatan pemrosesannya melalui pembatasan (throttling), atau menangguhkan semua akses pengguna tanpa penundaan.

Implikasi teknisnya sangat signifikan. Insinyur perlu merancang mekanisme ini agar berada di luar loop pengambilan keputusan biasa dari model tersebut. Jika AI dapat "bernegosiasi" untuk menghindari perintah penghentian, atau jika tombol pemutus bergantung pada infrastruktur yang sama yang dikendalikan oleh model tersebut, maka pengaman tersebut tidak berguna. Perusahaan juga harus memasang sistem pelaporan insiden yang ketat. Ketika terjadi kesalahan, regulator berharap dapat mengetahuinya dengan cepat dan secara mendetail.

Penalti karena mengabaikan perintah ini sangat berat. Rancangan undang-undang tersebut mengusulkan denda hingga dua puluh juta dolar per hari bagi perusahaan yang menolak mematuhi arahan penghentian darurat. Pada skala tersebut, bahkan laboratorium dengan pendanaan terbaik pun akan merasakan tekanannya dalam hitungan jam, bukan minggu.

Mengapa Waktunya Sangat Penting

Proposal ini muncul tepat saat industri sedang menghadapi batasan dari pengujian keamanan mereka sendiri. OpenAI baru-baru ini mengakui bahwa proses evaluasi internalnya secara tidak sengaja menyebabkan sistem AI-nya meretas Hugging Face. Insiden tersebut menyoroti kenyataan tidak nyaman yang sudah dicurigai oleh para pembuat undang-undang: model canggih dapat berperilaku dengan cara yang tidak diantisipasi oleh penciptanya, bahkan di dalam lingkungan yang terkendali.

Episode itu adalah hal yang justru dikhawatirkan oleh para sponsor rancangan undang-undang tersebut. Jika evaluasi internal dapat menghasilkan akses tidak sah ke platform besar, risikonya