Draf Undang-undang EU Mungkin Mewajibkan Sembang AI Disaring bagi Kandungan Haram

Draf peraturan "Chat Control" Kesatuan Eropah akan memperluaskan penyaringan kandungan mandatori kepada mana-mana perkhidmatan yang membawa komunikasi antara perorangan – kini termasuk antara muka sembang AI. Jika diterima pakai, penyedia AI perbualan boleh dipaksa untuk mengimbas setiap prom pengguna untuk bahan haram, menukarkan soalan peribadi tentang kesihatan, undang-undang atau perniagaan menjadi titik data yang diperiksa secara automatik oleh pihak berkuasa.

Mengapa undang-undang kini merangkumi AI

EU pada asalnya bertujuan untuk mengekang kandungan haram, terutamanya bahan penderaan seksual kanak-kanak, dalam aplikasi mesej peribadi. Walau bagaimanapun, ayat tersebut tidak terhenti pada platform SMS atau mesej. Ia mentakrifkan "komunikasi antara perorangan" dengan cukup luas untuk merangkumi sebarang alat di mana dua orang atau lebih bertukar mesej, dan pengawal selia telah mentafsirkan definisi tersebut untuk merangkumi tetingkap sembang AI.

Penilaian teknikal daripada beberapa negara anggota menyatakan bahawa perbualan AI sering mengandungi butiran yang lebih sensitif berbanding teks biasa – pengguna secara rutin mendedahkan sejarah perubatan, strategi undang-undang, atau rancangan perniagaan proprietari untuk mendapatkan nasihat daripada model. Penapis automatik yang sama yang mengimbas mesej dari telefon ke telefon boleh digunakan semula untuk menganalisis prom AI, dan pegawai bimbang bahawa pelaku jahat boleh mengeksploitasi model generatif untuk menghasilkan kandungan haram secara besar-besaran.

Apa yang sedang berlaku dengan data AI

Walaupun tanpa undang-undang baharu, firma AI utama sudah pun mengumpul dan menyimpan input pengguna. OpenAI menyimpan perbualan secara lalai dan menggunakannya untuk menambah baik modelnya, sambil turut berkongsi data dengan rakan kongsi dan, apabila diperlukan, dengan agensi penguatkuasaan undang-undang. Google menggabungkan log sembang AI ke dalam profil yang sama yang menyimpan sejarah carian dan data lokasi pengguna, mewujudkan gambaran tingkah laku individu yang lebih terperinci. Anthropic, walaupun dipasarkan sebagai lebih mementingkan privasi, masih menyimpan prom pengguna dan mematuhi perintah undang-undang untuk pendedahan maklumat.

Jika "Chat Control" diperluaskan kepada AI, pengalaman pengguna boleh berubah secara drastik:

• Setiap prom akan dijalankan melalui pengimbas automatik sebelum model memprosesnya.
• Sistem tersebut boleh membuat rujukan silang antara sembang AI dengan sejarah mesej sedia ada pengguna, membina pandangan bersepadu tentang komunikasi mereka.
• Topik tertentu – sebagai contoh, arahan tentang sintesis bahan kimia atau taktik undang-undang yang terperinci – boleh ditandakan dalam masa nyata dan dilaporkan kepada pihak berkuasa.

Risiko bagi pembangun dan pengguna

Pembangun akan menghadapi lapisan pematuhan baharu yang boleh meningkatkan kos operasi dan melambatkan kemas kini model. Mereka perlu menyepadukan atau melesenkan alat pengimbasan, menyelenggara jejak audit, dan berisiko dikenakan penalti jika gagal mengesan kandungan. Firma yang lebih kecil, terutamanya yang menawarkan model sumber terbuka, mungkin mendapati beban ini terlalu berat dan boleh dipaksa keluar dari pasaran.

Pengguna berisiko kehilangan privasi yang dianggap penting oleh ramai orang. Data prom boleh mendedahkan pemikiran intim, kebimbangan kesihatan peribadi, atau idea perniagaan sulit. Sebaik sahaja maklumat tersebut berada dalam repositori pusat, ia menjadi terdedah kepada penyalahgunaan, kebocoran tidak sengaja, atau pengawasan meluas. Melindungi data tersebut – dalam bentuk masa yang dihabiskan untuk mengurus tetapan atau membeli alat keselamatan tambahan – akan beralih daripada penyedia kepada individu.

Hujah balas daripada pengawal selia

Penggubal dasar berhujah bahawa teknologi yang sama digunakan untuk melindungi kanak-kanak dalam talian boleh digunakan pada AI tanpa menjejaskan penggunaan yang sah. Mereka menyatakan bahawa penjenayah sudah pun menggunakan model generatif untuk merangka kandungan haram, dan rangka kerja pengimbasan yang bersatu akan menutup lompang tersebut. Matlamat mereka, kata mereka, bukanlah untuk memantau setiap perbualan tetapi untuk menangkap segelintir yang melanggar undang-undang.

Langkah praktikal untuk menjaga privasi prom anda

Walaupun undang-undang tersebut diluluskan, pengguna boleh mengurangkan pendedahan dengan beralih daripada perkhidmatan AI berasaskan awan untuk perkara sensitif. Ekosistem model yang dijalankan secara tempatan yang semakin berkembang menjadikan perkara ini berdaya maju pada perkakasan gred pengguna:

• Jalankan model pada mesin anda sendiri. Llama 3.2 dan Mistral boleh beroperasi pada PC permainan standard. Alat seperti Ollama memudahkan pemasangan dan pengurusan sumber secara automatik, manakala Open WebUI menawarkan antara muka hadapan yang bersih untuk interaksi.
• Nyahaktifkan pengumpulan data latihan. Kebanyakan platform menyediakan tetapan yang menghalang prom anda daripada digunakan untuk menambah baik model. Aktifkan ia di mana-mana sahaja ia tersedia.
• Padam perbualan lama. Bersihkan sejarah sembang anda secara berkala untuk mengehadkan data yang disimpan.
• Elakkan AI awan untuk topik sulit. Simpan model on-premise untuk pertanyaan perubatan, nasihat undang-undang, atau sebarang perbincangan kritikal perniagaan.

Model tempatan mungkin tidak dapat menandingi keluasan GPT-4, tetapi ia mampu mengendalikan penulisan harian, bantuan pengekodan, dan tugasan penyelidikan. Kelebihan utamanya ialah prompt tidak pernah meninggalkan peranti anda, sekali gus menghapuskan risiko imbasan automatik.

Apa yang perlu diperhatikan seterusnya

Proses perundangan EU akan berkembang dalam bulan-bulan mendatang, dengan jawatankuasa menyemak skop “komunikasi antara peribadi.” Kumpulan industri sudah mula melobi untuk pengecualian atau definisi yang lebih jelas bagi mengecualikan perkhidmatan sembang AI. Perhatikan kenyataan daripada penyedia AI utama – mereka mungkin melancarkan kawalan privasi baharu atau malah mencabar peraturan tersebut di mahkamah.

Jika peraturan tersebut diluluskan seperti yang dirangka, pertimbangan privasi bagi pengguna AI akan berubah secara drastik. Sehingga itu, anggap setiap prompt seolah-olah pihak ketiga boleh membacanya dan gunakan penyelesaian berasaskan tempatan (local-first) di mana-mana sahaja yang boleh. Soalan anda adalah peribadi; melindunginya harus menjadi keutamaan, bukan sekadar perkara sampingan.