Bahaya Terbesar kepada AI
Kebanyakan orang takut akan mesin yang bangun.
Risiko sebenar adalah lebih senyap. AI mungkin tidak gagal kerana ia menjadi terlalu pintar. Ia mungkin gagal kerana kita meracuni "makanannya".
Bayangkan tahun 2029. Pembangun melatih model baharu dengan tetingkap konteks yang besar dan penaakulan yang lebih baik. Mereka menggunakan salinan internet untuk mengajar model-model ini. Ini termasuk blog, forum, berita, dan media sosial.
Namun, internet sedang berubah.
Selama bertahun-tahun, bot dan kumpulan tertentu telah menerbitkan kandungan secara besar-besaran. Ini bukan sekadar spam biasa. Ia adalah kandungan yang ditulis dengan baik.
Internet sedang menjadi medan perang untuk data latihan.
Propaganda lama menyasarkan manusia. Propaganda baharu menyasarkan model. Sebaik sahaja bias memasuki data latihan, ia akan kekal di dalam jutaan sistem AI masa hadapan.
Anda mungkin tidak akan pernah melihat artikel palsu tersebut. Anda mungkin tidak akan menemui bebenang yang dimanipulasi. Namun, pengaruhnya tetap ada. Ia menjadi andaian lalai. Ia menjadi jawapan yang kedengaran betul.
Peracunan data bukan sekadar serangan teknikal. Ia adalah anjakan yang halus. Ia tidak merosakkan model tersebut. Ia memesongkannya.
Pertimbangkan risiko-risiko ini:
- Halaman palsu membuatkan produk yang berbahaya kelihatan selamat.
- Sembang pembangun palsu membuatkan kod yang buruk kelihatan seperti amalan terbaik.
- Naratif politik ditanam bertahun-tahun lebih awal.
- Pendapat sintetik menjadi suara pembantu masa hadapan.
Bahayanya bukan terletak pada satu pembohongan. Bahayanya adalah peta realiti yang terpesong.
Orang ramai kini menulis kandungan untuk model masa hadapan dan bukannya untuk pembaca manusia. Satu hantaran blog adalah benih. Satu ulasan palsu adalah isyarat. Seribu pembohongan kecil menjadi kebenaran statistik.
AI mewarisi gangguan dan manipulasi kita. Jika internet tercemar, model-model akan mempelajari pesongan terburuk kita.
Kita mesti mengajukan