Bahaya Terbesar kepada AI

Kebanyakan orang takut akan mesin yang "terjaga".

Bahaya yang sebenar adalah lebih senyap.

AI mungkin tidak gagal kerana ia menjadi terlalu pintar. Ia mungkin gagal kerana kita meracuni data yang dipelajarinya.

Menjelang 2029, model-model akan menjadi lebih besar. Ia akan mempunyai penaakulan yang lebih baik dan lebih banyak ejen. Syarikat-syarikat akan lebih mempercayainya.

Model-model ini dilatih menggunakan internet. Ia membaca blog, forum, media sosial, dan kertas penyelidikan.

Namun, internet sedang berubah.

Bot, syarikat, dan kumpulan politik kini menerbitkan kandungan pada skala yang besar. Mereka bukan sekadar menghantar spam. Mereka menghantar kandungan yang ditulis dengan baik dan boleh dipercayai.

Internet sedang menjadi medan perang untuk set data latihan.

Propaganda tradisional menyasarkan manusia. Dalam dunia AI, sasarannya adalah model itu sendiri.

Jika satu pembohongan atau bias memasuki data latihan, ia akan menjadi sebahagian daripada AI tersebut. Ia tidak kekal sebagai sekadar petikan. Ia menjadi andaian lalai. Ia menjadi jawapan yang kedengaran betul.

Ini bukan sekadar serangan teknikal. Ia adalah satu peralihan yang halus.

Matlamatnya bukan untuk merosakkan model tersebut. Matlamatnya adalah untuk memesongkannya.

Pertimbangkan risiko-risiko ini:

  • Beribu-ribu halaman palsu membuatkan sesuatu produk kelihatan selamat.
  • Sembang pembangun palsu membuatkan kod yang tidak selamat kelihatan seperti amalan terbaik.
  • Cerita politik ditanam bertahun-tahun sebelum pilihan raya.
  • Pendapat sintetik menjadi suara pembantu masa hadapan.

Bahayanya bukan pada satu pembohongan. Bahayanya adalah peta realiti yang terpesong.

Internet dicipta untuk komunikasi dan perdagangan. Ia tidak dicipta untuk menjadi set data yang bersih.

Orang ramai kini menulis untuk model masa hadapan dan bukannya untuk pembaca manusia.

  • Satu hantaran blog menjadi benih.
  • Satu ulasan palsu menjadi isyarat latihan.
  • Satu artikel teknikal menjadi cadangan tingkah laku.

Seribu pembohongan kecil menjadi kebenaran statistik.

AI mewarisi dokumen kita, gangguan kita, dan manipulasi kita. Jika internet kekal tercemar, model-model akan belajar daripada pesongan kita.

Persoalannya bukan sekadar "Bagaimana kita menjadikan AI selamat?"

Persoalan sebenarnya ialah "Bagaimana kita mengekalkan keselamatan pengetahuan kita untuk dipelajari oleh AI?"

Model masa hadapan belajar daripada internet hari ini. Dan orang ramai sudah pun menulis untuk model-model tersebut.

Sumber: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km