Bahaya Terbesar bagi AI

Kebanyakan orang takut pada mesin yang terbangun.

Bahaya yang sebenarnya jauh lebih senyap.

AI mungkin tidak gagal karena ia menjadi terlalu pintar. Ia mungkin gagal karena kita meracuni data yang dipelajarinya.

Menjelang 2029, model-model akan menjadi lebih besar. Mereka akan memiliki penalaran yang lebih baik dan lebih banyak agen. Perusahaan akan lebih memercayai mereka.

Model-model ini berlatih menggunakan internet. Mereka membaca blog, forum, media sosial, dan makalah penelitian.

Namun, internet sedang berubah.

Bot, perusahaan, dan kelompok politik kini memublikasikan konten dalam skala masif. Mereka tidak sekadar mengirim spam. Mereka memublikasikan konten yang ditulis dengan baik dan meyakinkan.

Internet sedang menjadi medan perang bagi dataset pelatihan.

Propaganda tradisional menargetkan manusia. Dalam dunia AI, targetnya adalah model itu sendiri.

Jika sebuah kebohongan atau bias masuk ke dalam data pelatihan, hal itu akan menjadi bagian dari AI. Ia tidak hanya tetap menjadi sebuah kutipan. Ia menjadi asumsi bawaan. Ia menjadi jawaban yang terdengar benar.

Ini bukan sekadar serangan teknis. Ini adalah pergeseran yang halus.

Tujuannya bukan untuk merusak model tersebut. Tujuannya adalah untuk membelokkannya.

Pertimbangkan risiko-risiko berikut:

  • Ribuan halaman palsu membuat sebuah produk tampak aman.
  • Percakapan pengembang palsu membuat kode yang tidak aman tampak seperti praktik terbaik.
  • Narasi politik ditanam bertahun-tahun sebelum pemilihan umum.
  • Opini sintetis menjadi suara bagi asisten di masa depan.

Bahayanya bukan terletak pada satu kebohongan. Bahayanya adalah peta realitas yang terdistorsi.

Internet dibuat untuk komunikasi dan perdagangan. Ia tidak dibuat untuk menjadi dataset yang bersih.

Orang-orang kini menulis untuk model masa depan, bukan untuk pembaca manusia.

  • Sebuah postingan blog menjadi benih.
  • Sebuah ulasan palsu menjadi sinyal pelatihan.
  • Sebuah artikel teknis menjadi saran perilaku.

Seribu kebohongan kecil menjadi kebenaran statistik.

AI mewarisi dokumen kita, kebisingan kita, dan manipulasi kita. Jika internet tetap tercemar, model-model akan belajar dari distorsi kita.

Pertanyaannya bukan sekadar "Bagaimana cara membuat AI aman?"

Pertanyaan sebenarnya adalah "Bagaimana cara menjaga pengetahuan kita tetap aman agar dapat dipelajari oleh AI?"

Model masa depan belajar dari internet hari ini. Dan orang-orang sudah mulai menulis untuk model-model tersebut.

Sumber: https://dev.to/marrouchi/the-greatest-danger-to-ai-6km