Margaret Atwood Memperingatkan: Mengapa AI Masih Terjebak dalam "Garbage In, Garbage Out"

Penulis ternama Margaret Atwood baru-baru ini membagikan kritik tajam terhadap model bahasa besar (large language models), menyoroti perjuangan berkelanjutan terkait akurasi dan integritas data. Pengalamannya menggarisbawahi kebenaran mendasar di era AI saat ini: bahkan model yang paling canggih sekalipun dibatasi oleh kualitas data pelatihannya.

Eksperimen Claude: Sebuah Pelajaran tentang Halusinasi

Berbicara di Festival Sastra dan Budaya Babell di Porto, Portugal, penulis The Handmaid’s Tale tersebut mengungkapkan pengalamannya saat menggunakan Claude dari Anthropic. Upaya Atwood untuk menggunakan chatbot tersebut guna mengambil informasi tentang serial detektif Inggris Father Brown menghasilkan kegagalan yang mengilustrasikan konsep "halusinasi" dengan sempurna.

Menurut Atwood, model tersebut memberikan informasi yang salah, yang secara efektif "berbohong" kepada pengguna. Ia mencatat bahwa LLM tersebut kemungkinan besar telah memindai dan mengambil sampel sejumlah besar ulasan televisi, tetapi karena kritik daring biasanya menghindari spoiler, model tersebut tersesat oleh pola-pola dalam set pelatihannya. Nuansa teknis ini menyoroti tantangan utama bagi pengembang: LLM adalah mesin probabilistik yang memprioritaskan pencocokan pola di atas verifikasi faktual, yang sering kali menyebabkan output yang tampak meyakinkan namun keliru.

Dilema Data: Garbage In, Garbage Out

Kritik Atwood berpusat pada prinsip komputasi yang tak lekang oleh waktu: "garbage in, garbage out" (sampah masuk, sampah keluar). Ia menunjukkan bahwa LLM dilatih menggunakan informasi hasil scraping, yang telah dipublikasikan sebelumnya, dan berpotensi kedaluwarsa. Ketika sebuah model diberi data yang tidak lengkap, bias, atau tidak konsisten secara logis, output yang dihasilkan pasti akan mencerminkan kekurangan tersebut.

Bagi lanskap AI yang lebih luas, hal ini menjadi pengingat bahwa memperbesar skala parameter model bukanlah pengganti bagi kualitas data. Saat pengembang mendorong penggunaan dataset yang lebih besar untuk meningkatkan kemampuan penalaran, "noise" (gangguan) di dalam dataset tersebut—seperti kurangnya spoiler alur cerita dalam ulasan yang disebutkan oleh Atwood—dapat menciptakan kesalahan sistematis yang bahkan arsitektur canggih seperti Claude pun tidak dapat diatasi dengan mudah.

Kekhawatiran Etis: Oportunisme vs. Kreativitas

Di luar keterbatasan teknis, Atwood membahas elemen manusia dalam adopsi AI. Ia melabeli mereka yang sangat bergantung pada AI sebagai "oportunis" yang mencari cara mudah untuk menghindari ketatnya proses kreasi atau penelitian yang sesungguhnya. Ia memperingatkan bahwa godaan untuk "curang" menggunakan konten buatan AI yang tidak terdeteksi merupakan kekhawatiran yang berkembang bagi industri yang mengandalkan kecerdasan dan nuansa manusia.

Bagi para pendiri (founder) dan profesional teknologi, perbedaan ini sangatlah vital. Meskipun AI dapat berfungsi sebagai alat produktivitas yang ampuh, pengamatan Atwood bahwa "bahkan orang yang menggunakannya untuk alasan bisnis pun harus memeriksanya kembali" menekankan bahwa pengawasan manusia tetap menjadi komponen yang sangat penting dalam alur kerja AI. Era AI yang sepenuhnya otonom dan bebas kesalahan masih merupakan prospek yang jauh, dan tanggung jawab atas kebenaran tetap berada di tangan pengguna.

Poin-Poin Penting

• Integritas Data adalah yang Utama: Prinsip "garbage in, garbage out" tetap menjadi hambatan terbesar bagi LLM, karena model dibatasi oleh kualitas dan kelengkapan data pelatihannya.
• Jebakan Halusinasi: Bahkan model canggih seperti Claude dari Anthropic dapat gagal dalam pengambilan fakta sederhana jika pola dasar dalam data pelatihannya menyesatkan.
• Pentingnya Pengawasan Manusia: AI harus dipandang sebagai alat yang memerlukan verifikasi terus-menerus, bukan sebagai pengganti keahlian dan pemikiran kritis manusia.