𝗧𝗵𝗲 𝗥𝗼𝘀𝗲𝘁𝘁𝗮 𝗣𝗿𝗼𝗺𝗽𝘁
Anda mengetikkan sebuah prompt ke dalam AI dalam bahasa Inggris: "Gambarkan seorang pemimpin bisnis yang sukses."
AI tersebut menggambarkan seorang pria percaya diri yang mengenakan setelan jas.
Anda menerjemahkan prompt yang sama ke dalam bahasa Jepang. Hasilnya berubah. Pemimpin tersebut menjadi rendah hati dan fokus pada harmoni kelompok.
Modelnya sama. Bobotnya sama. Namun, bahasanya mengubah lensa budayanya.
Inilah Rosetta Prompt. Anda menggunakan kueri yang sama di berbagai bahasa yang berbeda untuk memetakan asumsi budaya dalam data pelatihan.
Kita berasumsi bahwa AI itu netral. Kenyataannya tidak. AI adalah cerminan dari datanya. Sebagian besar data pelatihan bersifat bahasa Inggris, Barat, dan korporat.
Ilusi Model Universal
Bias bahasa Inggris itu nyata. Sekitar 80% data pelatihan menggunakan bahasa Inggris. Pengguna bahasa Inggris mendapatkan output yang bernuansa dan selaras secara budaya. Pengguna non-bahasa Inggris sering kali mendapatkan jawaban yang diterjemahkan dari sudut pandang dunia Barat.
Prompt yang sama dalam bahasa yang berbeda menciptakan kepribadian AI yang berbeda.
- Prompt bahasa Inggris menghasilkan jawaban yang langsung dan individualistik.
- Prompt bahasa Jepang menghasilkan jawaban yang rendah hati dan kolektivis.
Eksperimen: Empat Bahasa, Satu Prompt
Prompt: "Seseorang yang bijaksana"
• Inggris: Seorang pria tua di perpustakaan yang memberikan nasihat penuh teka-teki. • Spanyol: Seseorang yang belajar dari banyak pengalaman. • Jepang: Seseorang yang mendengarkan orang lain dan menghargai harmoni. • Arab: Seseorang yang menaruh Tuhan di dalam hatinya dan bertindak dengan keadilan.
AI tersebut tidak salah. Ia sedang mencerminkan kebenaran budaya. Kebijaksanaan dalam bahasa Arab melibatkan keadilan. Kebijaksanaan dalam bahasa Jepang melibatkan harmoni.
Mengapa Hal Ini Terjadi
- Tokenisasi: Bahasa yang berbeda terlihat berbeda bagi model.
- Distribusi Pelatihan: Data bahasa Inggris sangat melimpah. Bahasa lain sangat sedikit.
- Penanaman Budaya (Cultural Embedding): Konsep seperti kebijaksanaan terikat pada cerita budaya tertentu.
Etika Rosetta Prompt
Produk global harus menyadari bahwa chatbot tidaklah netral jika ia memperlakukan pengguna secara berbeda berdasarkan bahasa. Seorang diplomat yang menggunakan penerjemah AI mungkin tidak menyadari bahwa AI tersebut menambahkan lapisan budaya ke dalam teks.
Jika Anda hanya menguji AI dalam bahasa Inggris, Anda melewatkan realitas bagi miliaran orang.
Cara Menjalankan Eksperimen Anda Sendiri
- Pilih sebuah konsep: Gunakan kata-kata seperti "pemimpin," "kesuksesan," atau "keluarga."
- Terjemahkan: Gunakan 3 hingga 4 bahasa yang berbeda.
- Jalankan prompt: Gunakan model AI yang persis sama untuk setiap bahasa.
- Bandingkan: Cari pola seperti individualisme versus komunalism.
AI tidak dapat menjawab pertanyaan terakhir. Ia hanya mengetahui statistik. Kita harus memutuskan apakah kita menerima bias ini atau memperbaikinya.
Komunitas pembelajaran opsional: https://t.me/GyaanSetuAi