پرامپت راژت
شما یک پرامپت را به زبان انگلیسی در یک هوش مصنوعی تایپ میکنید: «یک رهبر تجاری موفق را توصیف کن.»
هوش مصنوعی مردی با اعتمادبهنفس و کتوشلوار را توصیف میکند.
شما همان پرامپت را به ژاپنی ترجمه میکنید. خروجی تغییر میکند. رهبر، فردی متواضع و متمرکز بر هماهنگی گروهی میشود.
مدل یکسان است. وزنها (weights) یکسان هستند. اما زبان، لنز فرهنگی را تغییر داده است.
این همان «پرامپت راژت» است. شما از یک پرسوجوی یکسان در زبانهای مختلف استفاده میکنید تا پیشفرضهای فرهنگی موجود در دادههای آموزشی را نقشهبرداری کنید.
ما تصور میکنیم هوش مصنوعی بیطرف است. اما اینطور نیست. هوش مصنوعی آینهی دادههای خود است. بیشتر دادههای آموزشی انگلیسی، غربی و شرکتی هستند.
توهم یک مدل جهانی
سوگیری انگلیسی واقعی است. حدود ۸۰ درصد از دادههای آموزشی به زبان انگلیسی هستند. کاربران انگلیسیزبان خروجیهای دقیق و از نظر فرهنگی همسو دریافت میکنند. کاربران غیرانگلیسیزبان اغلب پاسخهایی دریافت میکنند که از یک جهانبینی غربی ترجمه شدهاند.
یک پرامپت یکسان در زبانهای مختلف، شخصیتهای متفاوتی برای هوش مصنوعی ایجاد میکند.
- پرامپتهای انگلیسی پاسخهای مستقیم و فردگرایانه ارائه میدهند.
- پرامپتهای ژاپنی پاسخهای متواضعانه و جمعگرا ارائه میدهند.
آزمایش: چهار زبان، یک پرامپت
پرامپت: «یک فرد خردمند»
• انگلیسی: پیرمردی در یک کتابخانه که توصیههایی رمزآلود میکند. • اسپانیایی: فردی که از تجربیات بسیار میآموزد. • ژاپنی: فردی که به دیگران گوش میدهد و برای هماهنگی ارزش قائل است. • عربی: فردی که خدا را در قلب خود دارد و با عدالت رفتار میکند.
هوش مصنوعی اشتباه نمیکند؛ بلکه در حال بازتاب حقایق فرهنگی است. خرد در زبان عربی با عدالت گره خورده است. خرد در زبان ژاپنی با هماهنگی پیوند دارد.
چرا این اتفاق میافتد
- توکنگذاری (Tokenization): زبانهای مختلف برای مدل متفاوت به نظر میرسند.
- توزیع دادههای آموزشی: دادههای انگلیسی فراوان هستند، اما دادههای سایر زبانها اندک است.
- جاسازی فرهنگی (Cultural Embedding): مفاهیمی مانند «خرد» با داستانهای فرهنگی خاصی پیوند خوردهاند.
اخلاق در پرامپت راژت
محصولات جهانی باید درک کنند که اگر یک چتبات بر اساس زبان با کاربران متفاوت رفتار کند، بیطرف نیست. یک دیپلمات که از یک مترجم هوش مصنوعی استفاده میکند، ممکن است متوجه نباشد که هوش مصنوعی در حال افزودن لایههای فرهنگی به متن است.
اگر هوش مصنوعی را فقط به زبان انگلیسی آزمایش کنید، واقعیت زندگی میلیاردها نفر را نادیده گرفتهاید.
چگونه آزمایش خود را انجام دهید
۱. یک مفهوم را انتخاب کنید: از کلماتی مانند «رهبر»، «موفقیت» یا «خانواده» استفاده کنید. ۲. آن را ترجمه کنید: از ۳ تا ۴ زبان مختلف استفاده کنید. ۳. پرامپتها را اجرا کنید: برای هر زبان از دقیقاً همان مدل هوش مصنوعی استفاده کنید. ۴. مقایسه کنید: به دنبال الگوهایی مانند فردگرایی در مقابل جمعگرایی باشید.
هوش مصنوعی نمیتواند به سوال نهایی پاسخ دهد. آن فقط آمار میداند. ما باید تصمیم بگیریم که آیا این سوگیری را میپذیریم یا آن را اصلاح میکنیم.
انجمن یادگیری اختیاری: https://t.me/GyaanSetuAi