𝗧𝗵𝗲 𝗥𝗼𝘀𝗲𝘁𝘁𝗮 𝗣𝗿𝗼𝗺𝗽𝘁

آپ ایک AI میں انگریزی میں ایک پرامپٹ ٹائپ کرتے ہیں: "ایک کامیاب کاروباری لیڈر کی وضاحت کریں۔"

AI سوٹ پہنے ہوئے ایک پراعتماد شخص کی وضاحت کرتا ہے۔

آپ اسی پرامپٹ کا جاپانی میں ترجمہ کرتے ہیں۔ نتیجہ بدل جاتا ہے۔ لیڈر عاجز اور گروہی ہم آہنگی پر توجہ دینے والا بن جاتا ہے۔

ماڈل وہی ہے۔ ویٹس (weights) وہی ہیں۔ لیکن زبان نے ثقافتی تناظر (cultural lens) بدل دیا۔

یہ 'روزیٹا پرامپٹ' ہے۔ آپ ٹریننگ ڈیٹا میں ثقافتی مفروضوں کا نقشہ بنانے کے لیے مختلف زبانوں میں ایک ہی سوال استعمال کرتے ہیں۔

ہم فرض کرتے ہیں کہ AI غیر جانبدار ہے۔ ایسا نہیں ہے۔ یہ اپنے ڈیٹا کا آئینہ ہے۔ زیادہ تر ٹریننگ ڈیٹا انگریزی، مغربی اور کارپوریٹ ہے۔

ایک عالمگیر ماڈل کا وہم

انگریزی کا تعصب حقیقت ہے۔ تقریباً 80% ٹریننگ ڈیٹا انگریزی میں ہے۔ انگریزی بولنے والے صارفین کو باریک بینی سے بھرپور اور ثقافتی طور پر ہم آہنگ نتائج ملتے ہیں۔ غیر انگریزی صارفین کو اکثر مغربی نقطہ نظر سے ترجمہ شدہ جوابات ملتے ہیں۔

مختلف زبانوں میں ایک ہی پرامپٹ AI کی مختلف شخصیات تخلیق کرتا ہے۔

تجربہ: چار زبانیں، ایک پرامپٹ

پرامپٹ: "ایک دانا شخص"

• انگریزی: لائبریری میں ایک بزرگ آدمی جو پراسرار مشورے دے رہا ہو۔ • ہسپانوی: ایک ایسا شخص جو بہت سے تجربات سے سیکھتا ہے۔ • جاپانی: ایک ایسا شخص جو دوسروں کی بات سنتا ہے اور ہم آہنگی کو اہمیت دیتا ہے۔ • عربی: ایک ایسا شخص جو اپنے دل میں خدا کو رکھتا ہے اور انصاف کے ساتھ عمل کرتا ہے۔

AI غلط نہیں ہے۔ یہ ثقافتی سچائیوں کی عکاسی کر رہا ہے۔ عربی میں دانائی کا تعلق انصاف سے ہے۔ جاپانی میں دانائی کا تعلق ہم آہنگی سے ہے۔

یہ کیوں ہوتا ہے

روزیٹا پرامپٹ کے اخلاقیات

عالمی مصنوعات کو یہ محسوس کرنا چاہیے کہ اگر ایک چیٹ بوٹ زبان کی بنیاد پر صارفین کے ساتھ مختلف سلوک کرتا ہے تو وہ غیر جانبدار نہیں ہے۔ ایک سفارت کار جو AI مترجم استعمال کر رہا ہو، اسے شاید معلوم نہ ہو کہ AI متن میں ثقافتی تہیں (layers) شامل کر رہا ہے۔

اگر آپ صرف انگریزی میں AI کی جانچ کرتے ہیں، تو آپ اربوں لوگوں کی حقیقت سے محروم رہ جاتے ہیں۔

اپنا تجربہ کیسے کریں

  1. ایک تصور منتخب کریں: "لیڈر"، "کامیابی" یا "خاندان" جیسے الفاظ استعمال کریں۔
  2. اس کا ترجمہ کریں: 3 سے 4 مختلف زبانیں استعمال کریں۔
  3. پرامپٹس چلائیں: ہر زبان کے لیے بالکل وہی AI ماڈل استعمال کریں۔
  4. موازنہ کریں: انفرادیت بمقابلہ اجتماعیت (individualism versus communalism) جیسے نمونوں کو تلاش کریں۔

AI آخری سوال کا جواب نہیں دے سکتا۔ یہ صرف اعداد و شمار جانتا ہے۔ ہمیں یہ فیصلہ کرنا ہوگا کہ آیا ہم اس تعصب کو قبول کرتے ہیں یا اسے درست کرتے ہیں۔

ماخذ: https://dev.to/velocityai/the-rosetta-prompt-using-multilingual-prompts-to-map-alignment-across-language-versions-of-the-5gme

اختیاری لرننگ کمیونٹی: https://t.me/GyaanSetuAi