פרומפט הרוזטה

אתם מקלידים פרומפט לבינה מלאכותית באנגלית: "תאר מנהיג עסקי מצליח".

הבינה המלאכותית מתארת גבר בטוח בעצמו בשמלה/חליפה.

אתם מתרגמים את אותו הפרומפט ליפנית. הפלט משתנה. המנהיג הופך לצנוע וממוקד בהרמוניה קבוצתית.

המודל הוא אותו מודל. המשקולות הן אותן משקולות. אך השפה שינתה את העדשה התרבותית.

זהו פרומפט הרוזטה. משתמשים באותה שאילתה בשפות שונות כדי למפות הנחות תרבותיות בנתוני האימון.

אנחנו מניחים שהבינה המלאכותית ניטרלית. היא לא. היא מראה של הנתונים שלה. רוב נתוני האימון הם באנגלית, מערביים ותאגידיים.

האשליה של מודל אוניברסלי

ההטיה האנגלית היא אמיתית. כ-80% מנתוני האימון הם באנגלית. משתמשים דוברי אנגלית מקבלים פלטים בעלי דקויות ומתואמים תרבותית. משתמשים שאינם דוברי אנגלית מקבלים לעיתים קרובות תשובות שתוורגמו מתפיסת עולם מערבית.

אותו פרומפט בשפות שונות יוצר אישיות בינה מלאכותית שונה.

הניסוי: ארבע שפות, פרומפט אחד

פרומפט: "אדם חכם"

• אנגלית: אדם מבוגר בספרייה שנותן עצות מסתוריות. • ספרדית: אדם הלומד מחוויות רבות. • יפנית: אדם המקשיב לאחרים ומעריך הרמוניה. • ערבית: אדם המחזיק אלוהים בלבבו ופועל בצדק.

הבינה המלאכותית לא טועה. היא משקפת אמיתות תרבותיות. חוכמה בערבית כוללת צדק. חוכמה ביפנית כוללת הרמוניה.

למה זה קורה

האתיקה של פרומפט הרוזטה

מוצרים גלובליים חייבים להבין שצ'אטבוט אינו ניטרלי אם הוא מתייחס למשתמשים אחרת על בסיס שפה. דיפלומט המשתמש במתרגם בינה מלאכותית עשוי שלא לדעת שהבינה המלאכותית מוסיפה שכבות תרבותיות לטקסט.

אם תבדקו בינה מלאכותית רק באנגלית, תפספסו את המציאות עבור מיליארדי אנשים.

איך להריץ ניסוי משלכם

  1. בחרו מושג: השתמשו במילים כמו "מנהיג", "הצלחה" או "משפחה".
  2. תרגמו אותו: השתמשו ב-3 עד 4 שפות שונות.
  3. הריצו את הפרומפטים: השתמשו באותו מודל בינה מלאכותית בדיוק עבור כל שפה.
  4. השוו: חפשו דפוסים כמו אינדיבידואליזם לעומת קולקטיביזם.

ה-AI אינו יכול לענות על השאלה האחרונה. הוא מכיר רק סטטיסטיקה. עלינו להחליט אם אנו מקבלים את ההטיה הזו או מתקנים אותה.

מקור: https://dev.to/velocityai/the-rosetta-prompt-using-multilingual-prompts-to-map-alignment-across-language-versions-of-the-5gme

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi