צ'אטבוטים מבוססי AI מזינים הכחשת שואה

אונסק"ו והאו"ם פרסמו אזהרה. בינה מלאכותית יוצרת (Generative AI) מסייעת לאנשים להפיץ הכחשת שואה והיסטוריה כוזבת.

גורמים זדוניים משתמשים ב-AI כדי ליצור כמויות גדולות של תוכן מזויף. הם משתמשים בה כדי ליצור עדויות ראייה מזויפות ותמונות היסטוריות משוכתבות.

כללי הבטיחות הנוכחיים נכשלים לעיתים קרובות. משתמשים מוצאים דרכים לעקוף מסננים באמצעות הנחיות (prompts) פשוטות. הם לא מבקשים הכחשה באופן ישיר. במקום זאת, הם מבקשים מה-AI לכתוב סיפורים בדיוניים המטילים ספק בעובדות היסטוריות.

הדו"ח מדגיש מספר סיכונים עיקריים:

  • מודלי AI חוזים מילים על בסיס נתוני אימון. אם נתונים אלו כוללים תיאוריות קונספירציה, ה-AI מייצר טענות שווא.
  • סקריפטים אוטומטיים מייצרים אלפי מאמרים מזויפים בבת אחת.
  • "הכחשה רכה" (Soft denial) משתמשת בשפה ניטרלית כדי למזער את היקף רצח העם. קשה למכונות לזהות זאת.
  • דיפ-פייק (Deepfakes) משתמשים בקולות וסרטונים משוכפלים כדי לגרום לשקרים להיראות אמיתיים.
  • מחוללי תמונות יוצרים תמונות פוטו-ריאליסטיות של אירועים שמעולם לא קרו.

קיימים גם פערים שפתיים. כללי בטיחות הם לרוב חזקים באנגלית אך חלשים בשפות כמו ערבית, צרפתית או גרמנית. זה מאפשר למידע כוזב להתפשט ברחבי העולם.

אונסק"ו רוצה שחברות טכנולוגיה ייקחו אחריות רבה יותר. הם מציעים שחברות יהיו אחראיות לתוצרים (outputs) שסותרים עובדות היסטוריות מוכחות.

חלק מהחברות משתמשות במערכות מיוחדות כדי לבדוק עובדות מול ארכיונים רשמיים. עם זאת, זה עדיין לא מהווה פרקטיקה סטנדרטית.

אנו זקוקים לאוריינות דיגיטלית טובה יותר. עליכם להבין כיצד מודלי AI עובדים וכיצד הם מעצבים את המידע.

Source: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e

Optional learning community: https://t.me/GyaanSetuAi