הנתונים הפנימיים של Amazon מראים כי הונאות מבוססות AI נמצאות בזינוק בקרב משתמשי האינטרנט החדשים ביותר בהודו, כאשר מקרי הונאה מטפסים בחדות ככל שיותר אנשים נכנסים לרשת. הגאות הזו מאיימת על צרכנים שרק לומדים לנווט בשירותים דיגיטליים ועלולה לפגוע באמון בפלטפורמות e-commerce.

למה הגל הזה חשוב עכשיו

הודו הוסיפה מיליוני משתמשי אינטרנט בפעם הראשונה בשנה שעברה, הודות לסמארטפונים זולים ופס רחב מתרחב. למשתמשים אלו חסרה המיומנות הדיגיטלית המסייעת בזיהוי הודעות phishing או הודעות מזויפות (spoofed), מה שהופך אותם למטרות עיקריות עבור נוכלים המשתמשים כעת בכלי generative-AI. כאשר הונאה מצליחה, הקורבנות מאבדים כסף, נתונים אישיים, או את שניהם, וההשלכות מגיעות גם לפלטפורמות המארחות את העסקאות.

כיצד הופכים את ה-AI לכלי נשק

  • תוכן סינתטי – מודלים של יצירת טקסט מאפשרים לנוכלים לייצר בכמויות גדולות אימיילים, הודעות צ'אט או פרסומות משכנעים.
  • Deepfakes – AI מחבר פנים וקולות לסרטוני וידאו או קטעי אודיו, מה שמאפשר לנוכלים להתחזות לנציגי בנק או לבני משפחה.
  • פיתיון רישום (Onboarding bait) – נוכלים מטמיעים קישורי אימות מזויפים בהודעות ברוך הבא, בתקווה שמשתמשים חדשים ילחצו עליהם לפני שהם לומדים את היסודות.

AI זול וקל לשימוש פוגש אוכלוסייה שעדיין לומדת את יסודות הבטיחות המקוונת, מה שיוצר "סערה מושלמת".

מי עומד להפסיד

  • צרכנים – רוב הקורבנות הם אנשים שזה עתה נרשמו לארנקים דיגיטליים, אפליקציות קניות או בנקאות מקוונת. הונאה אחת מוצלחת יכולה למחוק חסכונות של שבועות.
  • פלטפורמות – Amazon ואתרי e-commerce אחרים מתמודדים עם שיעורי charge-back גבוהים יותר ונזק לאמון במותג אם ההונאות לא ירוסנו.
  • רגולטורים – הונאות מתמשכות עלולות לאלץ פיקוח הדוק יותר על תוכן שנוצר על ידי AI, מה שיוסיף עלויות compliance לחברות טכנולוגיה.

מה Amazon עושה

צוותי האבטחה של Amazon מוסיפים שלבי אימות נוספים במהלך יצירת חשבון ומסמנים מדיה שנוצרה על ידי AI התואמת לדפוסי הונאה ידועים. החברה גם משתפת פעולה עם ארגונים לא-ממשלתיים (NGOs) מקומיים כדי להפעיל סדנאות לאוריינות דיגיטלית המיועדות למשתמשים בפעם הראשונה.

נקודת מבט נגדית

חלק מהאנליסטים טוענים כי ההייפ סביב הונאות AI מנפח את הסיכון בפועל, ומציינים כי הונאות מסורתיות עדיין מהוות את רוב ההפסדים. הם מצביעים על כלי זיהוי בשלבים מוקדמים שכבר תופסים התקפות רבות שנוצרו על ידי AI לפני שהן מגיעות לצרכנים.

מה כדאי לעקוב אחריו

  • צעדים רגולטוריים – הנחיות הודיות חדשות בנושא מדיה סינתטית עשויות לעצב מחדש את האופן שבו פלטפורמות מאמתות תוכן.
  • שדרוגי טכנולוגיה – התקדמות בזיהוי deepfake עשויה להחזיר את מאזן הכוחות לטובת הצרכנים.
  • חינוך משתמשים – האפקטיביות של קמפיינים לאוריינות דיגיטלית תהיה מדד מרכזי בלימת המגמה.

אם הונאות מבוססות AI ימשיכו לעקוף את המודעות, האנשים שאמורים להפיק תועלת מהפריחה הדיגיטלית של הודו עלולים להפוך לחשדנים כלפי האינטרנט כולו. החודשים הקרובים יחשפו האם הגנות הדוקות יותר או משתמשים חכמים יותר יוכלו להשיב את האמון.

מקור: Times of India