TikTok החלה לבחון מזהה deepfake מבוסס בינה מלאכותית (AI) המאפשר ליוצרים בארה"ב לסרוק את הפלטפורמה כדי למצוא גרסאות לא מורשות של פניהם שנוצרו על ידי AI. השירות, המבוסס על הצטרפות מרצון (opt-in), מסמן סרטונים ותמונות סינתטיים ש"חוטפים" את דמותו של היוצר.
למה המהלך הזה חשוב
בינה מלאכותית יוצרת (Generative AI) מפיקה כעת סרטונים היפר-ריאליסטיים שיכולים להלביש את פניו של כל אדם על כל גוף.
איך הכלי עובד
קבוצה קטנה של יוצרים בארה"ב שהצטרפו לשירות מקבלת לוח בקרה (dashboard) שבו מערכת TikTok מציגה כל תוכן שה-AI מסמן כמתאים למאפייני הפנים המאומתים שלהם. היוצרים בוחנים את ההתאמות ומגישים דיווחים נגד פוסטים או חשבונות שמשתמשים בתמונתם לרעה.
כדי למנוע שימוש לרעה, TikTok מחייבת כל משתתף לעבור תהליך אימות זהות קפדני דרך Jumio, שירות אימות צד שלישי. הבדיקה דורשת סריקת סלפי בזמן אמת ותעודה מזהה ממשלתית. TikTok מציינת כי היא אינה שומרת את התעודות שהועלו; היא משתמשת בנתוני הפנים אך ורק לצורך התאמת דמיון בתוך מנוע הזיהוי.
מרוץ החימוש הרחב יותר
TikTok אינה הפלטפורמה הראשונה שמשיקה מנגנון הגנה מפני deepfake. YouTube השיקה לאחרונה תכונת זיהוי דומה לכל המשתמשים הבוגרים, מה שמעיד על מגמה בתעשייה להגנה על זהויות דיגיטליות. ככל שמודלי שפה גדולים ומודלי דיפוזיה משתפרים, "בני אדם דיגיטליים" סינתטיים מציפים את הפיד מהר יותר ממה שמנהלי תוכן אנושיים יכולים לטפל בו.
מה הלאה
הפיילוט נותר מוגבל לארצות הברית וליוצרים המתנדבים להשתתף בו.
בשורה התחתונה: בדיקת זיהוי ה-deepfake של TikTok מסמנת מעבר מכריע להגנה פרואקטיבית על זהויות יוצרים; השפעתה תלויה בשאלה עד כמה היא תצליח לאזן בין אימות קפדני לבין נוחות השימוש שהיוצרים מצפים לה.