تیکتاک آزمایش یک ابزار تشخیص دیپفیک (deepfake) مبتنی بر هوش مصنوعی را آغاز کرده است که به تولیدکنندگان محتوا در ایالات متحده اجازه میدهد پلتفرم را برای یافتن نسخههای غیرمجاز و ساختهشده توسط هوش مصنوعی از چهره خود جستجو کنند. این سرویس اختیاری، ویدیوها و تصاویر مصنوعی را که شباهت ظاهری یک تولیدکننده محتوا را جعل میکنند، علامتگذاری میکند.
چرا این اقدام اهمیت دارد
هوش مصنوعی مولد اکنون ویدیوهای فوقواقعگرایانهای تولید میکند که میتواند چهره هر کسی را روی بدن هر فرد دیگری قرار دهد.
ابزار چگونه کار میکند
گروه کوچکی از تولیدکنندگان محتوای آمریکایی که این سرویس را انتخاب کردهاند، به یک داشبورد دسترسی پیدا میکنند که در آن سیستم TikTok هر محتوایی را که هوش مصنوعی به دلیل مطابقت با ویژگیهای چهره تأییدشده آنها علامتگذاری کرده باشد، فهرست میکند. تولیدکنندگان محتوا موارد شناساییشده را بررسی کرده و علیه پستها یا حسابهایی که از تصویر آنها سوءاستفاده میکنند، گزارش ثبت میکنند.
برای جلوگیری از سوءاستفاده، TikTok هر شرکتکننده را ملزم میکند تا یک فرآیند احراز هویت دشوار را از طریق Jumio، یک سرویس تأیید هویت شخص ثالث، پشت سر بگذارد. این بررسی مستلزم اسکن سلفی در لحظه و ارائه کارت شناسایی دولتی است. TikTok میگوید مدارک شناسایی آپلود شده را ذخیره نمیکند؛ بلکه از دادههای چهره تنها برای تطبیق شباهت در موتور تشخیص استفاده میکند.
رقابت تسلیحاتی گستردهتر
TikTok اولین پلتفرمی نیست که یک محافظ در برابر دیپفیک ارائه میدهد. YouTube اخیراً ویژگی تشخیص مشابهی را برای تمام کاربران بزرگسال راهاندازی کرده است که نشاندهنده تلاش این صنعت برای محافظت از هویتهای دیجیتال است. با بهبود مدلهای زبانی بزرگ (large language models) و مدلهای انتشار (diffusion models)، «انسانهای دیجیتال» مصنوعی سریعتر از آنچه ناظران انسانی بتوانند مدیریت کنند، در فید محتوا سرازیر میشوند.
گام بعدی چیست
این طرح آزمایشی همچنان محدود به ایالات متحده و تولیدکنندگان محتوایی است که داوطلبانه شرکت میکنند.
نکته کلیدی: آزمایش تشخیص دیپفیک TikTok نشاندهنده تغییری تعیینکننده به سمت محافظت پیشدستانه از هویت تولیدکنندگان محتوا است؛ تأثیر آن به میزان موفقیت در ایجاد تعادل میان احراز هویت سختگیرانه و سهولتی که تولیدکنندگان انتظار دارند، بستگی خواهد داشت.