TikTok نے ایک AI پر مبنی ڈیپ فیک (deepfake) ڈیٹیکٹر کی آزمائش شروع کر دی ہے جو امریکی تخلیق کاروں کو پلیٹ فارم پر اپنے چہروں کے غیر مجاز، AI سے تیار کردہ ورژن تلاش کرنے کی اجازت دیتا ہے۔ یہ اختیاری سروس ان مصنوعی ویڈیوز اور تصاویر کو نشان زد کرتی ہے جو کسی تخلیق کار کی مشابہت کا غلط استعمال کرتی ہیں۔
یہ اقدام کیوں اہم ہے
جنریٹیو AI اب ایسی انتہائی حقیقت پسندانہ ویڈیوز تیار کر رہا ہے جو کسی بھی جسم پر کسی کا بھی چہرہ لگا سکتی ہیں۔
یہ ٹول کیسے کام کرتا ہے
امریکی تخلیق کاروں کا ایک چھوٹا گروپ جنہوں نے اس میں شرکت کا انتخاب کیا ہے، انہیں ایک ڈیش بورڈ فراہم کیا جاتا ہے جہاں TikTok کا سسٹم اس تمام مواد کی فہرست دیتا ہے جسے AI ان کے تصدیق شدہ چہرے کے خدوخال سے مماثل قرار دے کر نشان زد کرتا ہے۔ تخلیق کار ان نتائج کا جائزہ لیتے ہیں اور ان پوسٹس یا اکاؤنٹس کے خلاف رپورٹ درج کراتے ہیں جو ان کی تصویر کا غلط استعمال کرتے ہیں۔
غلط استعمال کو روکنے کے لیے، TikTok ہر شریک کو Jumio (ایک تھرڈ پارٹی تصدیقی سروس) کے ذریعے ایک سخت شناخت کی جانچ سے گزرنے پر مجبور کرتا ہے۔ اس جانچ کے لیے ریئل ٹائم سیلفی اسکین اور حکومت کی جاری کردہ شناختی دستاویز (ID) درکار ہوتی ہے۔ TikTok کا کہنا ہے کہ وہ اپ لوڈ کردہ شناختی دستاویزات کو محفوظ نہیں کرتا؛ یہ چہرے کے ڈیٹا کو صرف ڈیٹیکشن انجن کے اندر مشابہت کے ملاپ کے لیے استعمال کرتا ہے۔
وسیع تر ہتھیاروں کی دوڑ
TikTok پہلا پلیٹ فارم نہیں ہے جس نے ڈیپ فیک سے بچاؤ کا حفاظتی نظام متعارف کرایا ہو۔ YouTube نے حال ہی میں تمام بالغ صارفین کے لیے ایک ملتی جلتی ڈیٹیکشن فیچر لانچ کی ہے، جو ڈیجیٹل شناختوں کے تحفظ کے لیے صنعت کی کوششوں کو ظاہر کرتی ہے۔ جیسے جیسے لارج لینگویج ماڈلز اور ڈیفیوژن ماڈلز بہتر ہو رہے ہیں، مصنوعی "ڈیجیٹل انسان" فیڈ پر اتنی تیزی سے بھر رہے ہیں کہ مینوئل ماڈریٹر انہیں سنبھال نہیں پاتے۔
آگے کیا ہوگا
یہ پائلٹ پروجیکٹ فی الحال صرف ریاستہائے متحدہ (United States) اور رضاکار تخلیق کاروں تک محدود ہے۔
حاصلِ کلام: TikTok کا ڈیپ فیک ڈیٹیکشن ٹیسٹ تخلیق کاروں کی شناخت کے فعال تحفظ کی طرف ایک فیصلہ کن تبدیلی کی نشاندہی کرتا ہے؛ اس کا اثر اس بات پر منحصر ہوگا کہ یہ سخت تصدیق اور تخلیق کاروں کی توقع کردہ آسانی کے درمیان کتنا بہتر توازن برقرار رکھتا ہے۔