TikTok ने एक AI-संचालित डीपफेक डिटेक्टर का परीक्षण शुरू कर दिया है जो अमेरिकी क्रिएटर्स को प्लेटफॉर्म पर अपने चेहरों के अनधिकृत, AI-जनरेटेड संस्करणों को स्कैन करने की सुविधा देता है। यह ऑप्ट-इन सेवा उन सिंथेटिक वीडियो और छवियों को फ्लैग करती है जो किसी क्रिएटर की शक्ल का गलत इस्तेमाल करती हैं।
यह कदम क्यों महत्वपूर्ण है
जनरेटिव AI अब ऐसे हाइपर-रियलिस्टिक वीडियो बना रहा है, जो किसी भी शरीर पर किसी का भी चेहरा लगा सकते हैं।
यह टूल कैसे काम करता है
ऑप्ट-इन करने वाले अमेरिकी क्रिएटर्स के एक छोटे समूह को एक डैशबोर्ड मिलता है, जहाँ TikTok का सिस्टम उस किसी भी कंटेंट को सूचीबद्ध करता है जिसे AI उनके सत्यापित चेहरे के फीचर्स से मेल खाता हुआ फ्लैग करता है। क्रिएटर्स इन परिणामों की समीक्षा करते हैं और उन पोस्ट या अकाउंट्स के खिलाफ रिपोर्ट दर्ज करते हैं जो उनकी छवि का दुरुपयोग करते हैं।
दुरुपयोग को रोकने के लिए, TikTok प्रत्येक प्रतिभागी के लिए Jumio (एक थर्ड-पार्टी वेरिफिकेशन सर्विस) के माध्यम से एक कठिन पहचान जांच (identity check) को पूरा करना अनिवार्य बनाता है। इस जांच के लिए रीयल-टाइम सेल्फी स्कैन और सरकारी पहचान पत्र (ID) की आवश्यकता होती है। TikTok का कहना है कि वह अपलोड किए गए ID को स्टोर नहीं करता है; वह चेहरे के डेटा का उपयोग केवल डिटेक्शन इंजन के भीतर समानता मिलान (likeness matching) के लिए करता है।
व्यापक प्रतिस्पर्धा
डीपफेक सुरक्षा उपाय पेश करने वाला TikTok पहला प्लेटफॉर्म नहीं है। YouTube ने हाल ही में सभी वयस्क उपयोगकर्ताओं के लिए एक समान डिटेक्शन फीचर लॉन्च किया है, जो डिजिटल पहचान की सुरक्षा के लिए उद्योग के बढ़ते प्रयासों को दर्शाता है। जैसे-जैसे लार्ज लैंग्वेज मॉडल और डिफ्यूजन मॉडल बेहतर हो रहे हैं, सिंथेटिक "डिजिटल इंसान" फीड में इतनी तेजी से भर रहे हैं कि मैनुअल मॉडरेटर्स उन्हें संभाल नहीं पा रहे हैं।
आगे क्या होगा
यह पायलट प्रोजेक्ट अभी केवल संयुक्त राज्य अमेरिका और स्वयंसेवक क्रिएटर्स तक ही सीमित है।
निष्कर्ष: TikTok का डीपफेक डिटेक्शन टेस्ट क्रिएटर की पहचान की सक्रिय सुरक्षा की दिशा में एक निर्णायक बदलाव है; इसका प्रभाव इस बात पर निर्भर करेगा कि यह सख्त सत्यापन और क्रिएटर्स की अपेक्षित सुगमता के बीच कितना बेहतर संतुलन बनाता है।