TikTok ने AI-आधारित डीपफेक डिटेक्टरचे परीक्षण सुरू केले आहे, ज्यामुळे अमेरिकेतील क्रिएटर्सना प्लॅटफॉर्मवर त्यांच्या चेहऱ्याच्या अनधिकृत, AI-द्वारे तयार केलेल्या आवृत्त्या शोधता येतील. ही 'ऑप्ट-इन' सेवा अशा कृत्रिम (synthetic) व्हिडिओ आणि प्रतिमांना फ्लॅग करते ज्यामध्ये क्रिएटरच्या प्रतिमेचा गैरवापर केला जातो.
ही पावले का महत्त्वाची आहेत
जनरेटिव्ह AI आता अत्यंत वास्तववादी (hyper-realistic) व्हिडिओ तयार करते, ज्यामध्ये कोणाचाही चेहरा कोणत्याही शरीरावर लावता येतो.
हे टूल कसे काम करते
ज्या अमेरिकन क्रिएटर्सनी यासाठी संमती दिली आहे, त्यांच्या एका लहान गटाला डॅशबोर्ड उपलब्ध करून दिला जातो, जिथे TikTok ची प्रणाली अशा सर्व सामग्रीची यादी देते, ज्याला AI ने क्रिएटरच्या पडताळणी केलेल्या चेहऱ्याच्या वैशिष्ट्यांशी जुळणारे म्हणून फ्लॅग केले आहे. क्रिएटर्स या माहितीची पडताळणी करतात आणि त्यांच्या प्रतिमेचा गैरवापर करणाऱ्या पोस्ट किंवा अकाऊंट्सविरुद्ध तक्रार दाखल करतात.
गैरवापर रोखण्यासाठी, TikTok प्रत्येक सहभागीला Jumio या तृतीय-पक्ष (third-party) पडताळणी सेवेद्वारे कडक ओळख पडताळणी प्रक्रिया पूर्ण करण्यास भाग पाडते. या प्रक्रियेसाठी रिअल-टाइम सेल्फी स्कॅन आणि सरकारी ओळखपत्राची आवश्यकता असते. TikTok ने म्हटले आहे की ते अपलोड केलेली ओळखपत्रे साठवून ठेवत नाहीत; ते केवळ डिटेक्शन इंजिनमध्ये प्रतिमेच्या जुळणीसाठी चेहऱ्याच्या डेटाचा वापर करतात.
व्यापक शस्त्रास्त्र स्पर्धा
डीपफेक संरक्षणाची सुविधा आणणारे TikTok हे पहिले प्लॅटफॉर्म नाही. YouTube ने अलीकडेच सर्व प्रौढ वापरकर्त्यांसाठी अशीच एक डिटेक्शन सुविधा लाँच केली आहे, जे डिजिटल ओळख सुरक्षित करण्याच्या उद्योगातील प्रयत्नांचे दर्शन घडवते. जसे लार्ज लँग्वेज मॉडेल्स आणि डिफ्यूजन मॉडेल्समध्ये सुधारणा होत आहे, तसे कृत्रिम "डिजिटल मानव" मॅन्युअल मॉडरेटर्सच्या हाताबाहेर वेगाने फीडमध्ये येत आहेत.
पुढे काय?
हे प्रायोगिक तत्त्व सध्या केवळ युनायटेड स्टेट्स आणि स्वेच्छेने सहभागी झालेल्या क्रिएटर्सपुरते मर्यादित आहे.
निष्कर्ष: TikTok चे डीपफेक डिटेक्शन परीक्षण हे क्रिएटरच्या ओळखीच्या सक्रिय संरक्षणाकडे जाणारे एक निर्णायक पाऊल आहे; याचा प्रभाव कडक पडताळणी आणि क्रिएटर्सना अपेक्षित असलेली सुलभता यामध्ये किती चांगल्या प्रकारे संतुलन राखले जाते यावर अवलंबून असेल.