TikTok એ AI-સંચાલિત deepfake ડિટેક્ટરનું પરીક્ષણ કરવાનું શરૂ કર્યું છે જે યુએસ (U.S.) ક્રિએટર્સને પ્લેટફોર્મ પર તેમના ચહેરાના અનધિકૃત, AI-જનરેટેડ વર્ઝન શોધવાની મંજૂરી આપે છે. આ ઓપ્ટ-ઇન સેવા એવા કૃત્રિમ (synthetic) વીડિયો અને છબીઓને ફ્લેગ કરે છે જે ક્રિએટરના દેખાવનો દુરુપયોગ કરે છે.
આ પગલું શા માટે મહત્વનું છે
Generative AI હવે અત્યંત વાસ્તવિક (hyper-realistic) વીડિયો બનાવે છે જે કોઈપણ વ્યક્તિના ચહેરાને કોઈપણ શરીર પર લગાવી શકે છે.
આ ટૂલ કેવી રીતે કામ કરે છે
જે યુએસ ક્રિએટર્સે આ સેવા પસંદ કરી છે તેમના એક નાના જૂથને ડેશબોર્ડ મળે છે, જ્યાં TikTok ની સિસ્ટમ એવા કોઈપણ કન્ટેન્ટની યાદી આપે છે જેને AI તેમના વેરિફાઇડ ચહેરાના લક્ષણો સાથે મેળ ખાતા હોવાનું ફ્લેગ કરે છે. ક્રિએટર્સ આ પરિણામોની સમીક્ષા કરે છે અને જે પોસ્ટ્સ અથવા એકાઉન્ટ્સ તેમના ચહેરાનો દુરુપયોગ કરે છે તેની સામે રિપોર્ટ ફાઇલ કરે છે.
દુરુપયોગ રોકવા માટે, TikTok દરેક સહભાગીને Jumio (એક થર્ડ-પાર્ટી વેરિફિકેશન સર્વિસ) દ્વારા કડક ઓળખ ચકાસણી (identity check) પૂર્ણ કરવા માટે મજબૂર કરે છે. આ તપાસ માટે રીઅલ-ટાઇમ સેલ્ફી સ્કેન અને સરકારી ઓળખપત્ર (ID) જરૂરી છે. TikTok જણાવે છે કે તે અપલોડ કરેલા ID સ્ટોર કરતું નથી; તે ડિટેક્શન એન્જિનની અંદર દેખાવ મેળવવા (likeness matching) માટે જ ફેસિયલ ડેટાનો ઉપયોગ કરે છે.
વ્યાપક સ્પર્ધા
Deepfake સુરક્ષા સુવિધા લાવનાર TikTok પ્રથમ પ્લેટફોર્મ નથી. YouTube એ તાજેતરમાં તમામ પુખ્ત વપરાશકર્તાઓ માટે સમાન ડિટેક્શન ફીચર લોન્ચ કર્યું છે, જે ડિજિટલ ઓળખનું રક્ષણ કરવા માટે ઉદ્યોગના પ્રયાસો દર્શાવે છે. જેમ જેમ લાર્જ લેંગ્વેજ મોડલ્સ અને ડિફ્યુઝન મોડલ્સ સુધરી રહ્યા છે, તેમ કૃત્રિમ "ડિજિટલ હ્યુમન્સ" ફીડમાં એટલી ઝડપથી ફેલાઈ રહ્યા છે કે મેન્યુઅલ મોડરેટર્સ તેને સંભાળી શકતા નથી.
હવે આગળ શું
આ પાયલોટ પ્રોજેક્ટ યુનાઇટેડ સ્ટેટ્સ અને સ્વૈચ્છિક રીતે જોડાતા ક્રિએટર્સ પૂરતો મર્યાદિત છે.
મુખ્ય વાત: TikTok નું deepfake ડિટેક્શન પરીક્ષણ ક્રિએટરની ઓળખના સક્રિય રક્ષણ તરફ એક નિર્ણાયક પરિવર્તન સૂચવે છે; તેની અસર એ વાત પર નિર્ભર રહેશે કે તે કડક વેરિફિકેશન અને ક્રિએટર્સની અપેક્ષિત સરળતા વચ્ચે કેટલું સારું સંતુલન જાળવે છે.