TikTok தனது அமெரிக்கப் படைப்பாளர்களுக்காக, தங்களின் முகத்தைப் பயன்படுத்தும் அனுமதியற்ற, AI-ஆல் உருவாக்கப்பட்ட பதிவுகளைத் தேட உதவும் ஒரு AI-இயங்கும் டீப்ஃபேக் (deepfake) கண்டறியும் கருவியைப் பரிசோதிக்கத் தொடங்கியுள்ளது. இந்தத் தன்னார்வத் சேவை (opt-in service), ஒரு படைப்பாளியின் உருவத்தைப் பயன்படுத்தும் செயற்கையான வீடியோக்கள் மற்றும் படங்களைக் கண்டறிந்து எச்சரிக்கிறது.

இந்த நடவடிக்கை ஏன் முக்கியமானது

ஜெனரேட்டிவ் AI (Generative AI) இப்போது யதார்த்தமான வீடியோக்களை உருவாக்குகிறது, இதன் மூலம் யாருடைய முகத்தையும் எந்த உடலிலும் பொருத்த முடியும்.

இந்தக் கருவி எவ்வாறு செயல்படுகிறது

இதில் பங்கேற்ற அமெரிக்கப் படைப்பாளர்களில் ஒரு சிறிய குழுவிற்கு ஒரு டேஷ்போர்டு (dashboard) வழங்கப்படும். அதில், படைப்பாளியின் சரிபார்க்கப்பட்ட முக அம்சங்களுடன் ஒத்துப்போவதாக AI கண்டறியும் அனைத்து உள்ளடக்கங்களையும் TikTok அமைப்பு பட்டியலிடும். படைப்பாளர்கள் அந்தப் பதிவுகளை ஆய்வு செய்து, தங்கள் உருவத்தைத் தவறாகப் பயன்படுத்தும் பதிவுகள் அல்லது கணக்குகளுக்கு எதிராகப் புகாரளிக்கலாம்.

தவறாகப் பயன்படுத்துவதைத் தடுக்க, Jumio என்ற மூன்றாம் தரப்பு சரிபார்ப்புச் சேவையின் மூலம் ஒவ்வொரு பங்கேற்பாளரும் கடுமையான அடையாளச் சரிபார்ப்பைச் செய்ய TikTok கட்டாயப்படுத்துகிறது. இந்தச் சரிபார்ப்பிற்கு நிகழ்நேர செல்ஃபி ஸ்கேன் (real-time selfie scan) மற்றும் அரசாங்கத்தால் வழங்கப்பட்ட அடையாள அட்டை தேவைப்படுகிறது. பதிவேற்றப்பட்ட அடையாள அட்டைகளைத் தான் சேமித்து வைக்கவில்லை என்றும், முகத் தரவை கண்டறியும் இயந்திரத்திற்குள் (detection engine) உருவ ஒற்றுமையைச் சரிபார்க்க மட்டுமே பயன்படுத்துவதாகவும் TikTok கூறுகிறது.

விரிவான தொழில்நுட்பப் போட்டி

டீப்ஃபேக் பாதுகாப்பை அறிமுகப்படுத்தும் முதல் தளம் TikTok அல்ல. டிஜிட்டல் அடையாளங்களைப் பாதுகாப்பதற்கானத் தொழில்முறை முயற்சியைக் காட்டும் வகையில், YouTube சமீபத்தில் அனைத்துப் பெரியவர்களுக்கும் இதே போன்ற ஒரு கண்டறியும் அம்சத்தைத் தொடங்கியுள்ளது. லார்ஜ் லாங்குவேஜ் மாடல்கள் (large language models) மற்றும் டிஃப்யூஷன் மாடல்கள் (diffusion models) மேம்படுத்தப்படுவதால், செயற்கையான "டிஜிட்டல் மனிதர்கள்" (digital humans) மனிதக் கண்காணிப்பாளர்களால் கையாள முடிவதை விட வேகமாகத் தளங்களில் பரவி வருகின்றன.

அடுத்து என்ன நடக்கும்

இந்த முன்னோடித் திட்டம் (pilot) அமெரிக்காவிற்கும், தன்னார்வத்துடன் பங்கேற்கும் படைப்பாளர்களுக்கும் மட்டுமே மட்டுப்படுத்தப்பட்டுள்ளது.

முக்கிய அம்சம்: TikTok-ன் டீப்ஃபேக் கண்டறியும் சோதனை, படைப்பாளர்களின் அடையாளங்களைப் பாதுகாப்பதில் ஒரு தீர்க்கமான மாற்றத்தைக் குறிக்கிறது; இதன் தாக்கம், கடுமையான சரிபார்ப்பு மற்றும் படைப்பாளர்கள் எதிர்பார்க்கும் எளிமை ஆகியவற்றுக்கு இடையே இது எவ்வளவு சிறப்பாகச் சமநிலையைப் பேணுகிறது என்பதைப் பொறுத்தது.