TikTok తన ప్లాట్ఫామ్లో అనుమతి లేకుండా AI ద్వారా సృష్టించబడిన తమ ముఖాల వెర్షన్ల కోసం అమెరికా క్రియేటర్లు వెతకడానికి వీలుగా, AI ఆధారిత డీప్ఫేక్ డిటెక్టర్ను పరీక్షించడం ప్రారంభించింది. ఈ ఆప్ట్-ఇన్ (opt-in) సేవ క్రియేటర్ల రూపాన్ని వాడుకుంటూ సృష్టించిన కృత్రిమ వీడియోలు మరియు చిత్రాలను గుర్తిస్తుంది.
ఈ చర్య ఎందుకు ముఖ్యమైనది
జనరేటివ్ AI ఇప్పుడు ఎవరి ముఖనైనా ఏ శరీరానికైనా అమర్చగలిగే అత్యంత వాస్తవిక (hyper-realistic) వీడియోలను సృష్టిస్తోంది.
ఈ సాధనం ఎలా పనిచేస్తుంది
ఇందులో చేరిన అమెరికా క్రియేటర్ల చిన్న సమూహానికి ఒక డాష్బోర్డ్ అందుబాటులో ఉంటుంది. అక్కడ TikTok సిస్టమ్, క్రియేటర్ల ధృవీకరించబడిన ముఖ లక్షణాలతో సరిపోలే ఏ కంటెంట్నైనా AI గుర్తించి జాబితా చేస్తుంది. క్రియేటర్లు ఆ ఫలితాలను పరిశీలించి, తమ చిత్రాలను దుర్వినియోగం చేసే పోస్ట్లు లేదా ఖాతాలపై రిపోర్టులను దాఖలు చేయవచ్చు.
దుర్వినియోగాన్ని నిరోధించడానికి, TikTok ప్రతి భాగస్వామిని Jumio అనే థర్డ్-పార్టీ వెరిఫికేషన్ సర్వీస్ ద్వారా కఠినమైన గుర్తింపు తనిఖీని పూర్తి చేయాలని కోరుతుంది. ఈ తనిఖీ కోసం రియల్-టైమ్ సెల్ఫీ స్కాన్ మరియు ప్రభుత్వ గుర్తింపు కార్డు (ID) అవసరం. తాము అప్లోడ్ చేసిన IDలను నిల్వ చేయలేదని, ముఖ డేటాను కేవలం డిటెక్షన్ ఇంజిన్లో రూపాన్ని సరిపోల్చడానికి మాత్రమే ఉపయోగిస్తామని TikTok తెలిపింది.
విస్తృతమైన సాంకేతిక పోరు
డీప్ఫేక్ రక్షణ కోసం ఫీచర్ను ప్రవేశపెట్టిన మొదటి ప్లాట్ఫామ్ TikTok కాదు. డిజిటల్ గుర్తింపులను రక్షించడానికి పరిశ్రమ చేస్తున్న ప్రయత్నాలకు నిదర్శనంగా, YouTube కూడా ఇటీవల వయోజన వినియోగదారులందరి కోసం ఇలాంటి డిటెక్షన్ ఫీచర్ను ప్రారంభించింది. లార్జ్ లాంగ్వేజ్ మోడల్స్ మరియు డిఫ్యూజన్ మోడల్స్ మెరుగుపడుతున్న కొద్దీ, మాన్యువల్ మోడరేటర్లు నియంత్రించలేనంత వేగంగా కృత్రిమ "డిజిటల్ మానవులు" ఫీడ్లోకి ప్రవేశిస్తున్నారు.
తదుపరి ఏమిటి
ఈ పైలట్ ప్రాజెక్ట్ ప్రస్తుతం అమెరికాకు మరియు స్వచ్ఛందంగా ముందుకు వచ్చిన క్రియేటర్లకు మాత్రమే పరిమితం చేయబడింది.
ముఖ్య అంశం: TikTok యొక్క డీప్ఫేక్ డిటెక్షన్ పరీక్ష క్రియేటర్ల గుర్తింపులను ముందస్తుగా రక్షించే దిశగా ఒక నిర్ణయాత్మక మార్పును సూచిస్తుంది; దీని ప్రభావం కఠినమైన వెరిఫికేషన్కు మరియు క్రియేటర్లు ఆశించే సౌలభ్యానికి మధ్య ఇది ఎంత సమతుల్యతను పాటిస్తుంది అనే దానిపై ఆధారపడి ఉంటుంది.