એક ગુનાહિત સિન્ડિકેટ દ્વારા 15,500 વેબસાઇટ્સ બનાવવામાં આવી છે જે જાણીતી હસ્તીઓના ડીપ-ફેક (deep-fake) વીડિયો સ્ટ્રીમ કરે છે અને ખોટી સ્ટોક ટિપ્સ આપે છે, અને આ કામગીરી પહેલેથી જ અજાણતા રોકાણકારો પાસેથી નાણાં પડાવી રહી છે. આ કામગીરીનું સ્કેલ જ મેન્યુઅલ રીતે તેને હટાવવું અશક્ય બનાવે છે, જેના કારણે સુરક્ષા ટીમોએ આવી છેતરપિંડીને કેવી રીતે ઓળખવી અને બ્લોક કરવી તે વિશે ફરીથી વિચારવા માટે મજબૂર થવું પડે છે.
આ જૂથ કેવી રીતે કામ કરે છે
છેતરપિંડી કરનારાઓ માત્ર એક જ નકલી ક્લિપ પર આધાર રાખતા નથી. દરેક સાઇટને એવી રીતે પ્રોગ્રામ કરવામાં આવી છે કે તે કોણ મુલાકાત લે છે તેના આધારે અલગ રીતે વર્તે. એક ઓટોમેટેડ ક્રોલર (automated crawler) ને માત્ર એક સાધારણ “under construction” પેજ દેખાશે, જ્યારે મોબાઈલ ઉપકરણ પર આવતા વાસ્તવિક વપરાશકર્તાને એક સુધારેલો વીડિયો બતાવવામાં આવશે જેમાં કોઈ સેલિબ્રિટી સ્ટોકનું સમર્થન કરતી હોય તેવું લાગે છે. આ વિસંગતતાને કારણે આ કામગીરી પરંપરાગત વેબ-સ્ક્રેપિંગ ટૂલ્સની નજરથી બચી શકે છે.
આ ફેરફારને છુપાવવા માટે, આ જૂથ Keitaro જેવી ટ્રાફિક-રૂટિંગ સેવાઓનો ઉપયોગ કરે છે, જે URL ને છુપાવી શકે છે અને IP પ્રતિષ્ઠા, ડિવાઇસ ફિંગરપ્રિન્ટ અથવા રેફરર હેડરના આધારે અલગ સામગ્રી બતાવી શકે છે. તેનું પરિણામ “look-alike” ડોમેન્સનું એક વિશાળ નેટવર્ક છે જે સામાન્ય વેબમાં ભળી જાય છે, જેનાથી સુરક્ષા બોટ્સ માટે તેમને હાનિકારક તરીકે ફ્લેગ કરવા મુશ્કેલ બને છે.
શા માટે પ્રમાણભૂત ડિટેક્શન પૂરતું નથી
મોટાભાગના એન્ટી-ડીપ-ફેક સોલ્યુશન્સ વિઝ્યુઅલ આર્ટિફેક્ટ્સ (visual artefacts) શોધવા પર ધ્યાન કેન્દ્રિત કરે છે જે સિન્થેટિક વીડિયોની ઓળખ આપે છે—જેમ કે ધૂંધળા કિનારાઓ, અસંગત લાઇટિંગ અથવા અસંગત લિપ સિંક. આ કેમ્પેઈનમાં, તે સંકેતો ભાગ્યે જ જોવા મળે છે કારણ કે વીડિયો ઉચ્ચ-ગુણવત્તાવાળા મોડલ્સ સાથે રેન્ડર કરવામાં આવ્યા છે. વાસ્તવિક નબળાઈ ચહેરાની ભૂમિતિ (geometry) માં રહેલી છે: ડીપ-ફેક જનરેટર્સ ઘણીવાર ફેસિયલ લેન્ડમાર્ક્સ વચ્ચેના અવકાશી સંબંધોમાં સૂક્ષ્મ વિસંગતતાઓ લાવે છે.
તેથી, માત્ર “શું આ વીડિયો નકલી છે?” તેવું સાદું ચેક કરવાથી આ જૂથની સામગ્રીમાંથી ઘણા કિસ્સાઓ છૂટી જાય છે. જેની જરૂર છે તે એક વેરિફિકેશન (verification) સ્ટેપ છે જે વીડિયોમાં દેખાતા ચહેરાની સરખામણી સેલિબ્રિટીના જાણીતા અને વિશ્વસનીય ફોટા સાથે કરે છે.
વેરિફિકેશન પાઇપલાઇન બનાવવી
ડેવલપર્સ તેમની સુરક્ષા કાર્યપ્રવાહમાં (security workflows) ત્રણ મુખ્ય ક્ષમતાઓ ઉમેરી શકે છે:
- એડેપ્ટિવ ક્રોલિંગ (Adaptive crawling) – એવા હેડલેસ બ્રાઉઝર્સનો ઉપયોગ કરો જે વાસ્તવિક યુઝર એજન્ટ્સની નકલ કરે છે, IP બદલે છે અને મોબાઈલ ઉપકરણની લાક્ષણિકતાઓનું અનુકરણ કરે છે. આ “under construction” જેવા કપટપૂર્ણ પેજને બાયપાસ કરવામાં અને વાસ્તવિક વીડિયો પ્લેલોડ મેળવવામાં મદદ કરે છે.
- બાયોમેટ્રિક સરખામણી (Biometric comparison) – વીડિયોના દરેક ફ્રેમમાંથી ફેસિયલ લેન્ડમાર્ક્સ કાઢો અને અધિકૃત સંદર્ભ ફોટાના લેન્ડમાર્ક્સ સાથે તેના યુક્લિડિયન અંતર (Euclidean distances) ની ગણતરી કરો. લેન્ડમાર્ક પ્લેસમેન્ટમાં નાની અને સતત ભૂલો એ ડીપ-ફેક હોવાનો મજબૂત સંકેત છે. મધ્યમ ફ્રેમ્સમાં સરખામણી કરવાથી ક્ષણિક અવરોધ અથવા લાઇટિંગના ફેરફારોને કારણે થતા ખોટા પોઝિટિવ્સ (false positives) ઘટે છે.
- ડિટેક્શનથી વેરિફિકેશન તરફ સ્થળાંતર – વીડિયોને “સંભવિત રીતે નકલી” તરીકે ફ્લેગ કરવાને બદલે, જ્યાં સુધી તે વેરિફાઇડ સ્ત્રોત સામે બાયોમેટ્રિક ચેક પાસ ન કરે ત્યાં સુધી તેને વેરિફાઇડ વગરનો ગણો. જો કોઈ મેચ ન મળે, તો સામગ્રીને ક્વોરેન્ટાઇન કરી શકાય છે અથવા માનવીય સમીક્ષા માટે મોકલી શકાય છે.
એક વ્યવહારુ અમલીકરણ આવું દેખાઈ શકે છે:
- Crawler પેજ મેળવે છે, રીડાયરેક્ટ્સને અનુસરે છે અને અંતિમ વીડિયો URL રેકોર્ડ કરે છે.
- Downloader વીડિયો મેળવે છે અને તેને મુખ્ય ફ્રેમ્સમાં વિભાજિત કરે છે (દા.ત., દર સેકન્ડે એક).
- Face extractor દરેક ફ્રેમમાં ચહેરો શોધવા માટે લાઇટવેઇટ મોડલ ચલાવે છે.
- Landmark matcher કાઢવામાં આવેલા લેન્ડમાર્ક્સ અને સેલિબ્રિટીના સત્તાવાર પોટ્રેટમાંથી લેવામાં આવેલા લેન્ડમાર્ક્સ વચ્ચેનું યુક્લિડિયન અંતર ગણે છે.
- Score aggregator જો મધ્યમ અંતર પૂર્વ-નિર્ધારિત થ્રેશોલ્ડ કરતા વધી જાય તો વીડિયોને ફ્લેગ કરે છે.
કારણ કે આ કામગીરી હજારો ડોમેન્સમાં ફેલાયેલી છે, તેથી દરેક સ્ટેપને ઓટોમેટિક બનાવવું આવશ્યક છે. ફેસ ડિટેક્શન અને લેન્ડમાર્ક એક્સટ્રેક્શન માટે ઓપન-સોર્સ લાઇબ્રેરીઓ સરળતાથી ઉપલબ્ધ છે, અને યુક્લિડિયન-ડિસ્ટન્સ ગણતરી કમ્પ્યુટેશનલી સસ્તી છે, જે આ પાઇપલાઇનને દરરોજ હજારો સાઇટ્સ સુધી સ્કેલ કરવાની મંજૂરી આપે છે.
સંભવિત વિરોધ
કેટલીક સુરક્ષા ટીમો દલીલ કરે છે કે બાયોમેટ્રિક વેરિફિકેશન ગોપનીયતાની ચિંતાઓ ઊભી કરે છે, ખાસ કરીને જ્યારે તેમાં જાહેર હસ્તીઓના સંદર્ભ ફોટા સંગ્રહિત કરવાનો સમાવેશ થાય છે. તેનાથી વિરુદ્ધ દલીલ એ છે કે સંદર્ભ સેટને માત્ર જાહેરમાં ઉપલબ્ધ, લાઇસન્સ પ્રાપ્ત ફોટાઓ સુધી મર્યાદિત કરી શકાય છે અને સરખામણીના સ્ટેપ પછી ક્યારેય સંગ્રહિત ન રાખવો જોઈએ. લાખો વપરાશકર્તાઓ તેમના રોકાણના ભંડોળથી છેતરાઈ જવાનું જોખમ ડેટા હેન્ડલિંગના સામાન્ય જોખમ કરતા ઘણું વધારે છે.
બીજી વાંધાજનક બાબત એ છે કે સેલિબ્રિટીઓ તેમનો દેખાવ બદલે તેમ સંદર્ભ લાઇબ્રેરીને અપ-ટુ-ડેટ રાખવાનો મેન્ટેનન્સ ઓવરહેડ. ઇન્ક્રીમેન્ટલ અપડેટ્સ—જેમ કે વેરિફાઇડ મીડિયામાં દેખાય તેવા નવા હેડશોટ્સ ઉમેરવા—આખા સિસ્ટમને ફરીથી બનાવ્યા વગર આ સમસ્યાને હળવી કરે છે.
આગળ શું જોવું
આ ગેંગની ટ્રાફિક-માસ્કિંગ સેવાઓ પરની નિર્ભરતાનો અર્થ એ છે કે તે સેવાઓમાં કોઈપણ વિક્ષેપ અભિયાનને કામચલાઉ ધોરણે નબળું પાડી શકે છે, પરંતુ મૂળભૂત તકનીક—ઉચ્ચ-ગુણવત્તાવાળા ડીપ-ફેક્સ સાથે જોડાયેલ ડાયનેમિક કન્ટેન્ટ ડિલિવરી—અન્ય છેતરપિંડીઓમાં પણ ફરીથી જોવા મળી શકે છે. સુરક્ષા વિક્રેતાઓએ સમાન પેટર્ન પર દેખરેખ રાખવી જોઈએ: ક્રોલર સિગ્નેચરના આધારે વિભિન્ન કન્ટેન્ટ, એક જ વિડિયો હોસ્ટિંગ બકેટ તરફ નિર્દેશ કરતા ડોમેન્સમાં અચાનક વધારો, અને સમાન ફેસિયલ-જીઓમેટ્રી એરર સિગ્નેચરનો વારંવાર ઉપયોગ.
ડેવલપર્સ માટે, આગલું પગલું શંકાસ્પદ ડોમેન્સના નાના સબસેટ પર વેરિફિકેશન પાઇપલાઇનનું પ્રોટોટાઇપ બનાવવું અને ફોલ્સ-પોઝિટિવ રેટ માપવાનો છે. સંસ્થાઓ વચ્ચે ડિટેક્શન સિગ્નેચર શેર કરવાથી પ્રયત્નોનું પુનરાવર્તન પણ ઘટાડી શકાય છે.
મુખ્ય વાત: 15,500-સાઇટનો ડીપ-ફેક સ્કેમ દર્શાવે છે કે માત્ર જટિલતા જ નહીં, પરંતુ સ્કેલ એ છેતરપિંડી માટેનું નવું ક્ષેત્ર છે. એડેપ્ટિવ ક્રોલિંગ સાથે ફ્રેમ-બાય-ફ્રેમ બાયોમેટ્રિક વેરિફિકેશનનું સંયોજન કરીને, સુરક્ષા ટીમો એક વિશાળ સમસ્યાને સ્વચાલિત, માપી શકાય તેવા બચાવમાં બદલી શકે છે.