പ്രശസ്ത വ്യക്തികളുടെ ഡീപ് ഫേക്ക് (deep-fake) വീഡിയോകൾ ഉപയോഗിച്ച് വ്യാജ സ്റ്റോക്ക് ടിപ്പുകൾ നൽകുന്ന രീതിയിൽ ഒരു കുറ്റാന്വേഷണ സംഘം 15,500 വെബ്സൈറ്റുകൾ സജ്ജീകരിച്ചിരിക്കുന്നു. ഈ തട്ടിപ്പ് നിലവിൽ അറിവില്ലാത്ത നിക്ഷേപകരിൽ നിന്ന് പണം തട്ടിയെടുക്കുന്നുണ്ട്. ഇതിന്റെ വ്യാപ്തി കാരണം ഇവ നേരിട്ട് നീക്കം ചെയ്യുന്നത് അസാധ്യമാണ്, അതിനാൽ ഇത്തരം തട്ടിപ്പുകൾ എങ്ങനെ കണ്ടെത്താമെന്നും തടയാമെന്നും സുരക്ഷാ ടീമുകൾ പുനർചിന്തനം നടത്തേണ്ടി വരുന്നു.
ഈ സംഘം എങ്ങനെ പ്രവർത്തിക്കുന്നു
തട്ടിപ്പുകാർ ഒരു ഒറ്റ വ്യാജ വീഡിയോയെ മാത്രം ആശ്രയിക്കുന്നില്ല. സന്ദർശിക്കുന്ന വ്യക്തിക്ക് അനുസരിച്ച് ഓരോ സൈറ്റും വ്യത്യസ്തമായി പെരുമാറുന്ന രീതിയിലാണ് പ്രോഗ്രാം ചെയ്തിരിക്കുന്നത്. ഒരു ഓട്ടോമേറ്റഡ് ക്രോളർ (automated crawler) സന്ദർശിക്കുമ്പോൾ വെറുമൊരു "under construction" പേജ് കാണാം, എന്നാൽ മൊബൈൽ ഉപകരണം ഉപയോഗിക്കുന്ന ഒരു യഥാർത്ഥ ഉപയോക്താവിന് ഒരു സെലിബ്രിറ്റി സ്റ്റോക്ക് പ്രോത്സാഹിപ്പിക്കുന്ന തരത്തിലുള്ള മികച്ച വീഡിയോ ലഭിക്കുന്നു. ഈ വ്യത്യാസം പരമ്പരാഗത വെബ്-സ്ക്രാപ്പിംഗ് ടൂളുകളുടെ കണ്ണിൽപ്പെടാതെ ഇരിക്കാൻ ഈ പ്രവർത്തനത്തെ സഹായിക്കുന്നു.
ഈ മാറ്റം മറച്ചുവെക്കാൻ, Keitaro പോലുള്ള ട്രാഫിക് റൂട്ടിംഗ് സേവനങ്ങൾ ഇവർ ഉപയോഗിക്കുന്നു. ഇവയ്ക്ക് URL-കൾ മറച്ചുവെക്കാനും IP റെപ്യൂട്ടേഷൻ, ഡിവൈസ് ഫിംഗർപ്രിന്റ് അല്ലെങ്കിൽ റഫറർ ഹെഡർ എന്നിവയുടെ അടിസ്ഥാനത്തിൽ വ്യത്യസ്ത ഉള്ളടക്കം നൽകാനും കഴിയും. ഇതിന്റെ ഫലമായി സാധാരണ വെബ്സൈറ്റുകൾക്കിടയിൽ തിരിച്ചറിയാൻ കഴിയാത്ത വിധം വലിയൊരു "look-alike" ഡൊമെയ്ൻ ശൃംഖല തന്നെ രൂപപ്പെടുന്നു, ഇത് സുരക്ഷാ ബോട്ടുകൾക്ക് ഇവയെ തട്ടിപ്പുകളായി അടയാളപ്പെടുത്തുന്നത് പ്രയാസകരമാക്കുന്നു.
സാധാരണ കണ്ടെത്തൽ രീതികൾ എവിടെയാണ് പരാജയപ്പെടുന്നത്
മിക്ക ആന്റി-ഡീപ് ഫേക്ക് (anti-deep-fake) പരിഹാരങ്ങളും ദൃശ്യപരമായ പിശകുകൾ (visual artefacts) കണ്ടെത്തുന്നതിലാണ് ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്—അതായത് മങ്ങിയ വശങ്ങൾ, അസ്ഥിരമായ വെളിച്ചം, അല്ലെങ്കിൽ തെറ്റായ ലിപ് സിങ്ക് (lip sync) എന്നിവ. എന്നാൽ ഈ പ്രചാരണത്തിൽ, ഉയർന്ന നിലവാരമുള്ള മോഡലുകൾ ഉപയോഗിച്ച് വീഡിയോകൾ നിർമ്മിക്കുന്നതിനാൽ അത്തരം സൂചനകൾ വളരെ കുറവാണ്. യഥാർത്ഥ പ്രശ്നം മുഖത്തിന്റെ ജ്യാമിതിയിലാണ് (geometry): ഡീപ് ഫേക്ക് ജനറേറ്ററുകൾ പലപ്പോഴും മുഖത്തെ അടയാളങ്ങൾക്കിടയിലുള്ള (facial landmarks) സ്ഥാനങ്ങളിൽ സൂക്ഷ്മമായ വ്യത്യാസങ്ങൾ വരുത്തുന്നു.
അതുകൊണ്ട് തന്നെ, "ഈ വീഡിയോ വ്യാജമാണോ?" എന്ന ലളിതമായ പരിശോധന ഈ സംഘത്തിന്റെ പല വീഡിയോകളും കണ്ടെത്താൻ പര്യാപ്തമല്ല. ഇതിന് വീഡിയോയിലെ മുഖത്തെ ഒരു വിശ്വസനീയമായ ചിത്രവുമായി താരതമ്യം ചെയ്യുന്ന ഒരു പരിശോധന (verification) ഘട്ടം ആവശ്യമാണ്.
ഒരു വെരിഫിക്കേഷൻ പൈപ്പ്ലൈൻ നിർമ്മിക്കുക
ഡെവലപ്പർമാർക്ക് അവരുടെ സുരക്ഷാ പ്രവർത്തനങ്ങളിൽ മൂന്ന് പ്രധാന കാര്യങ്ങൾ ഉൾപ്പെടുത്താം:
- അഡാപ്റ്റീവ് ക്രോളിംഗ് (Adaptive crawling) – യഥാർത്ഥ ഉപയോക്താക്കളെപ്പോലെ പെരുമാറുന്ന ഹെഡ്ലെസ്സ് ബ്രൗസറുകൾ (headless browsers) ഉപയോഗിക്കുക, IP-കൾ മാറ്റുക, കൂടാതെ മൊബൈൽ ഉപകരണങ്ങളുടെ സവിശേഷതകൾ അനുകരിക്കുക. ഇത് "under construction" എന്ന വ്യാജേനയുള്ള തടസ്സങ്ങളെ മറികടന്ന് യഥാർത്ഥ വീഡിയോ പേലോഡ് (video payload) വീണ്ടെടുക്കാൻ സഹായിക്കുന്നു.
- ബയോമെട്രിക് താരതമ്യം (Biometric comparison) – വീഡിയോയിലെ ഓരോ ഫ്രെയിമിൽ നിന്നും മുഖത്തെ അടയാളങ്ങൾ (facial landmarks) വേർതിരിച്ചെടുക്കുകയും അവ ഒരു യഥാർത്ഥ ചിത്രവുമായി താരതമ്യം ചെയ്യുകയും ചെയ്യുക. മുഖത്തെ അടയാളങ്ങളുടെ സ്ഥാനങ്ങളിൽ ഉണ്ടാകുന്ന ചെറിയ വ്യത്യാസങ്ങൾ ഡീപ് ഫേക്കിന്റെ ശക്തമായ സൂചനയാണ്. പല ഫ്രെയിമുകളിലായി ഈ താരതമ്യം നടത്തുന്നത് വെളിച്ചത്തിലോ മറ്റോ ഉണ്ടാകുന്ന താൽക്കാലിക മാറ്റങ്ങൾ കാരണം തെറ്റായ ഫലങ്ങൾ ലഭിക്കുന്നത് കുറയ്ക്കുന്നു.
- കണ്ടെത്തലിൽ നിന്ന് വെരിഫിക്കേഷനിലേക്കുള്ള മാറ്റം (Shift from detection to verification) – ഒരു വീഡിയോ "സാധ്യതയുള്ള വ്യാജം" എന്ന് അടയാളപ്പെടുത്തുന്നതിന് പകരം, ഒരു വിശ്വസനീയമായ സ്രോതസ്സുമായി ബയോമെട്രിക് പരിശോധന പൂർത്തിയാക്കുന്നത് വരെ അത് "പരിശോധിക്കപ്പെടാത്തത്" (unverified) ആയി കണക്കാക്കുക. പൊരുത്തം കണ്ടെത്താൻ കഴിഞ്ഞില്ലെങ്കിൽ, ആ ഉള്ളടക്കം മാറ്റിനിർത്തുകയോ (quarantine) മനുഷ്യർക്ക് പരിശോധനയ്ക്കായി അയക്കുകയോ ചെയ്യാം.
ഒരു പ്രായോഗിക രീതി താഴെ പറയുന്ന രീതിയിലാകാം:
- ക്രോളർ (Crawler) പേജ് എടുക്കുകയും റീഡയറക്റ്റുകൾ പിന്തുടരുകയും ചെയ്യുന്നു, ഒടുവിൽ വീഡിയോ URL രേഖപ്പെടുത്തുന്നു.
- ഡൗൺലോഡർ (Downloader) വീഡിയോ എടുക്കുകയും അതിനെ പ്രധാന ഫ്രെയിമുകളായി തിരിക്കുകയും ചെയ്യുന്നു (ഉദാഹരണത്തിന്, ഓരോ സെക്കൻഡിലും ഒന്ന്).
- ഫേസ് എക്സ്ട്രാക്ടർ (Face extractor) ഓരോ ഫ്രെയിമിലും മുഖം കണ്ടെത്താൻ ഒരു ലൈറ്റ് വെയ്റ്റ് മോഡൽ ഉപയോഗിക്കുന്നു.
- ലാൻഡ്മാർക്ക് മാച്ചർ (Landmark matcher) വേർതിരിച്ചെടുത്ത അടയാളങ്ങളും സെലിബ്രിറ്റിയുടെ ഔദ്യോഗിക ചിത്രത്തിലെ അടയാളങ്ങളും തമ്മിലുള്ള യൂക്ലിഡിയൻ ദൂരം (Euclidean distance) കണക്കാക്കുന്നു.
- സ്കോർ അഗ്രഗേറ്റർ (Score aggregator) ഈ ദൂരം നിശ്ചിത പരിധിയിൽ കൂടുതലാണെങ്കിൽ വീഡിയോയെ അടയാളപ്പെടുത്തുന്നു.
ആയിരക്കണക്കിന് ഡൊമെയ്നുകളിൽ വ്യാപിച്ചു കിടക്കുന്നതിനാൽ, ഓരോ ഘട്ടവും ഓട്ടോമേറ്റ് ചെയ്യേണ്ടത് അത്യാവശ്യമാണ്. ഫേസ് ഡിറ്റക്ഷനും ലാൻഡ്മാർക്ക് എക്സ്ട്രാക്ഷനും ഉള്ള ഓപ്പൺ സോഴ്സ് ലൈബ്രറികൾ എളുപ്പത്തിൽ ലഭ്യമാണ്, കൂടാതെ യൂക്ലിഡിയൻ ദൂരം കണക്കാക്കുന്നത് കമ്പ്യൂട്ടേഷണൽ രീതിയിൽ ലളിതമായതിനാൽ, ഒരു ദിവസം പതിനായിരക്കണക്കിന് സൈറ്റുകളിലേക്ക് ഈ പൈപ്പ്ലൈൻ വ്യാപിപ്പിക്കാൻ സാധിക്കും.
ഉണ്ടായേക്കാവുന്ന എതിർപ്പുകൾ
ബയോമെട്രിക് വെരിഫിക്കേഷൻ സ്വകാര്യതയെ ബാധിക്കുമെന്ന് ചില സുരക്ഷാ ടീമുകൾ വാദിക്കുന്നു, പ്രത്യേകിച്ച് പൊതു വ്യക്തികളുടെ റഫറൻസ് ചിത്രങ്ങൾ സൂക്ഷിക്കേണ്ടി വരുമ്പോൾ. എന്നാൽ, പൊതുവായി ലഭ്യമായതും ലൈസൻസുള്ളതുമായ ഫോട്ടോകൾ മാത്രം ഉപയോഗിച്ചാൽ ഈ പ്രശ്നം പരിഹരിക്കാമെന്നതാണ് ഇതിനുള്ള മറുപടി. ദശലക്ഷക്കണക്കിന് ഉപയോക്താക്കളുടെ നിക്ഷേപ തുക തട്ടിപ്പുകാർ തട്ടിയെടുക്കുന്നതിനേക്കാൾ വലിയ പ്രശ്നമല്ല ഈ ചെറിയ ഡാറ്റ കൈകാര്യം ചെയ്യൽ.
സെലിബ്രിറ്റികൾ അവരുടെ രൂപഭാവങ്ങളിൽ മാറ്റം വരുത്തുമ്പോൾ റെഫറൻസ് ലൈബ്രറി പുതുതിരിപ്പിച്ചു കൊണ്ടിരിക്കേണ്ടി വരുന്നതിനെക്കുറിച്ചുള്ള ബുദ്ധിമുട്ടാണ് മറ്റൊരു എതിർപ്പ്. പുതിയ ചിത്രങ്ങൾ ലഭ്യമാകുമ്പോൾ അവ ഘട്ടംഘട്ടമായി ചേർക്കുന്നതിലൂടെ (incremental updates) വലിയ മാറ്റങ്ങൾ ഇല്ലാതെ തന്നെ ഈ പ്രശ്നം പരിഹരിക്കാം.
ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ
ഈ സംഘം ട്രാഫിക്-മാസ്കിംഗ് സേവനങ്ങളെ (traffic-masking services) ആശ്രയിക്കുന്നത് കൊണ്ട്, ആ സേവനങ്ങളിൽ ഉണ്ടാകുന്ന ഏതൊരു തടസ്സവും ഈ ക്യാമ്പയിനെ താൽക്കാലികമായി ദുർബലപ്പെടുത്തിയേക്കാം, എന്നാൽ അടിസ്ഥാന സാങ്കേതികവിദ്യ—ഉയർന്ന നിലവാരമുള്ള ഡീപ്-ഫേക്കുകളോടൊപ്പം (deep-fakes) ചേർന്ന ഡൈനാമിക് കണ്ടന്റ് ഡെലിവറിയാണ് (dynamic content delivery)—മറ്റ് തട്ടിപ്പുകളിലും വീണ്ടും പ്രത്യക്ഷപ്പെടാൻ സാധ്യതയുണ്ട്. സെക്യൂരിറ്റി വെണ്ടർമാർ (Security vendors) സമാനമായ രീതികൾ നിരീക്ഷിക്കേണ്ടതുണ്ട്: ക്രോളർ സിഗ്നേച്ചറുകൾ (crawler signatures) അടിസ്ഥാനമാക്കിയുള്ള വ്യത്യസ്തമായ ഉള്ളടക്കം, ഒരേ വീഡിയോ ഹോസ്റ്റിംഗ് ബക്കറ്റിലേക്ക് (video hosting bucket) വിരൽ ചൂണ്ടുന്ന ഡൊമെയ്നുകളിൽ പെട്ടെന്നുണ്ടാകുന്ന വർദ്ധനവ്, ഒരേ ഫേഷ്യൽ-ജിയോമെട്രി എറർ സിഗ്നേച്ചറുകളുടെ (facial-geometry error signatures) ആവർത്തിച്ചുള്ള ഉപയോഗം എന്നിവ ഇതിൽ ഉൾപ്പെടുന്നു.
ഡെവലപ്പർമാരെ സംബന്ധിച്ചിടത്തോളം, അടുത്ത ഘട്ടം സംശയാസ്പദമായ ഡൊമെയ്നുകളുടെ ഒരു ചെറിയ വിഭാഗത്തിൽ വെരിഫിക്കേഷൻ പൈപ്പ്ലൈൻ (verification pipeline) പ്രോട്ടോടൈപ്പ് ചെയ്യുകയും ഫാൽസ്-പോസിറ്റീവ് നിരക്കുകൾ (false-positive rates) അളക്കുകയും ചെയ്യുക എന്നതാണ്. ഡിറ്റക്ഷൻ സിഗ്നേച്ചറുകൾ (detection signatures) വിവിധ സ്ഥാപനങ്ങൾക്കിടയിൽ പങ്കുവെക്കുന്നത് ഒരേ ജോലികൾ ആവർത്തിക്കുന്നത് ഒഴിവാക്കാൻ സഹായിക്കും.
സംഗ്രഹം: 15,500 സൈറ്റുകളിലായി നടന്ന ഈ ഡീപ്-ഫേക്ക് തട്ടിപ്പ് കാണിക്കുന്നത്, തട്ടിപ്പുകളുടെ പുതിയ അതിർത്തി എന്നത് കേവലം സങ്കീർണ്ണത മാത്രമല്ല, മറിച്ച് അതിന്റെ വ്യാപ്തി (scale) കൂടിയാണെന്നാണ്. അഡാപ്റ്റീവ് ക്രോളിംഗും (adaptive crawling) ഫ്രെയിം-ബൈ-ഫ്രെയിം ബയോമെട്രിക് വെരിഫിക്കേഷനും (frame-by-frame biometric verification) സംയോജിപ്പിക്കുന്നതിലൂടെ, സെക്യൂരിറ്റി ടീമുകൾക്ക് ഈ വലിയ പ്രശ്നത്തെ ഒരു ഓട്ടോമേറ്റഡ്, അളക്കാവുന്ന പ്രതിരോധ സംവിധാനമാക്കി മാറ്റാൻ കഴിയും.