ഇന്ത്യയിലെ ഒരു അധ്യാപകന്റെ ക്ലാസ് മുറിയിലെ സംഭവത്തിന്റെ വീഡിയോ ഒരു ഗ്രൂപ്പ് ചാറ്റിലൂടെ പ്രചരിച്ചതിനെത്തുടർന്ന് അദ്ദേഹം സസ്പെൻഡ് ചെയ്യപ്പെട്ടു. ആ വീഡിയോ യഥാർത്ഥമാണോ അതോ AI നിർമ്മിതമാണോ എന്ന കാര്യത്തിൽ കാഴ്ചക്കാർക്കിടയിൽ തർക്കമുണ്ടായി. ഈ ബഹളങ്ങൾ "നുണയന്മാരുടെ നേട്ടം" (liar’s dividend) എന്ന പ്രതിഭാസത്തെയാണ് എടുത്തുകാണിക്കുന്നത് – അതായത്, കൃത്രിമ മാധ്യമങ്ങളുടെ (synthetic media) സാന്നിധ്യം നിലനിൽക്കുന്നത് കൊണ്ട് തന്നെ യഥാർത്ഥ തെളിവുകളെപ്പോലും സംശയിക്കാൻ ആർക്കും സാധിക്കുന്നു. കൂടാതെ, നിലവിലുള്ള ഡീപ് ഫേക്ക് ഡിറ്റക്ടറുകളുടെ (deep-fake detectors) പോരായ്മകളും ഇത് വെളിപ്പെടുത്തുന്നു.
ജാഗ്രത ഉണർത്തിയ സംഭവം
വീഡിയോ വൈറലായതോടെ ഒരു തർക്കം ഉടലെടുത്തു: ചിലർ ഡീപ് ഫേക്ക് ആണെന്ന് സൂചിപ്പിക്കുന്ന ചെറിയ പിഴവുകൾ (glitches) ചൂണ്ടിക്കാണിച്ചപ്പോൾ, മറ്റുള്ളവർ പറഞ്ഞത് ഇത്തരം കൃത്രിമത്വത്തിന്റെ സാധ്യത ഉള്ളതുകൊണ്ട് തന്നെ ദൃശ്യപരമായ തെളിവുകൾ വിശ്വസനീയമല്ല എന്നാണ്.
നിലവിലുള്ള ഡീപ് ഫേക്ക് ഡിറ്റക്ടറുകൾ പരാജയപ്പെടുന്നത് എന്തുകൊണ്ട്
മിക്ക ആന്റി-ഡീപ് ഫേക്ക് സംവിധാനങ്ങളും ജനറേറ്റീവ് മോഡലുകൾ അവശേഷിപ്പിക്കുന്ന അടയാളങ്ങൾ (artifacts) ആണ് തിരയുന്നത് – വിചിത്രമായ പിക്സൽ പാറ്റേണുകൾ, പൊരുത്തപ്പെടാത്ത വെളിച്ചം, അല്ലെങ്കിൽ ശബ്ദത്തിലെ വ്യത്യാസങ്ങൾ എന്നിവ ഇതിൽ ഉൾപ്പെടുന്നു. ഈ സൂചനകൾ ഒരു വീഡിയോ കൃത്രിമമാണെന്ന് സൂചിപ്പിച്ചേക്കാം, എന്നാൽ ഫ്രെയിമിൽ യഥാർത്ഥത്തിൽ കാണപ്പെടുന്നത് ആരാണെന്ന് സ്ഥിരീകരിക്കാൻ അവയ്ക്ക് കഴിയില്ല. ഒരു കോടതിയിലോ അച്ചടക്ക നടപടിയിലോ, ഒരു വീഡിയോ "കൃത്രിമമാകാൻ സാധ്യതയുണ്ട്" എന്ന പ്രോബബിലിറ്റി സ്കോർ (probability score) വ്യക്തിത്വത്തെക്കുറിച്ചുള്ള ചോദ്യത്തിന് ഉത്തരം നൽകുന്നില്ല. "ഈ വീഡിയോ വ്യാജമാണോ?" എന്നതിലേക്ക് മാത്രം ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്, "ഈ വീഡിയോയിൽ കാണപ്പെടുന്നത് അത് അവകാശപ്പെടുന്ന വ്യക്തി തന്നെയാണോ?" എന്ന യഥാർത്ഥ പ്രശ്നത്തിന് പരിഹാരം കാണുന്നില്ല.
പരിശോധിക്കാവുന്ന ബയോമെട്രിക് ഐഡന്റിറ്റിയുടെ ആവശ്യകത
ഒരു വീഡിയോയിലെ മുഖം ഒരു പ്രത്യേക വ്യക്തിയുടേതാണെന്ന് ഗണിതശാസ്ത്രപരമായ കൃത്യതയോടെ തെളിയിക്കാൻ അന്വേഷകർക്ക് ഒരു മാർഗ്ഗം ആവശ്യമാണ്. ആധുനിക കമ്പ്യൂട്ടർ വിഷൻ പൈപ്പ്ലൈനുകൾ ഓരോ മുഖത്തുനിന്നും ഒരു ഹൈ-ഡൈമൻഷണൽ ഫീച്ചർ വെക്റ്റർ – ഒരു "എംബെഡിംഗ്" (embedding) – വേർതിരിച്ചെടുക്കുന്നു. രണ്ട് എംബെഡിംഗുകൾ തമ്മിലുള്ള യൂക്ലിഡിയൻ ദൂരം (Euclidean distance) അളക്കുന്നതിലൂടെ, മുഖങ്ങൾ എത്രത്തോളം സമാനമാണെന്ന് ഒരു സിസ്റ്റത്തിന് കണക്കാക്കാൻ കഴിയും. ചെറിയ ദൂരം ഒരേ വ്യക്തിയെ സൂചിപ്പിക്കുന്നു; വലിയ ദൂരം വ്യത്യസ്ത വ്യക്തിയെ സൂചിപ്പിക്കുന്നു. വീഡിയോയുടെ ഗുണനിലവാരം കുറവാണെങ്കിലും അല്ലെങ്കിൽ വെളിച്ചം കുറവാണെങ്കിലും ഇത് പ്രവർത്തിക്കും, കാരണം എംബെഡിംഗുകൾ വെറും പിക്സൽ മൂല്യങ്ങൾക്ക് പകരം മുഖത്തിന്റെ സവിശേഷതകളാണ് പിടിച്ചെടുക്കുന്നത്.
അന്വേഷകർ നേരിടുന്ന പ്രായോഗിക തടസ്സങ്ങൾ
ബയോമെട്രിക് വെരിഫിക്കേഷൻ ആവശ്യമുള്ള പലർക്കും രണ്ട് തടസ്സങ്ങളാണ് ഇത് പ്രായോഗികമാക്കുന്നതിൽ നിന്ന് തടയുന്നത്. ഒന്നാമതായി, ഉയർന്ന കൃത്യത വാഗ്ദാനം ചെയ്യുന്ന എന്റർപ്രൈസ് ഗ്രേഡ് ടൂളുകൾക്ക് ചെറിയ ഗവേഷണ ടീമുകൾക്കോ സ്വതന്ത്ര അന്വേഷകർക്കോ താങ്ങാൻ കഴിയാത്ത വിലയാണ്. രണ്ടാമതായി, ഉപഭോക്താക്കൾക്കായി നിർമ്മിച്ച ആപ്പുകൾ സൗകര്യത്തിന് വേണ്ടി കൃത്യത കുറയ്ക്കുന്നു, ഇത് നിയമപരമായ പരിശോധനകളിൽ നിലനിൽക്കാത്ത ഉയർന്ന ഫോൾസ്-പോസിറ്റീവ് (false-positive) നിരക്കുകൾക്ക് കാരണമാകുന്നു. ചെലവും വിശ്വസനീയമല്ലാത്ത ഫലങ്ങളും കാരണം അന്വേഷകർ ശാസ്ത്രീയമല്ലാത്ത രീതിയിലുള്ള ദൃശ്യപരമായ താരതമ്യങ്ങളെ ആശ്രയിക്കാൻ നിർബന്ധിതരാകുന്നു.
കോടതിയിൽ നിലനിൽക്കാൻ കഴിയുന്ന ടൂളുകൾ നിർമ്മിക്കുക
ഈ വിടവ് നികത്താൻ ലക്ഷ്യമിടുന്ന ഡെവലപ്പർമാർ മൂന്ന് ഘട്ടങ്ങളുള്ള ഒരു ഡിസൈൻ ഫിലോസഫി പിന്തുടരണം:
- വെറും ഒരു ഉത്തരം മാത്രമല്ല, ആത്മവിശ്വാസവും കാണിക്കുക. എംബെഡിംഗുകൾ തമ്മിലുള്ള ദൂരം റിപ്പോർട്ട് ചെയ്യുക, ഉപയോക്താക്കൾക്ക് അവരുടെതായ പരിധികൾ (thresholds) നിശ്ചയിക്കാൻ അനുവദിക്കുക. സുതാര്യമായ ഒരു സ്കോർ ആവശ്യമാണെങ്കിൽ ഒരു വക്കീലിന് കർശനമായ മാനദണ്ഡങ്ങൾക്കായി വാദിക്കാൻ സഹായിക്കും.
- ഫയലിന്റെ ഉറവിടം പരിശോധിക്കുക. കൃത്രിമത്വം അല്ലെങ്കിൽ തെറ്റായ വിവരങ്ങൾ കണ്ടെത്താൻ മെറ്റാഡാറ്റ, ഹാഷ് വാല്യൂസ്, സോഴ്സ് URL എന്നിവ പരിശോധിക്കുക. തട്ടിപ്പുകാർ പലപ്പോഴും വീഡിയോകൾ തെറ്റായ സാഹചര്യങ്ങളിൽ അവതരിപ്പിക്കാറുണ്ട്, അതിനാൽ സംശയാസ്പദമായ ഉറവിടങ്ങളെ തിരിച്ചറിയാൻ ഒരു പൈപ്പ്ലൈൻ സഹായിക്കണം.
- വേഗതയ്ക്കും വിഭവക്ഷമതയ്ക്കും മുൻഗണന നൽകുക. ഓപ്പൺ സോഴ്സ് ലൈബ്രറികൾ ഉപയോഗിച്ച് നിർമ്മിച്ച ലഘുവായ മോഡലുകൾ സാധാരണ ഹാർഡ്വെയറുകളിൽ പോലും പ്രവർത്തിപ്പിക്കാൻ കഴിയും, ഇത് ഗണിതശാസ്ത്രപരമായ കൃത്യത നഷ്ടപ്പെടുത്താതെ തന്നെ ഒറ്റപ്പെട്ട അന്വേഷകർക്കും ഈ സാങ്കേതികവിദ്യ ലഭ്യമാക്കുന്നു.
വെറും അക്കങ്ങൾക്കപ്പുറം, ഔട്ട്പുട്ടിൽ വിഷ്വൽ എയിഡുകളും (visual aids) ഉൾപ്പെടുത്തണം: മുഖത്തെ ലാൻഡ്മാർക്കുകൾ (facial landmarks) ഓവർലേ ചെയ്ത രൂപത്തിൽ.
ചുരുക്കത്തിൽ: യഥാർത്ഥ പോരാട്ടം കൃത്രിമ വീഡിയോകൾ തിരിച്ചറിയുന്നതിനെക്കുറിച്ച് മാത്രമല്ല; സ്ക്രീനിൽ ഉള്ളത് ആരാണെന്ന് ഗണിതശാസ്ത്രപരമായി സ്ഥിരീകരിക്കാൻ അന്വേഷകർക്ക് ഒരു മാർഗ്ഗം നൽകുന്നതിനെക്കുറിച്ചാണ്. ഡീപ് ഫേക്ക് ഡിറ്റക്ഷനിൽ നിന്ന് വെരിഫയബിൾ ബയോമെട്രിക് ഐഡന്റിറ്റിയിലേക്ക് മാറുന്ന ഡെവലപ്പർമാർക്ക്, ഒരു വീഡിയോ വൈറലാവുന്നത് കൊണ്ട് ഒരാളുടെ ജീവിതം തകരാതിരിക്കാൻ സഹായിക്കാൻ കഴിയും.