ભારતમાં એક શિક્ષકને ક્લાસરૂમની એક ઘટનાના વીડિયોના ગ્રુપ ચેટ દ્વારા ફેલાયા પછી સસ્પેન્ડ કરવામાં આવ્યા હતા, અને દર્શકોમાં એ બાબતે વિવાદ થયો કે આ ક્લિપ અસલી હતી કે AI-generated. આ હોબાળો “liar’s dividend” ને પ્રકાશિત કરે છે – જે રીતે સિન્થેટિક મીડિયાના માત્ર અસ્તિત્વને કારણે કોઈપણ વ્યક્તિ વાસ્તવિક પુરાવાઓ પર શંકા કરી શકે છે – અને તે હાલના deep-fake ડિટેક્ટર્સના યુગમાં એક મોટી ખામીને પણ ઉજાગર કરે છે.

તે કિસ્સો જેણે ચેતવણી જગાવી

જેમ જેમ ફૂટેજ વાયરલ થયું, તેમ એક સમાંતર ચર્ચા પણ શરૂ થઈ: કેટલાક વપરાશકર્તાઓએ એવા સ્પષ્ટ ભૂલો (glitches) તરફ ધ્યાન દોર્યું જે deep-fake હોવાનો સંકેત આપી શકે છે, જ્યારે અન્ય લોકોએ કહ્યું કે હેરાફેરીની શક્યતા જ કોઈપણ વિઝ્યુઅલ પુરાવાને અવિશ્વસનીય બનાવે છે.

શા માટે હાલના deep-fake ડિટેક્ટર્સ અપૂરતા છે

મોટાભાગના anti-deep-fake સોલ્યુશન્સ જનરેટિવ મોડલ્સ દ્વારા છોડવામાં આવેલા artifacts શોધે છે – જેમ કે વિચિત્ર પિક્સેલ પેટર્ન, અસંગત લાઇટિંગ અથવા અસંગત ઓડિયો સંકેતો. આ સંકેતો સિન્થેટિક મૂળ હોવાનો નિર્દેશ કરી શકે છે, પરંતુ ફ્રેમમાં ખરેખર કોણ દેખાય છે તેની પુષ્ટિ કરવામાં તેઓ કંઈ કામ લાગતા નથી. કોર્ટરૂમમાં અથવા શિસ્તભંગની સુનાવણીમાં, વીડિયો "કદાચ નકલી છે" તેવો પ્રોબેબિલિટી સ્કોર ઓળખનો પ્રશ્ન ઉકેલી શકતો નથી. હાલમાં "શું આ વીડિયો નકલી છે?" તેના પર ધ્યાન કેન્દ્રિત કરવાથી એક ખામી રહી જાય છે, જ્યારે વાસ્તવિક મુદ્દો એ છે કે "શું આ વીડિયો તે વ્યક્તિને બતાવે છે જેનો તે દાવો કરે છે?"

વેરિફાઈએબલ બાયોમેટ્રિક ઓળખની જરૂરિયાત

તપાસકર્તાઓને ગાણિતિક ચોકસાઈ સાથે સાબિત કરવા માટે એક માર્ગની જરૂર છે કે વીડિયોમાં દેખાતો ચહેરો કોઈ ચોક્કસ વ્યક્તિનો છે. આધુનિક computer-vision pipelines દરેક ચહેરામાંથી હાઇ-ડાયમેન્શનલ ફીચર વેક્ટર – એક “embedding” – કાઢે છે. બે embeddings વચ્ચેનું Euclidean distance માપીને, સિસ્ટમ ચહેરાઓ કેટલા સમાન છે તેનું પ્રમાણ નક્કી કરે છે. ઓછું અંતર એ જ વ્યક્તિ હોવાનો સંકેત આપે છે; વધુ અંતર અલગ વ્યક્તિ હોવાનો નિર્દેશ કરે છે. આ ફૂટેજ ઝાંખું અથવા ઓછી લાઇટિંગ વાળું હોય ત્યારે પણ કામ કરે છે, કારણ કે embeddings કાચા પિક્સેલ મૂલ્યોને બદલે અમૂર્ત ચહેરાની લાક્ષણિકતાઓ કેપ્ચર કરે છે.

તપાસકર્તાઓ માટે વ્યવહારિક અવરોધો

બે અવરોધો બાયોમેટ્રિક વેરિફિકેશનને ઘણા લોકો માટે અગમ્ય રાખે છે જેમને તેની જરૂર છે. પ્રથમ, એન્ટરપ્રાઇઝ-ગ્રેડના સાધનો જે ઉચ્ચ ચોકસાઈનું વચન આપે છે, તેની કિંમત એટલી વધારે હોય છે કે નાની સંશોધન ટીમો અથવા સ્વતંત્ર તપાસકર્તાઓ તેને પરવડી શકતા નથી. બીજું, ગ્રાહક-કેન્દ્રિત એપ્સ સુવિધા માટે ચોકસાઈ સાથે સમાધાન કરે છે, જેનાથી ઊંચા false-positive રેટ મળે છે જે કાયદાકીય તપાસમાં ટકી શકતા નથી. ખર્ચ અને અવિશ્વસનીય પરિણામોનું મિશ્રણ તપાસકર્તાઓને ad-hoc વિઝ્યુઅલ સરખામણીઓ પર આધાર રાખવા માટે મજબૂર કરે છે જે વૈજ્ઞાનિક રીતે ઘણું દૂર છે.

કોર્ટમાં ટકી શકે તેવા સાધનો બનાવવું

આ ખામીને દૂર કરવા માંગતા ડેવલપર્સ માટે ત્રણ-પગલાંની ડિઝાઇન ફિલોસોફી અનુસરવી જોઈએ:

  • માત્ર બાઈનરી જવાબ નહીં, પણ આત્મવિશ્વાસ (confidence) બતાવો. embeddings વચ્ચેનું અંતર રિપોર્ટ કરો અને વપરાશકર્તાઓને તેમના પોતાના thresholds સેટ કરવા દો. એક પારદર્શક સ્કોર વકીલને જરૂર પડે તો વધુ કડક ધોરણ માટે દલીલ કરવામાં મદદ કરી શકે છે.
  • ફાઇલના મૂળ (provenance) ની ચકાસણી કરો. છેડછાડ અથવા ખોટા સંદર્ભને શોધવા માટે metadata, hash values, અને source URLs ની તપાસ કરો. સ્કેમર્સ ઘણીવાર વીડિયોને ગેરમાર્ગે દોરતા સંદર્ભોમાં મૂકે છે, તેથી પાઇપલાઇને શંકાસ્પદ મૂળને ફ્લેગ કરવું જોઈએ.
  • ઝડપ અને સંસાધન કાર્યક્ષમતાને પ્રાધાન્ય આપો. open-source libraries પર બનેલા light-weight models સામાન્ય હાર્ડવેર પર ચાલી શકે છે, જે ગાણિતિક સચોટતા સાથે સમાધાન કર્યા વિના ટેકનોલોજીને સ્વતંત્ર તપાસકર્તાઓ માટે સુલભ બનાવે છે.

કાચા આંકડાઓ ઉપરાંત, આઉટપુટમાં વિઝ્યુઅલ એઇડ્સ હોવા જોઈએ: overlayed facial landmarks.

Takeaway: સાચો જંગ માત્ર સિન્થેટિક વીડિયોને ઓળખવા વિશે નથી; તે તપાસકર્તાઓને સ્ક્રીન પર કોણ છે તેની પુષ્ટિ કરવા માટે ગાણિતિક રીતે સચોટ માર્ગ આપવા વિશે છે. જે ડેવલપર્સ deep-fake detection થી વેરિફાઈએબલ બાયોમેટ્રિક ઓળખ તરફ વળશે, તેઓ એક વાયરલ ક્લિપ કોઈનું જીવન બરબાદ કરતા અટકાવવામાં મદદ કરશે.