അമേരിക്കയിലെ ക്രിയേറ്റർമാർക്ക് തങ്ങളുടെ മുഖത്തിന്റെ അനധികൃതമായ, AI നിർമ്മിത പതിപ്പുകൾ പ്ലാറ്റ്ഫോമിൽ തിരയാൻ സഹായിക്കുന്ന ഒരു AI അധിഷ്ഠിത ഡീപ്ഫേക്ക് ഡിറ്റക്ടർ പരീക്ഷിക്കാൻ TikTok ആരംഭിച്ചു. ക്രിയേറ്റർമാരുടെ രൂപസാദൃശ്യം ദുരുപയോഗം ചെയ്യുന്ന കൃത്രിമ വീഡിയോകളും ചിത്രങ്ങളും ഈ സേവനം കണ്ടെത്തി അടയാളപ്പെടുത്തുന്നു.
ഈ നീക്കം പ്രധാനമാകുന്നത് എന്തുകൊണ്ട്
ആർക്കും ഏത് ശരീരത്തിലും അവരുടെ മുഖം ചേർക്കാൻ കഴിയുന്ന അതിയാഥാർത്ഥ്യബോധമുള്ള വീഡിയോകൾ ഇപ്പോൾ ജനറേറ്റീവ് AI നിർമ്മിക്കുന്നുണ്ട്.
ഈ ടൂൾ എങ്ങനെ പ്രവർത്തിക്കുന്നു
ഈ സേവനം ഉപയോഗിക്കാൻ സമ്മതിച്ച അമേരിക്കൻ ക്രിയേറ്റർമാരുടെ ഒരു ചെറിയ വിഭാഗത്തിന് ഒരു ഡാഷ്ബോർഡ് ലഭിക്കും. തങ്ങളുടെ സ്ഥിരീകരിച്ച മുഖസവിശേഷതകളുമായി സാമ്യമുള്ളതായി AI കണ്ടെത്തുന്ന ഉള്ളടക്കങ്ങൾ TikTok സിസ്റ്റം ഈ ഡാഷ്ബോർഡിൽ ലിസ്റ്റ് ചെയ്യും. ക്രിയേറ്റർമാർ ഈ വിവരങ്ങൾ പരിശോധിക്കുകയും തങ്ങളുടെ ചിത്രം ദുരുപയോഗം ചെയ്യുന്ന പോസ്റ്റുകൾക്കോ അക്കൗണ്ടുകൾക്കോ എതിരെ റിപ്പോർട്ടുകൾ സമർപ്പിക്കുകയും ചെയ്യും.
ദുരുപയോഗം തടയുന്നതിനായി, Jumio എന്ന മൂന്നാം കക്ഷി വെരിഫിക്കേഷൻ സേവനത്തിലൂടെ കഠിനമായ ഒരു തിരിച്ചറിയൽ പരിശോധന പൂർത്തിയാക്കാൻ TikTok ഓരോ പങ്കാളിയോടും ആവശ്യപ്പെടുന്നു. ഇതിനായി തത്സമയ സെൽഫി സ്കാനും സർക്കാർ നൽകിയ തിരിച്ചറിയൽ രേഖയും ആവശ്യമാണ്. അപ്ലോഡ് ചെയ്ത തിരിച്ചറിയൽ രേഖകൾ സൂക്ഷിക്കില്ലെന്നും, മുഖത്തിന്റെ വിവരങ്ങൾ ഡിറ്റക്ഷൻ എഞ്ചിനുള്ളിൽ രൂപസാദൃശ്യം പരിശോധിക്കാൻ മാത്രമേ ഉപയോഗിക്കുന്നുള്ളൂ എന്നും TikTok അറിയിച്ചു.
സാങ്കേതിക പോരാട്ടത്തിന്റെ വിശാലമായ പശ്ചാത്തലം
ഡീപ്ഫേക്ക് സുരക്ഷാ സംവിധാനം അവതരിപ്പിക്കുന്ന ആദ്യ പ്ലാറ്റ്ഫോം TikTok അല്ല. ഡിജിറ്റൽ ഐഡന്റിറ്റികൾ സംരക്ഷിക്കുന്നതിനായുള്ള വ്യവസായ രംഗത്തെ ശ്രമങ്ങളുടെ ഭാഗമായി YouTube അടുത്തിടെ എല്ലാ മുതിർന്ന ഉപയോക്താക്കൾക്കുമായി സമാനമായ ഒരു ഡിറ്റക്ഷൻ ഫീച്ചർ പുറത്തിറക്കിയിരുന്നു. ലാർജ് ലാംഗ്വേജ് മോഡലുകളും ഡിഫ്യൂഷൻ മോഡലുകളും മെച്ചപ്പെട്ടതോടെ, മാനുവൽ മോഡറേറ്റർമാർക്ക് കൈകാര്യം ചെയ്യാൻ കഴിയുന്നതിനേക്കാൾ വേഗത്തിൽ കൃത്രിമ "ഡിജിറ്റൽ മനുഷ്യർ" ഫീഡുകളിൽ നിറഞ്ഞുതുടങ്ങിയിരിക്കുന്നു.
ഇനി എന്ത് സംഭവിക്കും
ഈ പരീക്ഷണാടിസ്ഥാനത്തിലുള്ള പദ്ധതി അമേരിക്കയിലും സന്നദ്ധരായിട്ടുള്ള ക്രിയേറ്റർമാർക്കും മാത്രമായി പരിമിതപ്പെടുത്തിയിരിക്കുന്നു.
ചുരുക്കത്തിൽ: ക്രിയേറ്റർമാരുടെ ഐഡന്റിറ്റികൾ മുൻകൂട്ടി സംരക്ഷിക്കുന്നതിലേക്കുള്ള നിർണ്ണായകമായ ഒരു മാറ്റമാണ് TikTok-ന്റെ ഡീപ്ഫേക്ക് ഡിറ്റക്ഷൻ ടെസ്റ്റ്; കർശനമായ വെരിഫിക്കേഷനും ക്രിയേറ്റർമാർ പ്രതീക്ഷിക്കുന്ന എളുപ്പവും തമ്മിൽ ഇത് എത്രത്തോളം സന്തുലിതമായി കൊണ്ടുപോകുന്നു എന്നതിനെ ആശ്രയിച്ചിരിക്കും ഇതിന്റെ വിജയം.