TikTok is begonnen met het testen van een door AI aangedreven deepfake-detector waarmee Amerikaanse makers het platform kunnen scannen op ongeautoriseerde, door AI gegenereerde versies van hun gezicht. De opt-in-service markeert synthetische video's en afbeeldingen die de gelijkenis van een maker kapen.
Waarom deze stap belangrijk is
Generatieve AI produceert inmiddels hyperrealistische video's waarmee het gezicht van iedereen op elk lichaam geplakt kan worden.
Hoe de tool werkt
Een kleine groep Amerikaanse makers die heeft ingestemd, ontvangt een dashboard waarop het systeem van TikTok alle content vermeldt die de AI markeert als overeenkomend met hun geverifieerde gelaatstrekken. Makers beoordelen de resultaten en dienen rapporten in tegen berichten of accounts die hun beeltenis misbruiken.
Om misbruik te voorkomen, verplicht TikTok elke deelnemer om een intensieve identiteitscontrole te doorlopen via Jumio, een externe verificatiedienst. De controle vereist een selfie-scan in realtime en een door de overheid uitgegeven identiteitsbewijs. TikTok verklaart dat het de geüploade ID's niet opslaat; het gebruikt gezichtsgegevens uitsluitend voor het matchen van gelijkenissen binnen de detectiemotor.
De bredere wapenwedloop
TikTok is niet het eerste platform dat een beveiliging tegen deepfakes uitrolt. YouTube lanceerde onlangs een vergelijkbare detectiefunctie voor alle volwassen gebruikers, wat wijst op een bredere beweging binnen de sector om digitale identiteiten te beschermen. Naarmate grote taalmodellen en diffusiemodellen verbeteren, overspoelen synthetische "digitale mensen" de feed sneller dan handmatige moderators kunnen bijhouden.
Wat volgt er nu
Het pilotproject blijft beperkt tot de Verenigde Staten en tot makers die zich vrijwillig aanmelden.
Kernpunt: De test van TikTok voor deepfake-detectie markeert een beslissende verschuiving naar proactieve bescherming van de identiteit van makers; de impact zal afhangen van de mate waarin het een balans vindt tussen strikte verificatie en het gebruiksgemak dat makers verwachten.