TikTok hat mit dem Testen eines KI-gesteuerten Deepfake-Detektors begonnen, der es US-amerikanischen Creatorn ermöglicht, die Plattform nach unbefugten, KI-generierten Versionen ihres Gesichts zu durchsuchen. Der Opt-in-Service markiert synthetische Videos und Bilder, die das Erscheinungsbild eines Creators missbrauchen.
Warum dieser Schritt wichtig ist
Generative KI erstellt mittlerweile hyperrealistische Videos, mit denen das Gesicht jeder beliebigen Person auf jeden Körper projiziert werden kann.
So funktioniert das Tool
Eine kleine Gruppe von US-Creatorn, die sich für den Dienst angemeldet haben, erhält ein Dashboard, auf dem das System von TikTok alle Inhalte auflistet, die die KI als Übereinstimmung mit ihren verifizierten Gesichtszügen markiert. Die Creator überprüfen die Treffer und melden Beiträge oder Konten, die ihr Bildnis missbrauchen.
Um Missbrauch zu verhindern, muss jeder Teilnehmer einen aufwendigen Identitätscheck über Jumio durchlaufen, einen externen Verifizierungsdienst. Der Check erfordert einen Selfie-Scan in Echtzeit sowie einen amtlichen Lichtbildausweis. TikTok gibt an, die hochgeladenen Ausweise nicht zu speichern; die Gesichtshintergrunddaten werden ausschließlich für den Abgleich des Erscheinungsbildes innerhalb der Erkennungs-Engine verwendet.
Das umfassendere Wettrüsten
TikTok ist nicht die erste Plattform, die einen Schutz gegen Deepfakes einführt. YouTube hat kürzlich eine ähnliche Erkennungsfunktion für alle erwachsenen Nutzer eingeführt, was den branchenweiten Trend zum Schutz digitaler Identitäten unterstreicht. Da sich Large Language Models und Diffusionsmodelle ständig verbessern, überschwemmen synthetische „digitale Menschen“ den Feed schneller, als menschliche Moderatoren bewältigen können.
Wie es weitergeht
Das Pilotprojekt bleibt auf die Vereinigten Staaten und auf freiwillige Creator beschränkt.
Fazit: Der Test von TikToks Deepfake-Erkennung markiert einen entscheidenden Wandel hin zum proaktiven Schutz von Creator-Identitäten; die Wirkung wird davon abhängen, wie gut die Plattform die strikte Verifizierung mit der von Creatorn erwarteten Benutzerfreundlichkeit in Einklang bringt.