TikTok rozpoczął testowanie opartego na AI wykrywacza deepfake'ów, który pozwala twórcom z USA skanować platformę w poszukiwaniu nieautoryzowanych, wygenerowanych przez AI wersji ich twarzy. Usługa opcjonalna (opt-in) flaguje syntetyczne filmy i obrazy, które wykorzystują wizerunek twórcy.
Dlaczego ten krok jest ważny
Generatywna sztuczna inteligencja tworzy obecnie hiperrealistyczne filmy, które potrafią nałożyć twarz dowolnej osoby na dowolne ciało.
Jak działa to narzędzie
Mała grupa twórców z USA, którzy zdecydowali się na udział w programie, otrzymuje panel sterowania, w którym system TikToka wymienia wszelkie treści, które AI oznaczy jako pasujące do ich zweryfikowanych rysów twarzy. Twórcy przeglądają wyniki i zgłaszają posty lub konta, które nadużywają ich wizerunku.
Aby zapobiec nadużyciom, TikTok wymaga od każdego uczestnika przejścia rygorystycznej weryfikacji tożsamości za pośrednictwem Jumio, zewnętrznej usługi weryfikacyjnej. Proces ten wymaga wykonania selfie w czasie rzeczywistym oraz przedstawienia dokumentu tożsamości wydanego przez organ państwowy. TikTok twierdzi, że nie przechowuje przesłanych dokumentów; dane twarzy są wykorzystywane wyłącznie do dopasowywania wizerunku wewnątrz silnika detekcji.
Szerszy wyścig zbrojeń
TikTok nie jest pierwszą platformą, która wprowadza zabezpieczenia przed deepfake'ami. YouTube niedawno uruchomił podobną funkcję wykrywania dla wszystkich dorosłych użytkowników, co pokazuje dążenie branży do ochrony tożsamości cyfrowej. W miarę jak modele językowe i modele dyfuzyjne ulegają udoskonaleniu, syntetyczni „cyfrowi ludzie” zalewają kanały treści szybciej, niż są w stanie poradzić sobie z tym moderatorzy.
Co dalej
Program pilotażowy pozostaje ograniczony do Stanów Zjednoczonych i twórców, którzy zgłosili się na ochotnika.
Wniosek: Test wykrywania deepfake'ów w TikToku oznacza zdecydowany zwrot w stronę proaktywnej ochrony tożsamości twórców; jego skuteczność będzie zależeć od tego, jak dobrze uda się zrównoważyć rygorystyczną weryfikację z wygodą, której oczekują twórcy.