TikTok почав тестувати детектор дипфейків на основі ШІ, який дозволяє американським авторам сканувати платформу на наявність несанкціонованих, створених ШІ версій їхніх облич. Ця послуга, на яку можна підписатися добровільно, позначає синтетичні відео та зображення, що незаконно використовують зовнішність автора.
Чому цей крок є важливим
Генеративний ШІ тепер створює гіперреалістичні відео, які можуть накласти обличчя будь-кого на будь-яке тіло.
Як працює інструмент
Невелика група американських авторів, які погодилися на участь, отримує панель керування, де система TikTok перелічує будь-який контент, який ШІ позначає як такий, що відповідає їхнім верифікованим рисам обличчя. Автори переглядають знайдені збіги та подають скарги на дописи або акаунти, які зловживають їхнім зображенням.
Щоб запобігти зловживанням, TikTok зобов'язує кожного учасника пройти складну перевірку особи через Jumio — сторонній сервіс верифікації. Перевірка потребує сканування селфі в реальному часі та наявності посвідчення особи державного зразка. TikTok заявляє, що не зберігає завантажені документи; він використовує дані обличчя лише для зіставлення зовнішності всередині механізму виявлення.
Ширша гонка озброєнь
TikTok не є першою платформою, яка впроваджує захист від дипфейків. YouTube нещодавно запустив схожу функцію виявлення для всіх дорослих користувачів, що свідчить про прагнення індустрії захищати цифрову ідентичність. Оскільки великі мовні моделі та дифузійні моделі вдосконалюються, синтетичні «цифрові люди» заповнюють стрічку швидше, ніж модератори в змозі з цим впоратися вручну.
Що далі
Пілотний проєкт залишається обмеженим територією Сполучених Штатів та авторами, які беруть у ньому добровільну участь.
Підсумок: Тестування детектора дипфейків у TikTok знаменує собою рішучий перехід до проактивного захисту ідентичності авторів; його ефективність залежатиме від того, наскільки вдало вдасться збалансувати сувору верифікацію зі зручністю, на яку розраховують автори.