TikTok начал тестирование детектора дипфейков на базе ИИ, который позволяет американским авторам сканировать платформу на наличие несанкционированных версий своих лиц, созданных искусственным интеллектом. Сервис, подключаемый по желанию, помечает синтетические видео и изображения, которые используют чужую внешность.
Почему это важно
Генеративный ИИ теперь выдает гиперреалистичные видео, в которых лицо любого человека можно «наложить» на любое тело.
Как работает инструмент
Небольшая группа американских авторов, подписавшихся на услугу, получает доступ к панели управления, где система TikTok перечисляет любой контент, помеченный ИИ как соответствующий их подтвержденным чертам лица. Авторы проверяют совпадения и подают жалобы на посты или аккаунты, которые неправомерно используют их образ.
Чтобы предотвратить злоупотребления, TikTok обязывает каждого участника пройти сложную проверку личности через Jumio — сторонний сервис верификации. Проверка требует селфи-сканирования в реальном времени и предъявления удостоверения личности государственного образца. TikTok заявляет, что не хранит загруженные документы; данные лица используются только для сопоставления образов внутри системы обнаружения.
Глобальная гонка вооружений
TikTok — не первая платформа, внедряющая защиту от дипфейков. YouTube недавно запустил аналогичную функцию обнаружения для всех взрослых пользователей, что свидетельствует об общем стремлении индустрии защищать цифровые личности. По мере совершенствования больших языковых и диффузионных моделей, синтетические «цифровые люди» заполняют ленту быстрее, чем модераторы успевают с ними справляться вручную.
Что дальше
Пилотный проект пока ограничен территорией США и только теми авторами, которые выразили свое согласие.
Итог: Тестирование детектора дипфейков в TikTok знаменует собой решительный переход к проактивной защите личностей авторов; его успех будет зависеть от того, насколько удачно удастся сбалансировать строгую верификацию с удобством, которого ожидают создатели контента.