TikTok은 미국 크리에이터들이 자신의 얼굴을 무단으로 사용한 AI 생성 버전을 플랫폼 내에서 검색할 수 있는 AI 기반 딥페이크 탐지기 테스트를 시작했습니다. 이 옵트인(opt-in) 서비스는 크리에이터의 외형을 도용하는 합성 영상과 이미지를 식별합니다.
이번 조치가 중요한 이유
생성형 AI는 이제 누구의 얼굴이라도 어떤 신체에든 입힐 수 있는 초현실적인 영상을 만들어냅니다.
도구 작동 방식
옵트인에 참여한 소수의 미국 크리에이터들은 TikTok 시스템이 검증된 자신의 얼굴 특징과 일치한다고 AI가 식별한 콘텐츠를 목록으로 보여주는 대시보드를 받게 됩니다. 크리에이터는 검색된 결과물을 검토하고, 자신의 이미지를 오용하는 게시물이나 계정에 대해 신고를 접수합니다.
남용을 방지하기 위해 TikTok은 각 참여자가 제3자 인증 서비스인 Jumio를 통해 까다로운 본인 확인 절차를 거치도록 합니다. 이 확인 절차에는 실시간 셀카 스캔과 정부 발행 신분증이 필요합니다. TikTok은 업로드된 신분증을 저장하지 않으며, 얼굴 데이터는 탐지 엔진 내에서 외형 일치 여부를 확인하는 용도로만 사용한다고 밝혔습니다.
더 광범위한 군비 경쟁
TikTok이 딥페이크 방지책을 도입한 첫 번째 플랫폼은 아닙니다. YouTube도 최근 모든 성인 사용자를 대상으로 유사한 탐지 기능을 출시하며 디지털 정체성을 보호하려는 업계의 노력을 보여주었습니다. 거대 언어 모델과 확산 모델이 발전함에 따라, 합성된 '디지털 휴먼'이 수동 모더레이터가 처리할 수 있는 속도보다 더 빠르게 피드를 뒤덮고 있습니다.
향후 전망
이번 파일럿 프로그램은 미국 및 자발적으로 참여한 크리에이터로 제한됩니다.
핵심 요약: TikTok의 딥페이크 탐지 테스트는 크리에이터의 정체성을 선제적으로 보호하려는 결정적인 변화를 의미합니다. 그 영향력은 엄격한 본인 확인과 크리에이터가 기대하는 편의성 사이의 균형을 얼마나 잘 맞추느냐에 달려 있습니다.