범죄 조직이 유명 인사의 딥페이크 영상을 스트리밍하며 허위 주식 정보를 홍보하는 웹사이트 15,500개를 구축했으며, 이 운영 방식은 이미 아무것도 모르는 투자자들의 자금을 가로채고 있습니다. 규모만으로도 수동 차단은 불가능하며, 보안 팀은 이러한 사기를 식별하고 차단하는 방식을 재고해야 하는 상황에 직면했습니다.
이 조직의 운영 방식
사기꾼들은 단 하나의 가짜 영상에만 의존하지 않습니다. 각 사이트는 방문자에 따라 다르게 동작하도록 프로그래밍되어 있습니다. 자동 크롤러에는 평범한 '공사 중' 페이지가 보이지만, 모바일 기기로 접속하는 실제 사용자에게는 유명 인사가 주식을 추천하는 듯한 정교한 영상이 제공됩니다. 이러한 불일치 덕분에 이들의 운영 방식은 기존의 웹 스크래핑 도구의 감시망을 피할 수 있습니다.
이러한 전환을 숨기기 위해 이 그룹은 Keitaro와 같은 트래픽 라우팅 서비스를 사용하여 URL을 은폐하고 IP 평판, 기기 핑거프린트 또는 리퍼러 헤더에 따라 서로 다른 콘텐츠를 제공합니다. 그 결과, 일반적인 웹 환경에 섞여 들어가는 거대한 '유사(look-alike)' 도메인 네트워크가 형성되어 보안 봇이 이를 악성으로 분류하기 어렵게 만듭니다.
표준 탐지 방식이 한계를 보이는 이유
대부분의 안티 딥페이크 솔루션은 흐릿한 가장자리, 일관되지 않은 조명 또는 맞지 않는 립싱크와 같이 합성 영상임을 드러내는 시각적 아티팩트를 찾아내는 데 집중합니다. 이번 캠페인에서는 영상이 고품질 모델로 렌더링되었기 때문에 이러한 단서가 드뭅니다. 진짜 취약점은 얼굴의 기하학적 구조에 있습니다. 딥페이크 생성기는 종 often 얼굴 특징점(facial landmarks) 사이의 공간적 관계에서 미세한 불일치를 유발합니다.
따라서 단순히 "이 영상이 가짜인가?"를 확인하는 방식으로는 이 조직의 콘텐츠를 많이 놓치게 됩니다. 필요한 것은 영상에 나타난 얼굴을 알려진 신뢰할 수 있는 유명 인사의 이미지와 비교하는 검증(verification) 단계입니다.
검증 파이프라인 구축하기
개발자는 보안 워크플로우에 다음과 같은 세 가지 핵심 기능을 통합할 수 있습니다:
- 적응형 크롤링(Adaptive crawling) – 실제 사용자 에이전트를 모방하고, IP를 교체하며, 모바일 기기의 특성을 에뮬레이션하는 헤드리스 브라우저를 사용합니다. 이를 통해 '공사 중'이라는 미끼를 우회하고 실제 영상 페이로드를 가져올 수 있습니다.
- 생체 인식 비교(Biometric comparison) – 영상의 각 프레임에서 얼굴 특징점을 추출하고, 이를 실제 참조 사진의 특징점과의 유클리드 거리(Euclidean distance)로 계산합니다. 특징점 배치에서의 작고 일관된 오류는 딥페이크의 강력한 지표가 됩니다. 여러 프레임에 걸쳐 비교를 수행하면 일시적인 가려짐이나 조명 변화로 인한 오탐(false positives)을 줄일 수 있습니다.
- 탐지에서 검증으로의 전환(Shift from detection to verification) – 영상을 "잠재적 가짜"로 표시하는 대신, 검증된 소스와의 생체 인식 확인을 통과할 때까지 "미검증" 상태로 취급합니다. 일치하는 결과가 없으면 해당 콘텐츠를 격리하거나 사람의 검토를 위해 보낼 수 있습니다.
실제 구현 방식은 다음과 같을 수 있습니다:
- **크롤러(Crawler)**가 페이지를 가져오고, 리다이렉트를 따라가며, 최종 영상 URL을 기록합니다.
- **다운로더(Downloader)**가 영상을 가져와 주요 프레임(예: 초당 1개)으로 나눕니다.
- **얼굴 추출기(Face extractor)**가 경량 모델을 실행하여 각 프레임에서 얼굴을 찾아냅니다.
- **특징점 매칭기(Landmark matcher)**가 추출된 특징점과 유명 인사의 공식 초상화에서 추출된 특징점 사이의 유클리드 거리를 계산합니다.
- **점수 집계기(Score aggregator)**가 중앙값 거리가 미리 정의된 임계값을 초과하면 해당 영상을 플래그로 표시합니다.
운영 규모가 수천 개의 도메인에 걸쳐 있으므로 각 단계를 자동화하는 것이 필수적입니다. 얼굴 탐지 및 특징점 추출을 위한 오픈 소스 라이브러리를 쉽게 구할 수 있으며, 유클리드 거리 계산은 연산 비용이 저렴하여 파이프라인을 하루에 수만 개의 사이트까지 확장할 수 있습니다.
잠재적 반론
일부 보안 팀은 생체 인식 검증이 특히 공인의 참조 이미지를 저장해야 할 때 개인정보 보호 문제를 일으킨다고 주장합니다. 이에 대한 반론은 참조 세트를 공개적으로 사용 가능한 라이선스 사진으로 제한할 수 있으며, 비교 단계 이후에는 절대 저장하지 않을 수 있다는 것입니다. 수백만 명의 사용자가 투자금을 사기당할 위험이 미미한 데이터 처리 위험보다 훨씬 큽니다.
또 다른 반론은 유명 인사의 외모가 변함에 따라 참조 라이브러리를 최신 상태로 유지하는 데 드는 관리 부담입니다. 검증된 미디어에 새로운 사진이 나타날 때마다 점진적으로 업데이트를 추가함으로써, 전체를 다시 구축할 필요 없이 이 문제를 완화할 수 있습니다.
앞으로 주목해야 할 점
이 조직이 트래픽 마스킹 서비스에 의존하고 있다는 점은 해당 서비스에 차질이 생길 경우 캠페인이 일시적으로 약화될 수 있음을 의미하지만, 고품질 딥페이크와 결합된 동적 콘텐츠 전송이라는 근본적인 기술은 다른 사기 수법에서도 다시 나타날 가능성이 높습니다. 보안 업체들은 다음과 같은 유사한 패턴을 모니터링해야 합니다: 크롤러 시그니처에 따른 상이한 콘텐츠, 동일한 비디오 호스팅 버킷을 가리키는 도메인의 급격한 증가, 그리고 동일한 안면 기하학적 오류 시그니처의 반복적인 사용.
개발자들의 경우, 다음 단계는 의심스러운 도메인의 일부 하위 집합에 대해 검증 파이프라인을 프로토타입으로 제작하고 오탐률(false-positive rates)을 측정하는 것입니다. 조직 간에 탐지 시그니처를 공유하는 것 또한 노력의 중복을 줄일 수 있습니다.
핵심 요약: 15,500개 사이트에 달하는 딥페이크 사기는 정교함뿐만 아니라 규모 자체가 사기의 새로운 영역임을 보여줍니다. 적응형 크롤링과 프레임 단위의 생체 인식 검증을 결합함으로써, 보안 팀은 압도적인 문제를 자동화되고 측정 가능한 방어 체계로 전환할 수 있습니다.