때로는 반발이 제품 설명서보다 더 빨리 도착하기도 합니다. Meta는 Muse Image AI 모델 내에 새로운 기능을 조용히 출시했다가, 며칠 후 거센 비판에 직면하여 태도를 급선회하며 이를 뼈저리게 깨달았습니다. 이 도구는 Instagram 사용자가 프롬프트에 공개 계정을 태그하기만 하면 AI 이미지를 생성할 수 있게 해주었습니다. 사용자는 @멘션을 입력함으로써 시스템이 대상 계정의 외형, 미적 스타일 또는 게시된 콘텐츠를 바탕으로 새로운 비주얼을 합성하도록 지시할 수 있었습니다. Meta는 현재 이 기능을 완전히 비활성화했습니다. 이번 사건은 플랫폼 전반에 생성형 AI를 통합하려는 회사의 최근 행보 중 가장 갑작스러운 후퇴 중 하나로 기록될 것입니다.
분노를 촉발한 기능
작동 방식은 간단했고, 바로 그 점이 문제였습니다. 사용자가 Meta AI를 열고 원하는 이미지를 설명하면서 공개된 Instagram 핸들을 참조하면 되었습니다. 그러면 모델은 해당 계정의 공개된 사진을 분석하여 대상의 얼굴, 체형, 의상 스타일 또는 예술적 접근 방식을 반영한 파생 이미지를 생성했습니다. 프로필을 공개로 설정한 배우, 사진작가, 모델 및 일반 사용자들에게 이는 어떠한 직접적인 요청이나 경고 없이도 자신의 디지털 정체성이 재조합될 수 있음을 의미했습니다.
Meta는 이 기능을 창의적 가속기(creative accelerator)라고 홍보했습니다. 회사는 팬들이 자신이 좋아하는 크리에이터나 아티스트의 스타일을 살린 초상화를 만들거나 시각적 테마를 활용해 변주하는 모습을 상상했을 것입니다. 하지만 의도와 구현 사이의 간극은 매우 컸습니다. 이 도구는 계정 소유자의 명시적인 동의를 필요로 하지 않았기 때문에, 모든 공개 프로필은 키보드를 가진 누구에게나 잠재적인 원재료가 되었습니다. 비공개 계정은 영향을 받지 않았지만, 직업적 또는 사회적 이유로 프로필을 공개로 유지하는 수백만 명의 사용자들에게 플랫폼은 사실상 그들의 외형이 알고리즘에 의한 재사용에 개방되었음을 선언한 셈이었습니다. 이는 전통적인 의미의 대규모 데이터 스크래핑이 아니었습니다. 특정 인물을 대상으로 한 온디맨드(on-demand) 합성 방식이었습니다.
비판론자들은 이것이 디지털 동의의 기본 논리를 뒤집었다고 즉각 지적했습니다. 광범위한 서비스 약관 하에 개인 이미지를 제3자가 사용할 수 있도록 허용하는 대부분의 플랫폼이라 할지라도, 무작위 사용자가 타인의 외형을 마음대로 복제할 수 있도록 통제권을 넘겨주지는 않습니다. 이 차이는 매우 중요합니다. 학습 데이터셋을 위해 공개 사진을 수동적으로 스크래핑하는 것은 하나의 윤리적 쟁점이지만, 특정 개인과 연관된 능동적이고 사용자 주도적인 딥페이크 생성은 전혀 다른 문제입니다. 공개 계정을 AI 합성의 표적으로 만듦으로써, Meta는 공개적인 노출과 정체성 권리의 공개적 포기 사이의 경계를 모호하게 만들었습니다.
개인정보 보호 위험과 "옵트아웃(Opt-Out)" 문제
비판은 여러 방향에서 날카롭게 쏟아졌습니다. 개인정보 보호 옹호론자, 창작자 노조, 안전 기구 모두가 Meta가 시스템을 거꾸로 구축했다고 지적하며 나섰습니다.
국립 성 착취 센터(National Center on Sexual Exploitation)의 상임 이사인 헤일리 맥나마라(Haley McNamara)는 이 기능이 성적 협박(sextortion) 및 기타 사기 행위의 명백한 도구가 될 수 있다고 경고했습니다. 그녀의 우려는 가설에 그치는 것이 아니었습니다. 생성형 도구가 발전함에 따라 이미지 기반 학대도 급증했습니다. 어떤 사용자든 타인의 외형을 즉각적으로 흉내 내어 임의의 상황에 배치할 수 있게 하는 시스템은, 이전에는 최소한의 기술적 숙련도가 필요했던 과정에서 진입 장벽을 없애버립니다. Meta의 기능은 본질적으로 이미지 기반 착취의 첫 단계를 산업화한 것이나 다름없었습니다.
상황을 더욱 복잡하게 만든 것은