Anthropic의 Claude에서 개인적인 대화와 "Artifacts"가 Google 검색 결과에 노출되는 개인정보 취약점이 발견되었습니다. 이 사건은 AI 시대에 사용자의 공유 기능과 웹 인덱싱 간의 충돌을 보여줍니다.
노출 메커니즘
Reddit 사용자들이 site:claude.ai/share와 같은 Google 연산자를 사용하여 이 유출을 발견했습니다. 이는 "채팅 공유" 기능의 의도된 개인정보 보호를 우회한 것입니다. Claude는 "링크가 있는 누구나 볼 수 있다"고 경고하지만, 이 기능은 전 세계적인 노출이 아닌 특정 대상을 위한 공유를 목적으로 설계되었습니다.
기본적으로 크롤러를 차단하는 Google Docs와 달리, Claude의 공유 URL은 Google에 의해 인덱싱되어 일반 검색을 통해 누구나 민감한 정보에 접근할 수 있게 되었습니다.
위험에 처한 민감한 데이터 및 콘텐츠
Futurism과 TechCrunch 같은 매체들은 인덱싱된 결과에 다음 내용이 포함되어 있다고 보도했습니다:
- 개인 식별 정보 (PII): 초등학생 자녀의 이름 및 전화번호.
- 의료 기록: 상세한 임상 시험 결과 및 실제 환자 보고서.
- 기업 기밀: "내부용"으로 표시된 문서 및 직원 성과 검토서.
- 기술 자산: Claude의 "Artifacts" 기능에서 생성된 코드 스니펫 및 작업 노트.
일부 노출된 채팅은 Anthropic의 안전 필터를 통과하여 성적으로 노골적인 콘텐츠를 포함하고 있었으며, 이는 추가적인 모니터링 문제를 제기했습니다.
Anthropic과 Google의 대응
Anthropic은 검색 엔진에 채팅 디렉토리나 사이트맵을 공유하지 않는다며 자사의 아키텍처를 옹호했습니다. 대변인 Amie Rotherham은 공유 링크가 사용자에 의해 외부의 크롤링 가능한 플랫폼에 게시된 후에만 검색 결과에 나타나며, 해당 URL은 "추측할 수 없는" 형태라고 설명했습니다. 일단 링크가 "외부로 유출되면" 제3자에 의해 아카이브될 수 있습니다.
Google의 대변인 Ned Adriance는 사이트 소유자가 크롤링을 명시적으로 차단하지 않는 한 검색 엔진은 찾을 수 있는 모든 것을 인덱싱한다고 덧붙였습니다. 테스트 결과 해당 노출은 Google 인덱스에서 제거된 것으로 보이지만, 작년에도 유사한 사건으로 수백 개의 Claude 채팅이 인덱싱된 바 있습니다.
AI 사용자에게 이것이 중요한 이유
LLM을 통합하는 개발자와 창업자는 "공유 링크"를 보안이 유지되는 링크가 아닌 공개된 링크로 취급해야 합니다. AI 도구가 개인 비서에서 기업용 협업 도구로 전환됨에 따라, 공개 웹 콘텐츠와 개인 데이터 사이의 경계는 단순한 툴팁 경고가 아닌 기술적인 강제 조치가 필요합니다.
핵심 요약
- 설정 점검: Claude의 Settings → Privacy → Shared Chats로 이동하여 활성화된 모든 공개 링크를 취소하십시오.
- 공유 링크는 공개된 것으로 간주: AI가 생성한 모든 링크는 검색 엔진에 의해 인덱싱될 수 있다고 가정하십시오.
- 기업 차원의 주의: 독점 코드나 민감한 PII가 실수로 유출되는 것을 방지하기 위해 "공유" 기능에 대한 엄격한 정책을 시행하십시오.
Anthropic의 Claude AI 플랫폼은 Google이 공유 링크 URL을 인덱싱하면서 개인적인 채팅과 "Artifacts"가 의도치 않게 노출되어 민감한 대화가 검색 가능해졌습니다. Reddit 사용자들이 사이트 특정 Google 쿼리로 유출을 발견했으며, 이를 통해 개인, 의료 및 기업 데이터가 노출되었습니다.
노출 발생 경위
Claude의 "채팅 공유" 기능은 인터페이스에서 링크를 가진 누구나 볼 수 있다고 경고하는 URL을 생성합니다. 이 기능의 의도는 동료에게 링크를 전달하는 것이지, 이를 방송하듯 퍼뜨리는 것이 아닙니다. URL이 claude.ai/share 도메인 아래에 있기 때문에, 포럼, 소셜 미디어 또는 Reddit 댓글과 같이 공개적으로 크롤링 가능한 사이트에 링크를 게시하면 Google 크롤러가 이를 따라가게 됩니다.
Reddit 사용자들은 Google에서 site:claude.ai/share를 검색하여 비공개로 유지되어야 할 대화들이 검색되는 문제를 발견했습니다. 공유 링크가 기본적으로 인덱싱으로부터 보호되는 Google Docs와 달리, Claude의 링크에는 그러한 보호 장치가 없어 검색 엔진이 이를 카탈로그화할 수 있었습니다.
노출된 내용
여러 매체는 인덱싱된 결과에 다음 내용이 포함되어 있다고 보도했습니다:
- 개인 식별 정보 (PII): 초등학생 자녀의 이름 및 전화번호.
- 의료 기록: 상세한 임상 시험 데이터 및 실제 환자 보고서.
- 기업 기밀: "내부용"으로 표시된 문서, 직원 성과 검토서 및 기타 독점 정보.
- 기술 자산: Claude의 "Artifacts" 기능 내에서 생성된 코드 스니펫, 작업 노트 및 기타 아티팩트.
몇몇 사례에서는 공개적으로 보이는 채팅에 Anthropic의 안전 필터를 통과한 성적으로 노골적인 자료가 포함되기도 했습니다.
Anthropic의 대응
Anthropic은 검색 엔진을 위해 채팅 디렉토리나 사이트맵을 게시하지 않는다는 입장을 유지하고 있습니다. 회사 대변인은 공유된 링크가 검색 결과에 나타나는 것은 사용자가 외부의 크롤링 가능한 플랫폼에 URL을 게시한 이후에만 발생하는 일이라고 설명하며, 해당 URL은 "추측할 수 없다"는 점을 강조했습니다. 일단 링크가 온라인에 의도적으로 공유되면, 회사는 제3자의 아카이빙을 통제할 수 없습니다.
Google의 입장
Google은 어떤 콘텐츠를 공개할지 결정하는 것은 자신들이 아니며, 사이트가 크롤링을 명시적으로 차단하지 않는 한 발견할 수 있는 것을 인덱싱한다고 재차 밝혔습니다. Google은 제외를 요청하는 robots.txt나 메타 태그와 같은 지침을 준수한다고 말했습니다. 이번 사건 이후 진행된 예비 테스트 결과, 노출된 URL이 Google 인덱스에서 제거된 것으로 보이지만, Google 측에서 영구적인 해결책을 확인해 주지는 않았습니다.
이것이 AI 사용자에게 중요한 이유
이번 사건은 거대 언어 모델(LLM)이 개인용 비서에서 기업용 워크플로우로 확장됨에 따라 발생하는 더 광범위한 위험을 조명합니다. "공유 가능한 링크"는 모든 크롤러가 수집할 수 있는 편의 기능입니다. 의료 기록, 직원 평가, 독점 코드와 같이 규제 대상 데이터를 다루는 조직의 경우, 링크가 "단순히 공유되었을 뿐"이기에 안전할 것이라는 가정이 막대한 비용이 드는 데이터 유출로 이어질 수 있습니다.
반론: 플랫폼의 한계
Anthropic은 링크를 게시하는 사용자의 책임이라고 주장합니다. 플랫폼 측은 URL을 가진 사람이라면 누구나 콘텐츠를 볼 수 있다고 경고하며, 공개 디렉토리에 URL을 노출하지 않는다고 설명합니다. 이에 대해 Google은 표면화되는 모든 비공개 링크를 감시할 수는 없으며, 자신들의 역할은 검색 결과에서 제외해 달라는 사이트 소유자의 요청을 존중하는 것이라고 반박합니다.
두 입장 모두 기술적으로는 정확하지만, 간극이 존재합니다. 사용자 경험 측면에서 인덱싱 위험이 명확하게 드러나지 않으며, 플랫폼이 공유된 페이지에 "no-index" 지침을 자동으로 적용하지도 않기 때문입니다. 따라서 실수로 인한 공개 노출을 방지해야 하는 부담은, 단순한 검색 쿼리를 통해 링크가 얼마나 쉽게 발견될 수 있는지 인지하지 못할 수 있는 사용자에게 전가됩니다.
향후 주목할 점
사용자를 위한 실질적인 조치
- 활성 링크 점검: Claude의 설정을 열고 공유 채팅에 대한 개인정보 보호 섹션으로 이동하여, 더 이상 필요하지 않은 모든 URL을 취소하십시오.
- 모든 공유 링크를 공개된 것으로 간주: 링크가 온라인 어디든 게시되면, 명시적으로 차단되지 않는 한 인덱싱될 수 있다고 가정하십시오.
- 기업용 제어 도구: "PII(개인정보)", "confidential(기밀)", 또는 "internal(내부용)"과 같은 키워드가 포함된 공유 링크 생성을 감지하는 모니터링 도구를 도입하고, 이러한 링크가 기업 네트워크 외부로 나가기 전에 승인 워크플로우를 강제하십시오.
Claude 사건은 웹이 해당 링크를 일반 페이지로 취급할 때, 즉각적인 공유의 편리함이 오히려 취약점이 될 수 있음을 상기시켜 줍니다. 플랫폼이 공유된 URL을 자동으로 보호하기 전까지, 사용자는 경각심을 유지해야 합니다.