Pangram은 스탠퍼드 AI 졸업생인 Max Spero와 Bradley Emi가 설립한 뉴욕 스타트업으로, Menlo Ventures가 주도한 900만 달러 규모의 시리즈 A 투자를 유치했습니다. 이 자금은 플랫폼용 API와 월 20달러의 크롬 확장 프로그램을 개발하는 데 사용될 예정입니다. 이 확장 프로그램은 AI가 작성한 텍스트를 99%의 정확도로 식별할 수 있다고 주장하며, 이는 기자, 학자, 채용 담당자들이 진위 여부를 확인하는 방식을 재편할 수 있습니다.

AI 생성 '슬롭(slop)'의 급증

거대 언어 모델(LLM)은 이제 기사, 소셜 미디어 게시물, 심지어 법적 인용문까지 대량으로 찍어내고 있습니다. 그 결과 저품질 SEO 스팸, 조직적인 허위 정보 캠페인, 그리고 인간이 AI 초안을 다듬는 회색 지대가 범람하고 있습니다. 기관들도 이미 대응에 나서고 있습니다. 프리프린트 서버인 arXiv는 검토되지 않은 LLM 결과물을 제출하는 저자에게 1년간의 금지 조치를 내릴 수 있다고 경고했으며, 법원은 AI가 만들어낸 허위 인용문에 의존하는 변호사들에게 제재를 가하기 시작했습니다. 인간의 결과물과 기계의 결과물을 구분해야 한다는 압박이 커지고 있으며, Pangram은 자사의 기술이 기본 검증 레이어가 될 것이라고 확신하고 있습니다.

합성 미러링: 모든 문서의 쌍둥이로 학습하기

Pangram의 주력 모델인 Pangram 4는 회사가 '합성 미러링(synthetic mirroring)'이라 부르는 방식을 사용합니다. 수천만 개의 검증된 데이터로 구성된 학습 세트 내의 각 인간 작성 문서에 대해, 팀은 최첨단 LLM을 사용하여 그에 대응하는 쌍둥이 문서를 생성했습니다. 이 합성 쌍둥이는 주제, 길이, 어조 면에서 원본과 일치하지만 AI가 생성한 것입니다. Pangram은 두 버전을 동일한 신경망에 입력함으로써, 작성자가 기계의 결과물을 숨기기 위해 설계된 'AI 휴머나이저(AI humanizer)' 도구를 사용하더라도 AI 생성 텍스트 전반에 걸쳐 지속되는 미세한 통계적 지문을 찾아내도록 모델을 학습시킵니다.

경쟁사들은 메타데이터나 보이지 않는 워터마크에 의존하지만, 이는 제거되거나 무시될 수 있습니다. 반면 Pangram은 문체 분석에 집중합니다. 즉, 모델의 출력물 전반에 걸쳐 일관하게 나타나는 단어 선택, 문장 리듬, 토큰 분포의 패턴을 분석합니다. 회사의 발표에 따르면, 내부 테스트에서 이 시스템은 AI 보조 글쓰기를 99%의 정확도로 식별해냈습니다.

API에서 브라우저까지: 기술이 적용되는 곳

Pangram은 단일 목적의 앱이라기보다 인프라로서 자신을 포지셔닝하고 있습니다. 이 회사의 API는 이미 Substack과 통합되어 있으며, 이곳의 뉴스레터에는 AI 생성 콘텐츠의 비율을 나타내는 라벨이 표시됩니다. 초기 도입 기업으로는 Q&A 플랫폼인 Quora, 여러 대학의 글쓰기 센터, 그리고 지원자의 제출물 진위 여부를 확인해야 하는 채용 대행사 등이 있습니다.

개인 사용자를 위해 이 스타트업은 X, LinkedIn, Reddit, Medium과 같은 사이트 위에 '피드 건강 점수(feed health score)'를 표시하는 크롬 확장 프로그램을 제공합니다. 이 점수는 모델이 판단한 인간 대 AI 텍스트의 비율을 세분화하여 보여줍니다. 구독자는 월 20달러를 지불하고 실시간 라벨링 기능과 의심스러운 구절을 추가 검토를 위해 표시할 수 있는 기능을 이용할 수 있습니다.

회의적인 시각

정확도에 대한 주장은 필연적으로 정밀 조사를 불러옵니다. 작성자가 모델이 생성한 초안을 편집하는 '회색 지대'에서 AI의 도움을 감지하는 것은 여전히 어려운 과제입니다. 생성형 모델이 발전함에 따라 Pangram이 의존하는 문체적 격차가 좁아질 수 있으며, 이는 탐지 기술과 회피 기술 간의 군비 경쟁을 촉발할 수 있습니다. 또한 비판론자들은 '거짓 양성(false positives)'의 위험을 경고합니다. 정당한 인간의 저작물을 AI 생성물로 잘못 분류하면, 특히 이해관계가 큰 학술적 또는 법적 맥락에서 명성에 타격을 줄 수 있기 때문입니다.

Pangram은 새로운 LLM이 등장할 때마다 최신 합성 미러를 통해 모델을 지속적으로 재학습시키고 있다고 언급하며 이러한 도전을 인정하고 있습니다. 그러나 회사는 내부 테스트 결과 외에 독립적인 벤치마크 결과를 공개하지 않았으며, 99%라는 수치의 진위는 커뮤니티의 검증에 맡겨진 상태입니다.

주목해야 할 점

향후 몇 달 동안 Pangram이 파일럿 통합 단계를 넘어 더 넓은 플랫폼 채택으로 이어질 수 있을지가 드러날 것입니다. 주요 지표는 다음과 같습니다:

  • API 계약의 확장 (현재의 초기 파트너 목록을 넘어선 범위)
  • 기관 사용자들의 피드백 (오탐률 및 편집 워크플로우에 미치는 영향에 대하여)
  • LLM 개발사들의 반응 (인간의 문체를 더 밀접하게 모방하도록 모델 업데이트로 대응할 가능성)
  • 규제 발전 상황 (특정 출판물이나 학술 제출물에 대해 AI 탐지 도구를 의무화할 가능성)

만약 이 스타트업이 낮은 오류율을 유지하면서 탐지 우위를 지켜낸다면, 디지털 진위 여부의 사실상 표준(de-facto standard)이 될 수 있습니다. 그렇지 않다면 시장은 각기 다른 장단점을 가진 경쟁 도구들이 뒤섞인 파편화된 상태가 될 수도 있습니다.

요약

Pangram의 900만 달러 규모의 투자 유치는 거의 완벽한 수준의 AI 지원 탐지를 구현하기 위해 '쌍 문서(twin-document)' 학습 체계에 기반한 탐지 전략에 동력을 제공합니다. 이 기술의 성공 여부는 진화하는 언어 모델 전반에 걸쳐 확장성을 확보할 수 있는지, 그리고 기술을 가장 필요로 하는 플랫폼과 기관으로부터 신뢰를 얻을 수 있는지에 달려 있습니다.