독일의 시민단체 AlgorithmWatch의 새로운 연구에 따르면, Google의 AI Overviews가 선거 관련 질의를 처리하는 방식에서 상당한 불일치와 잠재적 편향성이 드러났습니다. 연구 결과, AI가 생성한 요약은 투명성이 부족하고, 좁은 범위의 출처를 활용하며, 때로는 정치 후보자를 묘사할 때 당파적인 언어를 사용하는 것으로 나타났습니다.

불일치하는 트리거와 투명성 부족

AlgorithmWatch는 EU의 디지털 서비스법(Digital Services Act)에 따른 "Search Researcher Result API"를 사용하여 독일의 차기 주 선거에 관한 4,480개의 검색 질의를 조사했습니다. 데이터에 따르면 Google의 AI 기능 배포에 뚜렷한 격차가 있음이 드러났습니다. AI Overviews는 비정치적 검색의 65.3%에서 나타나지만, 선거 관련 질의에서는 39.1%로 떨어집니다.

트리거 메커니즘은 여전히 블랙박스 상태입니다. 정치 여론조사에 관한 질문은 거의 항상 요약을 생성하지 않는 반면, 특정 정당에 관한 질의는 40%50%의 확률로 요약을 생성합니다. 극우 정당인 AfD는 다른 정당의 45%58%와 비교했을 때 단 24%의 경우에만 요약이 제공됩니다. Google은 이 기능이 가치를 더하며 모든 검색에 표시되는 것은 아니라고 말하지만, 요약이 나타나는 시점을 결정하는 정확한 기준은 공개하지 않고 있습니다.

협소한 정보 생태계와 YouTube의 지배력

AlgorithmWatch는 출처의 균질성 문제도 지적했습니다. AI Overviews에서 인용된 링크의 거의 절반이 단 10개의 도메인에서 나오며, YouTube가 그 목록의 최상단을 차지하고 있습니다. 독일 공영 방송사인 NDR, rbb, MDR, ARD가 미디어 인용을 주도하고 있지만, 단 6개의 미디어 사이트가 전체 미디어 링크의 75%를 공급하고 있습니다.

AI는 종종 정당의 공식 페이지를 당파적이라고 표시하지 않은 채 인용하여, 저널리즘과 선거 캠페인 자료 사이의 경계를 모호하게 만듭니다.

당파적 프레이밍과 "아첨(Sycophancy)" 문제

언어적 어조는 민주주의에 대한 우려를 불러일으킵니다. AlgorithmWatch는 정치적 입장이 "실용적인(pragmatic)" 또는 "안정적인(stable)"과 같이 정당의 자체 브랜딩을 반영하는 아첨하는 듯하고 모호한 형용사로 자주 묘사된다는 것을 발견했습니다. 작센안할트(Saxony-Anhalt)의 샘플 조사 결과, 중도 우파 CDU에 관한 요약의 81.5%가 "명확하게 긍정적"인 것으로 판단된 반면, SPD는 50%, AfD는 0%였습니다.

사실 관계의 오류는 드물었지만, 모델은 입력값이나 출처 자료의 어조를 그대로 반영하려는 경향인 "아첨(sycophancy)" 현상을 보였습니다. 이로 인해 동일한 후보자에 대해 한 사례에서는 "국가 보수주의자(national-conservative)", 다른 사례에서는 "급진적 극우(radical far-right)"와 같이 명확한 패턴 없이 모순된 라벨이 생성되었습니다.

핵심 요약

  • 알고리즘의 불투명성: Google은 정치적 질의에 대해 AI Overviews를 트리거하는 명확한 기준을 제공하지 않으며, 이로 인해 불균등한 사용자 경험이 발생합니다.
  • 출처의 집중화: AI는 매우 제한된 범위의 출처에 의존하며, YouTube와 소수의 미디어 매체가 인용의 대부분을 차지합니다.
  • 언어적 편향: 모델은 아첨하는 듯하고 긍정적으로 들리는 언어를 선호하며, 이는 의도치 않게 특정 정당에 유리하게 작용할 수 있습니다.