AI 챗봇, 홀로코스트 부정 조장
유네스코(UNESCO)와 유엔(UN)이 경고를 발표했습니다. 생성형 AI가 홀로코스트 부정과 왜곡된 역사를 퍼뜨리는 데 일조하고 있습니다.
악의적인 행위자들은 AI를 이용해 방대한 양의 가짜 콘텐츠를 생성합니다. 이들은 가짜 목격담을 만들거나 역사적 사진을 조작하는 데 AI를 활용합니다.
현재의 안전 규칙은 제대로 작동하지 않는 경우가 많습니다. 사용자들은 간단한 프롬프트를 통해 필터를 우회하는 방법을 찾아냅니다. 이들은 직접적으로 부정을 요구하지 않습니다. 대신, 역사적 사실에 의문을 제기하는 허구의 이야기를 써달라고 AI에게 요청합니다.
보고서는 다음과 같은 몇 가지 주요 위험을 강조합니다:
- AI 모델은 학습 데이터를 기반으로 단어를 예측합니다. 만약 해당 데이터에 음모론이 포함되어 있다면, AI는 허위 주장을 생성합니다.
- 자동화된 스크립트는 수천 개의 가짜 기사를 한꺼번에 생성합니다.
- "완곡한 부정(Soft denial)"은 중립적인 언어를 사용하여 제노사이드의 규모를 축소합니다. 이는 기계가 감지하기 어렵습니다.
- 딥페이크는 복제된 목소리와 영상을 사용하여 거짓을 사실처럼 보이게 만듭니다.
- 이미지 생성기는 실제로 일어나지 않은 사건을 실사처럼 정교한 사진으로 만들어냅니다.
언어적 격차도 존재합니다. 안전 규칙은 영어에서는 강력한 경우가 많지만, 아랍어, 프랑스어, 독일어와 같은 언어에서는 취약합니다. 이로 인해 잘못된 정보가 전 세계적으로 확산될 수 있습니다.
유네스코는 기술 기업들이 더 많은 책임을 지기를 원합니다. 유네스코는 기업이 입증된 역사적 사실과 상충하는 결과물에 대해 책임을 져야 한다고 제안합니다.
일부 기업은 공식 기록물과 대조하여 사실 여부를 확인하는 특수 시스템을 사용하고 있습니다. 하지만 이는 아직 표준적인 관행은 아닙니다.
더 나은 디지털 리터러시가 필요합니다. AI 모델이 어떻게 작동하는지, 그리고 AI가 정보를 어떻게 형성하는지 이해해야 합니다.
출처: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e
선택 사항 학습 커뮤니티: https://t.me/GyaanSetuAi