AI-Chatbots befeuern Holocaustleugnung

Die UNESCO und die Vereinten Nationen haben eine Warnung herausgegeben. Generative KI hilft dabei, Holocaustleugnung und falsche Geschichtsschreibung zu verbreiten.

Böswillige Akteure nutzen KI, um große Mengen an gefälschten Inhalten zu erstellen. Sie verwenden sie, um gefälschte Augenzeugenberichte und manipulierte historische Fotos zu erstellen.

Aktuelle Sicherheitsregeln versagen oft. Nutzer finden Wege, Filter durch einfache Prompts zu umgehen. Sie fragen nicht direkt nach einer Leugnung. Stattdessen bitten sie die KI, fiktive Geschichten zu schreiben, die historische Fakten infrage stellen.

Der Bericht hebt mehrere große Risiken hervor:

  • KI-Modelle sagen Wörter basierend auf Trainingsdaten voraus. Wenn diese Daten Verschwörungstheorien enthalten, produziert die KI falsche Behauptungen.
  • Automatisierte Skripte generieren tausende gefälschte Artikel auf einmal.
  • „Soft Denial“ nutzt eine neutrale Sprache, um das Ausmaß des Genozids zu verharmlosen. Dies ist für Maschinen schwer zu erkennen.
  • Deepfakes nutzen geklonte Stimmen und Videos, um Lügen echt erscheinen zu lassen.
  • Bildgeneratoren erstellen fotorealistische Fotos von Ereignissen, die nie stattgefunden haben.

Es bestehen auch Sprachlücken. Sicherheitsregeln sind auf Englisch oft stark, aber in Sprachen wie Arabisch, Französisch oder Deutsch schwach. Dies ermöglicht es Desinformation, sich weltweit zu verbreiten.

Die UNESCO fordert von Technologieunternehmen mehr Verantwortung. Sie schlägt vor, dass Unternehmen für Outputs haftbar gemacht werden sollten, die bewiesenen historischen Fakten widersprechen.

Einige Unternehmen nutzen spezielle Systeme, um Fakten mit offiziellen Archiven abzugleichen. Dies ist jedoch noch keine Standardpraxis.

Wir benötigen eine bessere digitale Kompetenz. Man muss verstehen, wie KI-Modelle funktionieren und wie sie Informationen formen.

Quelle: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e

Optionale Lerngemeinschaft: https://t.me/GyaanSetuAi