Chatboty AI napędzają zaprzeczanie Holokaustowi

UNESCO i Organizacja Narodów Zjednoczonych wydały ostrzeżenie. Generatywna sztuczna inteligencja pomaga ludziom szerzyć zaprzeczanie Holokaustowi oraz fałszować historię.

Osoby działające w złej wierze wykorzystują AI do tworzenia ogromnych ilości fałszywych treści. Używają jej do tworzenia nieprawdziwych relacji świadków oraz zmanipulowanych zdjęć historycznych.

Obecne zasady bezpieczeństwa często zawodzą. Użytkownicy znajdują sposoby na obejście filtrów za pomocą prostych promptów. Nie proszą o zaprzeczenie wprost. Zamiast tego proszą AI o napisanie fikcyjnych opowieści, które podważają fakty historyczne.

Raport podkreśla kilka głównych zagrożeń:

  • Modele AI przewidują słowa na podstawie danych treningowych. Jeśli dane te zawierają teorie spiskowe, AI generuje fałszywe twierdzenia.
  • Zautomatyzowane skrypty generują tysiące fałszywych artykułów jednocześnie.
  • „Miękkie zaprzeczanie” (soft denial) wykorzystuje neutralny język, aby umniejszać skalę ludobójstwa. Maszynom trudno jest to wychwycić.
  • Deepfake'i wykorzystują sklonowane głosy i wideo, aby kłamstwa wyglądały na prawdziwe.
  • Generatory obrazów tworzą fotorealistyczne zdjęcia wydarzeń, które nigdy nie miały miejsca.

Istnieją również luki językowe. Zasady bezpieczeństwa są często silne w języku angielskim, ale słabe w językach takich jak arabski, francuski czy niemiecki. Pozwala to na globalne rozprzestrzenianie się dezinformacji.

UNESCO chce, aby firmy technologiczne brały większą odpowiedzialność. Sugerują, że firmy powinny ponosić odpowiedzialność za treści, które są sprzeczne z udowodnionymi faktami historycznymi.

Niektóre firmy stosują specjalne systemy do sprawdzania faktów w oficjalnych archiwach. Jednak nie jest to jeszcze standardowa praktyka.

Potrzebujemy lepszych kompetencji cyfrowych. Musimy rozumieć, jak działają modele AI i jak kształtują one informacje.

Źródło: https://dev.to/autonainews/unesco-warns-ai-chatbots-are-fueling-online-holocaust-denial-4a7e

Opcjonalna społeczność edukacyjna: https://t.me/GyaanSetuAi