Reddit hat mit der Einführung einer KI-gestützten Moderation begonnen, die es neuen Konten ermöglicht, Beiträge zu posten, ohne zuvor hohe Karma-Werte erreicht zu haben. Erste Tests in einer Handvoll Communities zeigten einen Anstieg der Beiträge von Neulingen um 22 %, während das allgemeine Missbrauchsniveau stabil blieb.

Warum dieser Wandel wichtig ist

Bisher erforderten viele Subreddits ein Mindest-Karma oder eine bestimmte Konten-Altersschwelle, bevor Nutzer Beiträge verfassen konnten. Diese Regeln halten Spam und Belästigungen fern, blockieren aber auch legitime Erstposter, insbesondere in Nischen- oder schnell wachsenden Themenbereichen. Durch den Austausch einer reputationsbasierten Hürde gegen einen KI-generierten „Trust Score“ hofft Reddit, Reibungsverluste zu verringern und die Beteiligung zu erhöhen.

Die Technologie hinter diesem Schritt

Reddit-Ingenieure haben Machine-Learning-Modelle entwickelt, die jeden Post und Kommentar in Echtzeit scannen. Das System greift auf Millionen vergangener Moderationsentscheidungen zurück, was ihm eine breitere Perspektive verleiht als die regelbasierten Filter, die Inhalte zuvor gefiltert haben. Zu seinen Fähigkeiten gehören:

  • Sprachanalyse, die toxische Sprachmuster erkennt.
  • Bild- und Videoerkennung, die visuellen Missbrauch aufspürt.
  • Dynamische Regelsätze, die sich an schwankende Traffic-Volumina in jeder Community anpassen.

Was dies für neue Nutzer bedeutet

  1. Weniger „Grinden“ für Karma – Nutzer können Ideen teilen, ohne vorher Upvotes sammeln zu müssen.
  2. Trust Scores ersetzen Altersprüfungen – Die KI bewertet die Qualität der Beiträge anstelle des Kontonalters.
  3. Vielfältigere Perspektiven – Menschen, die sich durch hohe Einstiegshürden ausgeschlossen fühlten, können nun an Diskussionen teilnehmen.

Erste Ergebnisse

In Subreddits wie r/technology verzeichnete das Pilotprojekt einen Anstieg der Aktivität von neuen Postern um 22 %. Entscheidend ist, dass der Anteil an markiertem Spam oder Belästigungen nicht anstieg, was darauf hindeutet, dass die KI das Signal-Rausch-Verhältnis unter Kontrolle hält, während sie gleichzeitig neuen Nutzern eine Plattform bietet.

Das menschliche Sicherheitsnetz

Reddit räumt ein, dass KI nicht unfehlbar ist. Ein Einspruchsmechanismus ermöglicht es Nutzern, Entscheidungen über die Entfernung von Inhalten anzufechten, woraufhin menschliche Moderatoren diese Einsprüche prüfen. Diese Überprüfungen fließen zurück in die Trainingsdaten und schärfen das Modell im Laufe der Zeit.

Worauf man als Nächstes achten sollte

  • Skalierung des Modells – Wird die KI ihre Genauigkeit beibehalten, wenn sie auf die Hunderttausende von Subreddits der Plattform ausgeweitet wird?
  • Arbeitsbelastung der Moderatoren – Das Feedback der Community könnte beeinflussen, wie das System angepasst wird.