Reddit rozpoczął wdrażanie moderacji opartej na sztucznej inteligencji, która pozwala nowym kontom na publikowanie postów bez konieczności wcześniejszego zdobycia wysokiego poziomu karma. Wczesne próby w kilku społecznościach wykazały 22-procentowy wzrost liczby postów od nowych użytkowników, przy jednoczesnym zachowaniu stabilnego poziomu nadużyć.

Dlaczego ta zmiana jest istotna

Do tej pory wiele subredditów wymagało osiągnięcia minimalnego poziomu karma lub określonego wieku konta, zanim użytkownicy mogli zacząć publikować treści. Zasady te chronią przed spamem i nękaniem, ale jednocześnie blokują uprawnionych, nowych użytkowników, zwłaszcza w niszowych lub szybko rozwijających się tematach. Zastępując barierę opartą na reputacji „wskaźnikiem zaufania” generowanym przez AI, Reddit ma nadzieję zmniejszyć trudności w uczestnictwie i zwiększyć zaangażowanie społeczności.

Technologia stojąca za tym ruchem

Inżynierowie Reddita zbudowali modele uczenia maszynowego, które skanują każdy post i komentarz w czasie rzeczywistym. System czerpie wiedzę z milionów wcześniejszych decyzji moderacyjnych, co daje mu szerszą perspektywę niż filtry oparte na sztywnych regułach, które wcześniej sprawdzały treści. Do jego możliwości należą:

  • Analiza języka, która flaguje toksyczne wzorce wypowiedzi.
  • Rozpoznawanie obrazu i wideo, które wykrywa nadużycia wizualne.
  • Dynamiczne zestawy reguł, które dostosowują się do zmieniającego się natężenia ruchu w każdej społeczności.

Co to oznacza dla nowych użytkowników

  1. Mniej „grindowania” karma – Użytkownicy mogą dzielić się pomysłami bez konieczności wcześniejszego zbierania upvotes.
  2. Wskaźniki zaufania zamiast sprawdzania wieku konta – AI ocenia jakość zgłoszeń zamiast wieku konta.
  3. Większa różnorodność punktów widzenia – Osoby, które czuły się wykluczone przez wysokie bariery wejścia, mogą teraz dołączyć do dyskusji.

Wczesne wyniki

W subredditach takich jak r/technology, pilotaż przyniósł 22-procentowy wzrost aktywności nowych użytkowników. Co kluczowe, proporcja zgłoszonego spamu lub nękania nie wzrosła, co sugeruje, że AI utrzymuje odpowiedni stosunek istotnych treści do szumu, jednocześnie otwierając przestrzeń dla nowych osób.

Ludzka siatka bezpieczeństwa

Reddit przyznaje, że AI nie jest nieomylna. Mechanizm odwoławczy pozwala użytkownikom kwestionować decyzje o usunięciu treści, a ludzcy moderatorzy rozpatrują te odwołania. Przeglądy te trafiają z powrotem do danych treningowych, co z czasem usprawnia model.

Na co warto zwrócić uwagę w przyszłości

  • Skalowanie modelu – Czy AI utrzyma swoją dokładność podczas wdrażania na setki tysięcy subredditów na platformie?
  • Obciążenie moderatorów – Opinie społeczności mogą wpłynąć na to, jak system będzie modyfikowany.