Reddit почав впроваджувати модерацію на основі ШІ, яка дозволяє новим акаунтам робити публікації, не набираючи спочатку високий рівень карми. Перші випробування в кількох спільнотах показали зростання кількості дописів від новачків на 22%, тоді як загальний рівень порушень залишився стабільним.

Чому ці зміни важливі

Досі багато сабреддитів вимагали мінімального рівня карми або певного віку акаунта, перш ніж користувачі могли робити внесок у спільноту. Ці правила запобігають спаму та цькуванню, але вони також блокують добропорядних користувачів, які публікують дописи вперше, особливо в нішевих або таких, що швидко розвиваються темах. Замінивши систему доступу на основі репутації на згенерований ШІ «рейтинг довіри», Reddit сподівається зменшити бар'єри та розширити участь користувачів.

Технологія, що стоїть за цим кроком

Інженери Reddit розробили моделі машинного навчання, які сканують кожен допис і коментар у режимі реального часу. Система спирається на мільйони попередніх рішень щодо модерації, що дає їй ширший погляд, ніж фільтри на основі правил, які використовувалися раніше. Її можливості включають:

  • Аналіз мови, який виявляє токсичні моделі спілкування.
  • Розпізнавання зображень і відео, яке фіксує візуальні порушення.
  • Динамічні набори правил, що адаптуються до змін обсягів трафіку в кожній спільноті.

Що це означає для нових користувачів

  1. Менше необхідності «набивати» карму — користувачі можуть ділитися ідеями, не збираючи спочатку апвоути.
  2. Рейтинги довіри замість перевірки віку — ШІ оцінює якість публікації замість віку акаунта.
  3. Більш різноманітні точки зору — люди, які відчували себе відкинутими через високі бар'єри входу, тепер можуть долучатися до обговорень.

Перші результати

У таких сабреддитах, як r/technology, під час пілотного проєкту активність нових авторів зросла на 22%. Що важливо, частка позначеного спаму або цькування не зросла, що свідчить про те, що ШІ підтримує належне співвідношення сигналу до шуму, водночас відкриваючи простір для новачків.

Людська мережа безпеки

Reddit визнає, що ШІ не є безпомилковим. Механізм апеляції дозволяє користувачам оскаржувати рішення про видалення, а люди-модератори розглядають ці апеляції. Результати цих розглядів повертаються в навчальні дані, що з часом вдосконалює модель.

За чим стежити далі

  • Масштабування моделі — чи зможе ШІ зберегти точність під час розгортання на сотнях тисяч сабреддитів платформи?
  • Навантаження на модераторів — відгуки спільноти можуть вплинути на те, як саме буде налаштовуватися система.