Reddit начал внедрять модерацию на базе ИИ, которая позволяет новым аккаунтам делать публикации, не набирая предварительно высокий уровень кармы. Первые испытания в нескольких сообществах показали рост числа постов от новичков на 22%, при этом общий уровень нарушений остался на прежнем уровне.

Почему это важно

До сих пор во многих сабреддитах существовал порог минимальной кармы или возраста аккаунта, прежде чем пользователи могли вносить свой вклад. Эти правила помогают отсеивать спам и травлю, но они также блокируют добросовестных авторов, делающих первые публикации, особенно в нишевых или быстрорастущих темах. Заменяя систему контроля на основе репутации на генерируемый ИИ «показатель доверия» (trust score), Reddit надеется снизить барьеры и расширить участие пользователей.

Технология, стоящая за этим шагом

Инженеры Reddit разработали модели машинного обучения, которые сканируют каждый пост и комментарий в режиме реального времени. Система опирается на миллионы прошлых решений модерации, что дает ей более широкий кругозор, чем фильтры на основе правил, которые проверяли контент ранее. Её возможности включают:

  • Анализ языка, который выявляет токсичные речевые паттерны.
  • Распознавание изображений и видео, которое обнаруживает визуальные нарушения.
  • Динамические наборы правил, адаптирующиеся к изменениям объема трафика в каждом сообществе.

Что это значит для новых пользователей

  1. Меньше необходимости «набивать» карму — пользователи могут делиться идеями, не накапливая предварительно апвоуты.
  2. Показатели доверия вместо проверки возраста — ИИ оценивает качество публикаций, а не возраст аккаунта.
  3. Более разнообразные точки зрения — люди, которые чувствовали себя отстраненными из-за высоких входных барьеров, теперь могут участвовать в дискуссиях.

Первые результаты

В таких сабреддитах, как r/technology, в ходе пилотного проекта активность новых авторов выросла на 22%. Что крайне важно, доля помеченного спама или травли не увеличилась, что говорит о том, что ИИ успешно контролирует соотношение полезного сигнала и шума, открывая при этом возможности для новичков.

Человеческая страховка

Reddit признает, что ИИ не непогрешим. Механизм апелляции позволяет пользователям оспаривать решения об удалении контента, а модераторы-люди рассматривают эти апелляции. Результаты этих проверок поступают обратно в обучающие данные, со временем совершенствуя модель.

За чем следить дальше

  • Масштабирование модели — сможет ли ИИ сохранить точность при развертывании на сотнях тысяч сабреддитов платформы?
  • Нагрузка на модераторов — отзывы сообщества могут повлиять на то, как будет настраиваться система.