Reddit, yeni hesapların yüksek karma puanları kazanmaya gerek kalmadan paylaşım yapmasına olanak tanıyan yapay zeka destekli moderasyonu kullanıma sunmaya başladı. Birkaç toplulukta gerçekleştirilen ilk denemeler, genel kötüye kullanım seviyeleri sabit kalırken yeni gelenlerin paylaşımlarında %22'lik bir artış gösterdi.

Bu değişimin önemi

Şimdiye kadar birçok subreddit, kullanıcıların katkıda bulunabilmesi için minimum bir karma veya hesap yaşı eşiği gerektiriyordu. Bu kurallar spam ve tacizi engellese de, özellikle niş veya hızla büyüyen konularda meşru ilk kez paylaşım yapan kullanıcıların önünü kesiyordu. Reddit, itibar tabanlı bir engelleme yerine yapay zeka tarafından oluşturulan bir "güven puanı" kullanarak sürtünmeyi azaltmayı ve katılımı genişletmeyi umuyor.

Bu hamlenin arkasındaki teknoloji

Reddit mühendisleri, her gönderiyi ve yorumu gerçek zamanlı olarak tarayan makine öğrenmesi modelleri geliştirdi. Sistem, milyonlarca geçmiş moderasyon kararından yararlanarak, içeriği daha önce filtreleyen kural tabanlı sistemlere kıyasla daha geniş bir perspektif sunuyor. Yetenekleri şunları içeriyor:

  • Dil analizi ile toksik konuşma kalıplarını işaretleme.
  • Görüntü ve video tanıma ile görsel tacizi tespit etme.
  • Her topluluktaki değişen trafik hacmine uyum sağlayan dinamik kural setleri.

Bu durum yeni kullanıcılar için ne anlama geliyor?

  1. Karma için daha az çaba – Kullanıcılar, önce upvote toplamak zorunda kalmadan fikirlerini paylaşabilirler.
  2. Güven puanları hesap yaşı kontrolünün yerini alıyor – Yapay zeka, hesap yaşı yerine gönderi kalitesini değerlendiriyor.
  3. Daha çeşitli bakış açıları – Yüksek giriş engelleri nedeniyle dışlanmış hisseden kişiler artık tartışmalara katılabiliyor.

İlk sonuçlar

r/technology gibi subredditlerde pilot uygulama, yeni paylaşım yapan kullanıcı aktivitesinde %22'lik bir artış sağladı. En önemlisi, işaretlenen spam veya taciz oranı artmadı; bu da yapay zekanın yeni gelenlere alan açarken sinyal-gürültü oranını kontrol altında tuttuğunu gösteriyor.

İnsani güvenlik ağı

Reddit, yapay zekanın kusursuz olmadığını kabul ediyor. Bir itiraz mekanizması, kullanıcıların kaldırma kararlarına karşı çıkmasına olanak tanıyor ve insan moderatörler bu itirazları inceliyor. Bu incelemeler eğitim verilerine geri besleme sağlayarak modelin zamanla keskinleşmesini sağlıyor.

Takip edilmesi gerekenler

  • Modelin ölçeklendirilmesi – Yapay zeka, platformun yüz binlerce subredditine yayılırken doğruluğunu koruyabilecek mi?
  • Moderatör iş yükü – Topluluk geri bildirimleri, sistemin nasıl ayarlanacağını etkileyebilir.