Reddit ha iniziato a implementare una moderazione basata sull'IA che consente ai nuovi account di pubblicare post senza dover prima accumulare alti punteggi di karma. Le prime sperimentazioni in alcune comunità hanno mostrato un aumento del 22% dei post da parte dei nuovi utenti, mentre i livelli complessivi di abuso sono rimasti stabili.

Perché questo cambiamento è importante

Finora, molti subreddit richiedevano una soglia minima di karma o di età dell'account prima che gli utenti potessero contribuire. Queste regole tengono lontani spam e molestie, ma bloccano anche utenti legittimi al loro primo post, specialmente in argomenti di nicchia o in rapida crescita. Sostituendo un sistema di controllo basato sulla reputazione con un "punteggio di affidabilità" generato dall'IA, Reddit spera di ridurre le barriere all'ingresso e ampliare la partecipazione.

La tecnologia dietro questa mossa

Gli ingegneri di Reddit hanno sviluppato modelli di machine learning che scansionano ogni post e commento in tempo reale. Il sistema attinge da milioni di decisioni di moderazione passate, offrendo una prospettiva più ampia rispetto ai filtri basati su regole che precedentemente vagliavano i contenuti. Le sue capacità includono:

  • Analisi del linguaggio che segnala modelli di linguaggio tossici.
  • Riconoscimento di immagini e video che individua abusi visivi.
  • Set di regole dinamici che si adattano alle variazioni del volume di traffico in ogni comunità.

Cosa significa per i nuovi utenti

  1. Meno fatica per accumulare karma – Gli utenti possono condividere idee senza dover prima accumulare upvote.
  2. I punteggi di affidabilità sostituiscono i controlli sull'età – L'IA valuta la qualità dei contenuti inviati invece dell'età dell'account.
  3. Punti di vista più diversificati – Persone che si sentivano escluse dalle alte barriere all'ingresso possono ora partecipare alle discussioni.

Primi risultati

In subreddit come r/technology, il progetto pilota ha registrato un aumento del 22% dell'attività dei nuovi utenti. Fondamentalmente, la proporzione di spam o molestie segnalate non è aumentata, il che suggerisce che l'IA mantenga sotto controllo il rapporto segnale-rumore, aprendo le porte ai nuovi arrivati.

La rete di sicurezza umana

Reddit riconosce che l'IA non è infallibile. Un meccanismo di ricorso consente agli utenti di contestare le decisioni di rimozione, e i moderatori umani esaminano tali ricorsi. Queste revisioni vengono reimmesse nei dati di addestramento, affinando il modello nel tempo.

Cosa osservare in futuro

  • Scalabilità del modello – L'IA manterrà la sua precisione man mano che verrà estesa alle centinaia di migliaia di subreddit della piattaforma?
  • Carico di lavoro dei moderatori – Il feedback della comunità potrebbe influenzare il modo in cui il sistema viene regolato.