Reddit ने AI-आधारित मॉडरेशन लागू करण्यास सुरुवात केली आहे, ज्यामुळे नवीन खात्यांना आधी उच्च कर्मा (karma) स्कोअर मिळवल्याशिवाय पोस्ट करण्याची परवानगी मिळेल. काही निवडक समुदायांमध्ये (communities) केलेल्या सुरुवातीच्या चाचण्यांमध्ये नवीन वापरकर्त्यांच्या पोस्टमध्ये २२% वाढ दिसून आली, तर एकूण गैरवर्तणुकीचे (abuse) प्रमाण स्थिर राहिले.
हा बदल का महत्त्वाचा आहे
आतापर्यंत, अनेक सबरेडिट्समध्ये (subreddits) वापरकर्त्यांना योगदान देण्यापूर्वी किमान कर्मा किंवा खाते-वयाची (account-age) मर्यादा पूर्ण करणे आवश्यक होते. हे नियम स्पॅम आणि छळ (harassment) रोखण्यासाठी आहेत, परंतु ते वैध पहिल्यांदा पोस्ट करणाऱ्यांनाही अडवतात, विशेषतः विशिष्ट (niche) किंवा वेगाने वाढणाऱ्या विषयांमध्ये. प्रतिष्ठेवर आधारित नियमांच्या ऐवजी AI-द्वारे तयार केलेला "ट्रस्ट स्कोअर" (trust score) वापरून, Reddit वापरकर्त्यांमधील अडथळे कमी करण्याची आणि सहभाग वाढवण्याची आशा करत आहे.
या निर्णयामागील तंत्रज्ञान
Reddit च्या इंजिनिअर्सनी मशीन-लर्निंग मॉडेल्स तयार केली आहेत जी प्रत्येक पोस्ट आणि कमेंटचे रिअल-टाइममध्ये स्कॅनिंग करतात. ही प्रणाली लाखो मागील मॉडरेशन निर्णयांचा आधार घेते, ज्यामुळे याला पूर्वीच्या नियम-आधारित फिल्टरपेक्षा अधिक व्यापक दृष्टिकोन मिळतो. यामध्ये खालील क्षमतांचा समावेश आहे:
- भाषा विश्लेषण (Language analysis) जे विषारी बोलण्याच्या पद्धती (toxic speech patterns) ओळखते.
- प्रतिमा आणि व्हिडिओ ओळख (Image and video recognition) जे दृश्य स्वरूपातील गैरवर्तन ओळखते.
- डायनॅमिक नियम संच (Dynamic rule sets) जे प्रत्येक समुदायातील बदलत्या ट्रॅफिकनुसार स्वतःला जुळवून घेतात.
नवीन वापरकर्त्यांसाठी याचा अर्थ काय?
- कर्मासाठी कमी कष्ट – वापरकर्ते आधी अपव्होट्स (upvotes) जमा न करता आपले विचार मांडू शकतात.
- वयाऐवजी ट्रस्ट स्कोअर – AI खात्याच्या वयाऐवजी सबमिशनच्या गुणवत्तेचे मूल्यमापन करते.
- अधिक वैविध्यपूर्ण दृष्टिकोन – उच्च प्रवेशाच्या अडथळ्यांमुळे जे लोक चर्चेतून बाहेर ठेवले गेले होते, ते आता चर्चेत सहभागी होऊ शकतात.
सुरुवातीचे निकाल
r/technology सारख्या सबरेडिट्समध्ये, या प्रायोगिक प्रकल्पात नवीन पोस्टर्सच्या सक्रियतेत २२% वाढ दिसून आली. महत्त्वाचे म्हणजे, स्पॅम किंवा छळवणुकीच्या (harassment) तक्रारींचे प्रमाण वाढले नाही, ज्यावरून असे सूचित होते की AI नवीन वापरकर्त्यांसाठी संधी उपलब्ध करून देतानाही 'सिग्नल-टू-नॉईज रेशो' (signal-to-noise ratio) नियंत्रित ठेवते.
मानवी सुरक्षा जाळे (Human safety net)
Reddit मान्य करते की AI अचूक नसू शकते. अपील यंत्रणेमुळे वापरकर्त्यांना पोस्ट काढण्याच्या निर्णयाला आव्हान देता येते आणि मानवी मॉडेरेटर्स त्या अपीलांचे पुनरावलोकन करतात. हे पुनरावलोकन पुन्हा ट्रेनिंग डेटासाठी वापरले जाते, ज्यामुळे कालांतराने मॉडेल अधिक अचूक होते.
पुढे काय पाहावे
- मॉडेलचे स्केलिंग (Scaling the model) – प्लॅटफॉर्मवरील लाखो सबरेडिट्समध्ये हे लागू होताना AI आपली अचूकता कायम राखू शकेल का?
- मॉडरेटरचा कामाचा भार – समुदायाचा फीडबॅक प्रणालीमध्ये कशा प्रकारे बदल केले जावेत, यावर परिणाम करू शकतो.