Reddit ने AI-आधारित मॉडरेशन रोल आउट करना शुरू कर दिया है, जिससे नए अकाउंट बिना पहले उच्च कारमा (karma) स्कोर अर्जित किए पोस्ट कर सकते हैं। कुछ समुदायों में शुरुआती परीक्षणों ने नए उपयोगकर्ताओं की पोस्ट में 22% की वृद्धि दिखाई, जबकि दुरुपयोग का स्तर स्थिर रहा।
यह बदलाव क्यों महत्वपूर्ण है
अब तक, कई सबरेडिट्स में उपयोगकर्ताओं के योगदान करने से पहले न्यूनतम कारमा या अकाउंट की आयु की एक सीमा आवश्यक थी। ये नियम स्पैम और उत्पीड़न को बाहर रखते हैं, लेकिन वे वैध पहली बार पोस्ट करने वाले उपयोगकर्ताओं को भी रोकते हैं, विशेष रूप से विशिष्ट (niche) या तेज़ी से बढ़ते विषयों में। प्रतिष्ठा-आधारित बाधा को AI-जनरेटेड "ट्रस्ट स्कोर" से बदलकर, Reddit बाधाओं को कम करने और भागीदारी बढ़ाने की उम्मीद करता है।
इस कदम के पीछे की तकनीक
Reddit के इंजीनियरों ने मशीन-लर्निंग मॉडल बनाए हैं जो वास्तविक समय में प्रत्येक पोस्ट और कमेंट को स्कैन करते हैं। यह सिस्टम लाखों पिछले मॉडरेशन निर्णयों से डेटा लेता है, जिससे इसे उन नियम-आधारित फिल्टरों की तुलना में व्यापक दृष्टिकोण मिलता है जो पहले कंटेंट की जांच करते थे। इसकी क्षमताओं में शामिल हैं:
- भाषा विश्लेषण (Language analysis) जो विषाक्त (toxic) भाषण पैटर्न की पहचान करता है।
- इमेज और वीडियो रिकग्निशन जो दृश्य दुरुपयोग (visual abuse) का पता लगाता है।
- डायनामिक नियम सेट जो प्रत्येक समुदाय में बदलते ट्रैफिक वॉल्यूम के अनुसार खुद को ढाल लेते हैं।
नए उपयोगकर्ताओं के लिए इसका क्या अर्थ है
- कारमा के लिए कम मेहनत – उपयोगकर्ता पहले अपवोट्स (upvotes) इकट्ठा किए बिना अपने विचार साझा कर सकते हैं।
- आयु जांच की जगह ट्रस्ट स्कोर – AI अकाउंट की आयु के बजाय सबमिशन की गुणवत्ता का मूल्यांकन करता है।
- अधिक विविध दृष्टिकोण – जो लोग उच्च प्रवेश बाधाओं के कारण खुद को बाहर महसूस करते थे, वे अब चर्चाओं में शामिल हो सकते हैं।
शुरुआती परिणाम
r/technology जैसे सबरेडिट्स में, पायलट प्रोजेक्ट के दौरान नए पोस्टर्स की गतिविधि में 22% की वृद्धि देखी गई। महत्वपूर्ण बात यह है कि फ्लैग किए गए स्पैम या उत्पीड़न का अनुपात नहीं बढ़ा, जिससे पता चलता है कि AI नए लोगों के लिए मंच खोलते हुए भी 'सिग्नल-टू-नॉइज़ रेशियो' (signal-to-noise ratio) को नियंत्रण में रखता है।
मानवीय सुरक्षा जाल
Reddit स्वीकार करता है कि AI अचूक नहीं है। एक अपील तंत्र उपयोगकर्ताओं को हटाने के निर्णयों को चुनौती देने की अनुमति देता है, और मानव मॉडरेटर उन अपीलों की समीक्षा करते हैं। वे समीक्षाएं ट्रेनिंग डेटा में वापस जाती हैं, जिससे समय के साथ मॉडल और सटीक होता जाता है।
आगे क्या देखने की आवश्यकता है
- मॉडल का विस्तार (Scaling the model) – क्या AI अपनी सटीकता बनाए रखेगा जब इसे प्लेटफॉर्म के लाखों सबरेडिट्स में लागू किया जाएगा?
- मॉडरेटर का कार्यभार – सामुदायिक प्रतिक्रिया इस बात को प्रभावित कर सकती है कि सिस्टम को कैसे समायोजित किया जाए।