Reddit એ AI-સંચાલિત મોડરેશન શરૂ કર્યું છે જે નવા એકાઉન્ટ્સને પહેલા ઊંચા કાર્મા સ્કોર મેળવ્યા વિના પોસ્ટ કરવાની મંજૂરી આપે છે. કેટલાક સમુદાયોમાં પ્રારંભિક પરીક્ષણોમાં નવા આવનાર લોકોની પોસ્ટમાં 22% નો વધારો જોવા મળ્યો છે, જ્યારે દુરુપયોગનું એકંદર સ્તર સ્થિર રહ્યું છે.

આ ફેરફાર શા માટે મહત્વપૂર્ણ છે

અત્યાર સુધી, ઘણા subreddits માં વપરાશકર્તાઓ યોગદાન આપી શકે તે પહેલાં લઘુત્તમ કાર્મા અથવા એકાઉન્ટની ઉંમરની મર્યાદા જરૂરી હતી. આ નિયમો સ્પામ અને પજવણીને રોકે છે, પરંતુ તે કાયદેસરના પ્રથમ વખત પોસ્ટ કરનારાઓને પણ અટકાવે છે, ખાસ કરીને વિશિષ્ટ અથવા ઝડપથી વિકસતા વિષયોમાં. પ્રતિષ્ઠા-આધારિત અવરોધને બદલે AI-જનરેટેડ “ટ્રસ્ટ સ્કોર” અપનાવીને, Reddit ઘર્ષણ ઘટાડવા અને સહભાગિતા વધારવાની આશા રાખે છે.

આ પગલા પાછળનું ટેકનોલોજી

Reddit ના એન્જિનિયરોએ મશીન-લર્નિંગ મોડલ્સ બનાવ્યા છે જે દરેક પોસ્ટ અને કોમેન્ટને રીઅલ-ટાઇમમાં સ્કેન કરે છે. આ સિસ્ટમ લાખો ભૂતકાળના મોડરેશન નિર્ણયોમાંથી ડેટા લે છે, જે તેને અગાઉના નિયમ-આધારિત ફિલ્ટર્સ કરતા વધુ વ્યાપક પરિપ્રેક્ષ્ય આપે છે. તેની ક્ષમતાઓમાં શામેલ છે:

  • ભાષા વિશ્લેષણ (Language analysis) જે ઝેરી (toxic) ભાષણની પદ્ધતિઓને ફ્લેગ કરે છે.
  • ઇમેજ અને વિડિયો ઓળખ (Image and video recognition) જે દ્રશ્ય દુરુપયોગને ઓળખે છે.
  • ડાયનેમિક નિયમ સેટ્સ (Dynamic rule sets) જે દરેક સમુદાયમાં બદલાતા ટ્રાફિકના જથ્થા મુજબ અનુકૂલન સાધે છે.

નવા વપરાશકર્તાઓ માટે આનો અર્થ શું છે

  1. કાર્મા માટે ઓછી મહેનત – વપરાશકર્તાઓ પહેલા અપવોટ્સ (upvotes) એકત્રિત કર્યા વિના વિચારો શેર કરી શકે છે.
  2. ટ્રસ્ટ સ્કોર ઉંમરની તપાસનું સ્થાન લે છે – AI એકાઉન્ટની ઉંમરને બદલે સબમિશનની ગુણવત્તાનું મૂલ્યાંકન કરે છે.
  3. વધુ વૈવિધ્યપૂર્ણ દ્રષ્ટિકોણ – જે લોકો ઊંચા પ્રવેશ અવરોધોને કારણે બહાર રહી ગયા હતા તેઓ હવે ચર્ચાઓમાં જોડાઈ શકે છે.

પ્રારંભિક પરિણામો

r/technology જેવા subreddits માં, પાયલોટ પ્રોજેક્ટમાં નવા પોસ્ટરની પ્રવૃત્તિમાં 22% નો વધારો જોવા મળ્યો હતો. મહત્વપૂર્ણ વાત એ છે કે, ફ્લેગ કરેલા સ્પામ અથવા પજવણીનું પ્રમાણ વધ્યું નથી, જે સૂચવે છે કે AI નવા આવનાર લોકો માટે તકો ખોલવાની સાથે 'સિગ્નલ-ટુ-નોઈઝ રેશિયો' (signal-to-noise ratio) ને નિયંત્રણમાં રાખે છે.

માનવીય સુરક્ષા જાળ

Reddit સ્વીકારે છે કે AI અચૂક નથી. એક અપીલ મિકેનિઝમ વપરાશકર્તાઓને દૂર કરવાના નિર્ણયો સામે પડકારવાની મંજૂરી આપે છે, અને માનવ મોડરેટર્સ તે અપીલોની સમીક્ષા કરે છે. તે સમીક્ષાઓ તાલીમ ડેટામાં પાછી જાય છે, જે સમય જતાં મોડલને વધુ સચોટ બનાવે છે.

આગળ શું જોવું

  • મોડલનું સ્કેલિંગ – શું AI પ્લેટફોર્મના લાખો subreddits માં લાગુ થતી વખતે તેની ચોકસાઈ જાળવી રાખશે?
  • મોડરેટરનો કાર્યભાર – સમુદાયનો પ્રતિસાદ સિસ્ટમને કેવી રીતે એડજસ્ટ કરવી તેના પર અસર કરી શકે છે.