പുതിയ അക്കൗണ്ടുകൾക്ക് ഉയർന്ന കാർമ (karma) സ്കോറുകൾ നേടാതെ തന്നെ പോസ്റ്റുകൾ ഇടാൻ അനുവദിക്കുന്ന AI അധിഷ്ഠിത മോഡറേഷൻ റെഡിറ്റ് (Reddit) നടപ്പിലാക്കിത്തുടങ്ങിയിരിക്കുന്നു. ഏതാനും കമ്മ്യൂണിറ്റികളിൽ നടത്തിയ ആദ്യകാല പരീക്ഷണങ്ങളിൽ, പുതിയ ആളുകളിൽ നിന്നുള്ള പോസ്റ്റുകളിൽ 22% വർദ്ധനവ് രേഖപ്പെടുത്തിയെങ്കിലും ദുരുപയോഗത്തിന്റെ (abuse) മൊത്തത്തിലുള്ള അളവിൽ മാറ്റമില്ലാതെ തുടന്നു.
ഈ മാറ്റം പ്രധാനമാകുന്നത് എന്തുകൊണ്ട്
ഇതുവരെ, ഉപയോക്താക്കൾക്ക് സംഭാവനകൾ നൽകുന്നതിന് മുമ്പ് പല സബ്റെഡിറ്റുകളും (subreddits) കുറഞ്ഞ കാർമ അല്ലെങ്കിൽ അക്കൗണ്ട് പ്രായം (account-age) നിബന്ധനകൾ ആവശ്യപ്പെട്ടിരുന്നു. സ്പാം (spam), ഉപദ്രവകരമായ പെരുമാറ്റം (harassment) എന്നിവ തടയാൻ ഈ നിയമങ്ങൾ സഹായിക്കുന്നുണ്ടെങ്കിലും, പ്രത്യേക താൽപ്പര്യമുള്ളതോ (niche) വേഗത്തിൽ വളരുന്നതോ ആയ വിഷയങ്ങളിൽ ആദ്യമായി പോസ്റ്റ് ചെയ്യുന്നവരെ ഇവ തടയാറുണ്ട്. സൽപ്പേര് അടിസ്ഥാനമാക്കിയുള്ള നിയന്ത്രണങ്ങൾക്ക് പകരം AI നിർമ്മിക്കുന്ന ഒരു "ട്രസ്റ്റ് സ്കോർ" (trust score) കൊണ്ടുവരുന്നതിലൂടെ, പങ്കാളിത്തം വർദ്ധിപ്പിക്കാനും തടസ്സങ്ങൾ കുറയ്ക്കാനും Reddit ലക്ഷ്യമിടുന്നു.
ഈ നീക്കത്തിന് പിന്നിലെ സാങ്കേതികവിദ്യ
ഓരോ പോസ്റ്റും കമന്റും തത്സമയം പരിശോധിക്കുന്ന മെഷീൻ ലേണിംഗ് (machine-learning) മോഡലുകൾ റെഡിറ്റ് എഞ്ചിനീയർമാർ നിർമ്മിച്ചിട്ടുണ്ട്. മുൻകാലങ്ങളിലെ ദശലക്ഷക്കണക്കിന് മോഡറേഷൻ തീരുമാനങ്ങളിൽ നിന്ന് വിവരങ്ങൾ ശേഖരിക്കുന്ന ഈ സംവിധാനം, മുമ്പ് ഉപയോഗിച്ചിരുന്ന നിയമങ്ങൾ അടിസ്ഥാനമാക്കിയുള്ള ഫിൽട്ടറുകളേക്കാൾ മികച്ച കാഴ്ചപ്പാട് നൽകുന്നു. ഇതിന്റെ പ്രധാന സവിശേഷതകൾ ഇവയാണ്:
- ഭാഷാ വിശകലനം (Language analysis) - വിഷലിപ്തമായ സംസാരരീതികളെ തിരിച്ചറിയുന്നു.
- ചിത്രം, വീഡിയോ തിരിച്ചറിയൽ (Image and video recognition) - ദൃശ്യപരമായ ദുരുപയോഗം കണ്ടെത്തുന്നു.
- ഡൈനാമിക് റൂൾ സെറ്റുകൾ (Dynamic rule sets) - ഓരോ കമ്മ്യൂണിറ്റിയിലെയും മാറുന്ന ട്രാഫിക് അളവിന് അനുസരിച്ച് സ്വയം മാറുന്നു.
പുതിയ ഉപയോക്താക്കൾക്ക് ഇതിന്റെ അർത്ഥമെന്താണ്
- കാർമയ്ക്കായുള്ള കഠിനാധ്വാനം കുറയുന്നു – അപ് വോട്ട് (upvotes) ശേഖരിക്കാതെ തന്നെ ഉപയോക്താക്കൾക്ക് ആശയങ്ങൾ പങ്കുവെക്കാം.
- അക്കൗണ്ട് പ്രായത്തിന് പകരം ട്രസ്റ്റ് സ്കോറുകൾ – അക്കൗണ്ടിന്റെ പ്രായത്തിന് പകരം AI പോസ്റ്റുകളുടെ ഗുണനിലവാരം വിലയിരുത്തുന്നു.
- കൂടുതൽ വൈവിധ്യമാർന്ന കാഴ്ചപ്പാടുകൾ – ഉയർന്ന പ്രവേശന നിയന്ത്രണങ്ങൾ കാരണം പുറത്തായെന്ന് തോന്നിയവർക്ക് ഇനി ചർച്ചകളിൽ പങ്കുചേരാം.
ആദ്യകാല ഫലങ്ങൾ
r/technology പോലുള്ള സബ്റെഡിറ്റുകളിൽ, പരീക്ഷണാടിസ്ഥാനത്തിൽ നടത്തിയ ഈ നീക്കം പുതിയ പോസ്റ്റർമാരുടെ പ്രവർത്തനത്തിൽ 22% വർദ്ധനവ് ഉണ്ടാക്കി. ഏറ്റവും പ്രധാനമായി, സ്പാം അല്ലെങ്കിൽ ഉപദ്രവകരമായ പെരുമാറ്റത്തിന്റെ അളവിൽ വർദ്ധനവ് ഉണ്ടായില്ല. ഇത് പുതിയവർക്ക് അവസരം നൽകുന്നതോടൊപ്പം തന്നെ, അനാവശ്യമായ ഉള്ളടക്കങ്ങൾ (noise) നിയന്ത്രിക്കാൻ AI-ക്ക് കഴിയുന്നുണ്ടെന്ന് സൂചിപ്പിക്കുന്നു.
മനുഷ്യർ നൽകുന്ന സുരക്ഷാ വല
AI പൂർണ്ണമായും തെറ്റുകൾ വരുത്താത്ത ഒന്നല്ലെന്ന് Reddit സമ്മതിക്കുന്നു. പോസ്റ്റുകൾ നീക്കം ചെയ്യുന്ന തീരുമാനങ്ങളെ ചോദ്യം ചെയ്യാൻ ഉപയോക്താക്കൾക്ക് ഒരു അപ്പീൽ സംവിധാനം (appeal mechanism) ലഭ്യമാണ്, ഇവ മനുഷ്യരായ മോഡറേറ്റർമാർ പരിശോധിക്കുന്നു. ഈ പരിശോധനകൾ പിന്നീട് മോഡലിനെ കൂടുതൽ മെച്ചപ്പെടുത്തുന്നതിനുള്ള പരിശീലന ഡാറ്റയായി ഉപയോഗിക്കുന്നു.
ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ
- മോഡലിന്റെ വ്യാപ്തി വർദ്ധിപ്പിക്കൽ (Scaling the model) – പ്ലാറ്റ്ഫോമിലെ ലക്ഷക്കണക്കിന് സബ്റെഡിറ്റുകളിലേക്ക് ഇത് വ്യാപിപ്പിക്കുമ്പോൾ AI അതിന്റെ കൃത്യത നിലനിർത്തുമോ?
- മോഡറേറ്റർമാരുടെ ജോലിഭാരം – കമ്മ്യൂണിറ്റികളിൽ നിന്നുള്ള പ്രതികരണങ്ങൾക്കനുസരിച്ച് ഈ സംവിധാനത്തിൽ മാറ്റങ്ങൾ വരുത്തിയേക്കാം.