Reddit, కొత్త ఖాతాలు ముందుగా ఎక్కువ karma స్కోర్లను సంపాదించకుండానే పోస్ట్లు చేసేలా AI-ఆధారిత మోడరేషన్ను (moderation) అందుబాటులోకి తీసుకురావడం ప్రారంభించింది. కొన్ని కమ్యూనిటీలలో జరిగిన ప్రారంభ పరీక్షల ప్రకారం, మొత్తం దుర్వినియోగం (abuse) స్థాయిలు స్థిరంగా ఉన్నప్పటికీ, కొత్త వినియోగదారుల నుండి పోస్ట్లు 22% పెరిగాయి.
ఈ మార్పు ఎందుకు ముఖ్యం
ఇప్పటి వరకు, వినియోగదారులు తమ అభిప్రాయాలను పంచుకోవాలంటే చాలా subreddits కనీస karma లేదా ఖాతా వయస్సు (account-age) పరిమితిని కలిగి ఉండాలని నిబంధనలు ఉండేవి. ఆ నియమాలు స్పామ్ మరియు వేధింపులను నిరోధిస్తాయి, కానీ అవి నిజమైన మొదటిసారి పోస్ట్ చేసేవారిని కూడా అడ్డుకుంటాయి, ముఖ్యంగా ప్రత్యేకమైన (niche) లేదా వేగంగా అభివృద్ధి చెందుతున్న అంశాలలో. పేరు ప్రతిష్టల ఆధారిత నియంత్రణకు బదులుగా AI-జనరేటెడ్ "trust score"ను ప్రవేశపెట్టడం ద్వారా, వినియోగదారుల ఇబ్బందులను తగ్గించి, మరింత మందిని భాగస్వాములను చేయాలని Reddit ఆశిస్తోంది.
ఈ చర్య వెనుక ఉన్న సాంకేతికత
Reddit ఇంజనీర్లు ప్రతి పోస్ట్ మరియు కామెంట్ను రియల్ టైమ్లో స్కాన్ చేసే మెషిన్-లెర్నింగ్ మోడల్లను రూపొందించారు. ఈ సిస్టమ్ గతంలోని మిలియన్ల కొద్దీ మోడరేషన్ నిర్ణయాల నుండి సమాచారాన్ని సేకరిస్తుంది, దీనివల్ల గతంలో ఉన్న రూల్-బేస్డ్ ఫిల్టర్ల కంటే ఇది మరింత విస్తృతమైన దృక్పథాన్ని కలిగి ఉంటుంది. దీని సామర్థ్యాలలో ఇవి ఉన్నాయి:
- Language analysis - ఇది విషపూరితమైన (toxic) మాటలను గుర్తిస్తుంది.
- Image and video recognition - ఇది దృశ్యపరమైన దుర్వినియోగాన్ని గుర్తిస్తుంది.
- Dynamic rule sets - ఇవి ప్రతి కమ్యూనిటీలోని మారుతున్న ట్రాఫిక్ పరిమాణానికి అనుగుణంగా మారుతాయి.
కొత్త వినియోగదారులకు దీని అర్థం ఏమిటి
- Karma కోసం కష్టపడాల్సిన అవసరం లేదు – వినియోగదారులు ముందుగా upvotes సంపాదించాల్సిన అవసరం లేకుండానే తమ ఆలోచనలను పంచుకోవచ్చు.
- వయస్సు తనిఖీలకు బదులుగా trust scores – ఖాతా వయస్సు కంటే AI పోస్ట్ యొక్క నాణ్యతను అంచనా వేస్తుంది.
- వైవిధ్యమైన అభిప్రాయాలు – కఠినమైన నిబంధనల వల్ల చర్చల్లో పాల్గొనలేకపోయిన వారు ఇప్పుడు చర్చల్లో చేరవచ్చు.
ప్రారంభ ఫలితాలు
r/technology వంటి subredditsలో, ఈ పైలట్ ప్రాజెక్ట్ ద్వారా కొత్త పోస్ట్ల సంఖ్యలో 22% పెరుగుదల కనిపించింది. ముఖ్యంగా, స్పామ్ లేదా వేధింపుల శాతం పెరగలేదు, అంటే కొత్తవారికి అవకాశం కల్పిస్తూనే, AI అనవసరమైన కంటెంట్ను (noise) నియంత్రించడంలో విజయవంతమైందని అర్థమవుతోంది.
మానవ భద్రతా వలయం (The human safety net)
AI ఎల్లప్పుడూ ఖచ్చితంగా ఉండదని Reddit అంగీకరిస్తోంది. పోస్ట్లను తొలగించే నిర్ణయాలను సవాలు చేయడానికి వినియోగదారులకు ఒక అప్పీల్ మెకానిజం (appeal mechanism) ఉంటుంది, మరియు మానవ మోడరేటర్లు ఆ అప్పీళ్లను సమీక్షిస్తారు. ఈ సమీక్షలు తిరిగి ట్రైనింగ్ డేటాకు చేరడం ద్వారా, కాలక్రమేణా మోడల్ మరింత మెరుగుపడుతుంది.
తదుపరి గమనించాల్సిన అంశాలు
- Scaling the model – ప్లాట్ఫారమ్లోని లక్షలాది subredditsలకు ఈ AI విస్తరించినప్పుడు, అది తన ఖచ్చితత్వాన్ని నిలుపుకోగలదా?
- Moderator workload – కమ్యూనిటీ ఫీడ్బ్యాక్ ఆధారంగా ఈ సిస్టమ్లో మార్పులు చేయవచ్చు.