Reddit نے AI پر مبنی ایسی نگرانی (moderation) کا آغاز کر دیا ہے جو نئے اکاؤنٹس کو پہلے زیادہ karma اسکورز حاصل کیے بغیر پوسٹ کرنے کی اجازت دیتی ہے۔ چند کمیونٹیز میں ابتدائی تجربات سے معلوم ہوا ہے کہ نئے آنے والوں کی پوسٹس میں 22% اضافہ ہوا ہے جبکہ مجموعی طور پر بدسلوکی (abuse) کی سطح برقرار رہی۔
یہ تبدیلی کیوں اہم ہے
اب تک، بہت سے subreddits میں صارفین کے حصہ لینے سے پہلے کم از کم karma یا اکاؤنٹ کی عمر کی ایک حد مقرر تھی۔ یہ قوانین سپیم اور ہراساں کرنے والوں کو دور رکھتے ہیں، لیکن یہ جائز پہلی بار پوسٹ کرنے والوں کو بھی روک دیتے ہیں، خاص طور پر مخصوص یا تیزی سے بڑھتے ہوئے موضوعات میں۔ ساکھ (reputation) پر مبنی رکاوٹ کو AI سے تیار کردہ "trust score" سے بدل کر، Reddit امید کرتا ہے کہ اس سے دشواری کم ہوگی اور شرکت کے مواقع بڑھیں گے۔
اس اقدام کے پیچھے موجود ٹیکنالوجی
Reddit کے انجینئرز نے ایسے مشین لرننگ ماڈلز تیار کیے ہیں جو ہر پوسٹ اور کمنٹ کا ریئل ٹائم (real time) میں جائزہ لیتے ہیں۔ یہ سسٹم لاکھوں گزشتہ نگرانی کے فیصلوں سے معلومات حاصل کرتا ہے، جس کی وجہ سے اسے ان رول پر مبنی فلٹرز کے مقابلے میں زیادہ وسیع تناظر ملتا ہے جو پہلے مواد کی جانچ کرتے تھے۔ اس کی صلاحیتوں میں شامل ہیں:
- زبان کا تجزیہ (Language analysis) جو زہریلے یا توہین آمیز گفتگو کے انداز کی نشاندہی کرتا ہے۔
- تصویر اور ویڈیو کی شناخت (Image and video recognition) جو بصری بدسلوکی (visual abuse) کو پکڑ لیتی ہے۔
- متحرک قواعد (Dynamic rule sets) جو ہر کمیونٹی میں ٹریفک کے بدلتے ہوئے حجم کے مطابق خود کو ڈھال لیتے ہیں۔
نئے صارفین کے لیے اس کے کیا معنی ہیں
- Karma کے لیے کم محنت – صارفین اب پہلے زیادہ upvotes جمع کیے بغیر اپنے خیالات کا اظہار کر سکتے ہیں۔
- Trust scores اکاؤنٹ کی عمر کی جانچ کی جگہ لیں گے – AI اکاؤنٹ کی عمر کے بجائے مواد کے معیار کا جائزہ لیتا ہے۔
- زیادہ متنوع نقطہ نظر – وہ لوگ جو داخلے کی سخت رکاوٹوں کی وجہ سے خود کو الگ تھلگ محسوس کرتے تھے، اب بحث و مباحثے میں شامل ہو سکتے ہیں۔
ابتدائی نتائج
r/technology جیسے subreddits میں، اس آزمائشی مرحلے کے دوران نئے پوسٹرز کی سرگرمی میں 22% اضافہ دیکھا گیا۔ اہم بات یہ ہے کہ flagged سپیم یا ہراساں کرنے کے تناسب میں اضافہ نہیں ہوا، جس سے یہ ظاہر ہوتا ہے کہ AI نئے آنے والوں کے لیے راستے کھولتے ہوئے بھی مواد کی معیار اور فضولیت کے تناسب (signal-to-noise ratio) کو برقرار رکھتا ہے۔
انسانی حفاظتی جال (Human safety net)
Reddit تسلیم کرتا ہے کہ AI خطا سے پاک نہیں ہے۔ اپیل کے طریقہ کار کے ذریعے صارفین پوسٹ ہٹانے کے فیصلوں کے خلاف احتجاج کر سکتے ہیں، اور انسانی مڈریٹر ان اپیلوں کا جائزہ لیتے ہیں۔ یہ جائزے دوبارہ ٹریننگ ڈیٹا میں شامل کیے جاتے ہیں، جس سے وقت کے ساتھ ساتھ ماڈل مزید بہتر ہوتا جاتا ہے۔
آگے کیا دیکھنے کو ملے گا
- ماڈل کی توسیع (Scaling the model) – کیا AI اپنی درستگی برقرار رکھ پائے گا جب اسے پلیٹ فارم کے لاکھوں subreddits تک پھیلایا جائے گا؟
- مڈریٹر کا کام کا بوجھ – کمیونٹی کا فیڈ بیک اس بات پر اثر انداز ہو سکتا ہے کہ سسٹم میں کیسے تبدیلیاں کی جائیں۔