ردیت پیادهسازی مدیریت محتوا مبتنی بر هوش مصنوعی را آغاز کرده است که به حسابهای جدید اجازه میدهد بدون نیاز به کسب امتیاز کارما (karma) بالا، پست ارسال کنند. آزمایشهای اولیه در تعدادی از انجمنها نشاندهنده افزایش ۲۲ درصدی پستهای کاربران جدید بود، در حالی که سطح کلی سوءاستفادهها ثابت باقی ماند.
چرا این تغییر اهمیت دارد
تاکنون، بسیاری از سابردیتها (subreddits) پیش از اینکه کاربران بتوانند مشارکت کنند، حداقل امتیاز کارما یا آستانه قدمت حساب را الزامی میکردند. این قوانین مانع از ورود اسپم و آزار و اذیت میشوند، اما در عین حال، پستگذاران قانونی و تازهوارد را نیز، بهویژه در موضوعات تخصصی یا پررشد، مسدود میکنند. ردیت امیدوار است با جایگزینی سدِ مبتنی بر اعتبار با یک «امتیاز اعتماد» تولیدشده توسط هوش مصنوعی، اصطکاک را کاهش داده و مشارکت را گسترش دهد.
فناوری پشت این اقدام
مهندسان ردیت مدلهای یادگیری ماشینی ساختهاند که هر پست و کامنت را بهصورت آنی اسکن میکنند. این سیستم از میلیونها تصمیم مدیریتی گذشته بهره میگیرد و دیدگاه گستردهتری نسبت به فیلترهای مبتنی بر قانون که پیشتر محتوا را غربال میکردند، دارد. قابلیتهای آن شامل موارد زیر است:
- تحلیل زبان که الگوهای گفتاری سمی را شناسایی میکند.
- تشخیص تصویر و ویدیو که سوءاستفادههای بصری را تشخیص میدهد.
- مجموعهقوانین پویا که با تغییر حجم ترافیک در هر انجمن، خود را تطبیق میدهد.
این موضوع برای کاربران جدید چه معنایی دارد
۱. تلاش کمتر برای کسب کارما – کاربران میتوانند بدون نیاز به جمعآوری امتیاز مثبت (upvotes)، ایدههای خود را به اشتراک بگذارند. ۲. جایگزینی بررسی قدمت حساب با امتیازهای اعتماد – هوش مصنوعی بهجای قدمت حساب، کیفیت ارسال محتوا را ارزیابی میکند. ۳. دیدگاههای متنوعتر – افرادی که به دلیل موانع ورود بالا، خود را از بحثها محروم میدیدند، اکنون میتوانند به گفتگوها بپیوندند.
نتایج اولیه
در سابردیتهایی مانند r/technology، طرح آزمایشی شاهد افزایش ۲۲ درصدی فعالیت پستگذاران جدید بود. نکته حیاتی این است که نسبت اسپم یا آزار و اذیتهای گزارششده افزایش نیافت، که نشان میدهد هوش مصنوعی ضمن باز کردن فضا برای تازهواردها، نسبت سیگنال به نویز را نیز کنترل میکند.
شبکه ایمنی انسانی
ردیت اذعان دارد که هوش مصنوعی بینقص نیست. یک مکانیزم اعتراض به کاربران اجازه میدهد تا به تصمیمات حذف محتوا اعتراض کنند و مدیران انسانی آن اعتراضها را بررسی میکنند. این بررسیها دوباره به دادههای آموزشی بازمیگردند و باعث دقیقتر شدن مدل در طول زمان میشوند.
آنچه باید در آینده زیر نظر داشت
- مقیاسپذیری مدل – آیا هوش مصنوعی با گسترش در صدها هزار سابردیت پلتفرم، دقت خود را حفظ خواهد کرد؟
- حجم کاری مدیران – بازخوردهای انجمن ممکن است بر نحوه تنظیم سیستم تأثیر بگذارد.