AI مواد کی نگرانی (Content Moderation) میں تیزی سے تبدیلی پر Meta کو اندرونی مخالفت کا سامنا ہے
Meta اپنی مواد کی نگرانی کے ڈھانچے کو انسانی نگرانی سے Large Language Models (LLMs) کی طرف تیزی سے منتقل کر رہا ہے، جس کا مقصد 2025 کے آخر تک مخصوص قسم کے مواد کے 90 فیصد سے زیادہ حصے کو خودکار (automate) بنانا ہے۔ اگرچہ کمپنی بے مثال درستگی کا وعدہ کر رہی ہے، لیکن اندرونی انتباہات سے ظاہر ہوتا ہے کہ اس تیزی سے ہونے والی تبدیلی سے باریک بینی اور پلیٹ فارم کی حفاظت متاثر ہو سکتی ہے۔
خودکاری (Automation) کی طرف قدم اور "Muse Spark" کی منتقلی
Meta کی خودکاری کی طرف منتقلی کا پیمانہ بہت بڑا ہے۔ 2025 کے آغاز تک، اس سوشل میڈیا دیو قامت کمپنی نے انسانی نگرانی کی تقریباً 50 فیصد درخواستوں کو پہلے ہی AI ماڈلز سے بدل دیا ہے۔ رپورٹس سے پتہ چلتا ہے کہ بنیادی ٹیکنالوجی میں ایک اہم اندرونی تبدیلی آئی ہے: Meta نگرانی اور سپورٹ کے کاموں کے لیے Google کے Gemini کے استعمال سے ہٹ کر اپنے ملکیتی فاؤنڈیشن ماڈل (proprietary foundation model)، Muse Spark کی طرف بڑھ رہا ہے۔
Muse Spark کو خاص طور پر ان تاریخی ڈیٹا سیٹس پر تربیت دی گئی ہے جن میں انسانی جائزہ لینے والوں کے ماضی کے فیصلے شامل ہیں۔ یہ منتقلی Meta کے AI اسٹیک کو مستحکم کرنے کی ایک وسیع تر حکمت عملی کا حصہ ہے، جس کا مقصد بیرونی فراہم کنندگان پر انحصار کم کرنا اور اپنی نگرانی کی صلاحیتوں کو بہتر بنانے کے لیے فیصلہ سازی کے ڈیٹا کے اپنے وسیع ذخیرے سے فائدہ اٹھانا ہے۔
کارکردگی بمقابلہ درستگی: کارپوریٹ بیانیہ
کارپوریٹ نقطہ نظر سے، اس اقدام کو محض لاگت میں کمی کے بجائے معیار میں ایک بڑی چھلانگ کے طور پر پیش کیا جا رہا ہے۔ اگرچہ Financial Times کا کہنا ہے کہ اس تبدیلی سے Meta کو سالانہ اربوں ڈالر کی بچت ہو سکتی ہے، لیکن کمپنی کارکردگی کے پیمانوں (performance metrics) پر زور دیتی ہے۔ مارچ سے، Meta کا دعویٰ ہے کہ اس کے LLMs دو اہم شعبوں میں انسانی مڈریٹر سے بہتر کارکردگی دکھا رہے ہیں: پالیسیوں پر عمل درآمد کے دوران 13 فیصد کم غلطیاں کرنا اور پالیسی کی خلاف ورزیوں کو 10 فیصد زیادہ پکڑنا۔
روایتی Machine Learning (ML) کلاسیفائرز کے برعکس، جو اکثر طنز (satire)، عام بول چال (slang) یا بدلتے ہوئے لسانی رجحانات کے سامنے ناکام ہو جاتے ہیں، یہ نئے LLMs پیچیدہ باریکیوں کو سمجھنے اور عالمی زبانوں کے ایک وسیع تر دائرے میں کام کرنے کے لیے ڈیزائن کیے گئے ہیں۔
اندرونی انتباہات: انسانی قیمت اور غلطی کا مارجن
قیادت کی جانب سے فراہم کردہ پرامید ڈیٹا کے باوجود، Meta کے ملازمین تعیناتی کی رفتار کے حوالے سے خطرے کی گھنٹی بجا رہے ہیں۔ اندرونی ذرائع نے خبردار کیا ہے کہ ماڈلز اب بھی سیاق و سباق (context) کے ساتھ جدوجہد کرتے ہیں، جس کے نتیجے میں اکثر بالکل بے ضرر مواد کو ہٹا دیا جاتا ہے یا "shadow-banning" کا شکار کر دیا جاتا ہے۔ عملے کے درمیان بنیادی تشویش یہ ہے کہ جیسے جیسے 'human-in-the-loop' (انسانی مداخلت) کے عنصر کو تیزی سے ختم کیا جا رہا ہے، ان خودکار غلطیوں کو سنبھالنے کے لیے کافی نگرانی موجود نہیں ہے۔
یہ تکنیکی تبدیلی کمپنی کے ماحولیاتی نظام کے اندر فوری سماجی و اقتصادی نتائج بھی مرتب کر رہی ہے۔ جارحانہ خودکاری براہ راست ملازمتوں میں کمی (layoffs) کا باعث بن رہی ہے، خاص طور پر بیرونی ٹھیکیداروں کی اس بڑی افرادی قوت میں جو پہلے دستی نگرانی کے زیادہ تر کام سنبھالتے تھے۔
یہ AI کے منظرنامے کے لیے کیوں اہم ہے
Meta کا یہ تجربہ پوری ٹیک انڈسٹری کے لیے ایک اہم اشارہ (bellwether) ہے۔ جیسے جیسے کمپنیاں "AI-assisted" نگرانی سے "AI-led" نگرانی کی طرف بڑھ رہی ہیں، صنعت کو پیمانے کی وسعت (scalability) اور اظہارِ رائے کی آزادی کے تحفظ کے درمیان کشمکش سے نمٹنا ہوگا۔ اگر Muse Spark جیسا فاؤنڈیشن ماڈل انسانی طنز اور ثقافتی باریکیوں کی پیچیدگیوں کو کامیابی سے سمجھ لیتا ہے، تو یہ خودکار گورننس کے لیے ایک نیا معیار قائم کرے گا۔ تاہم، اگر ملازمین کی رپورٹ کردہ غلطیاں برقرار رہتی ہیں، تو یہ اس بات کا اشارہ ہو سکتا ہے کہ LLMs ابھی سماجی مباحثوں کی نگرانی کا مکمل بوجھ اٹھانے کے لیے تیار نہیں ہیں۔
اہم نکات
- خودکاری کا وسیع پیمانہ: Meta کا مقصد 2025 کے آخر تک مواد کی نگرانی کے مخصوص کاموں کے 90 فیصد سے زیادہ حصے کو خودکار بنانا ہے، جبکہ وہ پہلے ہی 50 فیصد تبدیلی کی شرح تک پہنچ چکا ہے۔
- ملکیتی تبدیلی: Meta، Google کے Gemini کو اپنے فاؤنڈیشن ماڈل Muse Spark سے بدل رہا ہے، جسے انسانی نگرانی کے تاریخی ڈیٹا پر تربیت دی گئی ہے۔
- کارکردگی بمقابلہ بھروسہ مندی کا فرق: اگرچہ Meta غلطیوں میں 13 فیصد کمی کا دعویٰ کرتا ہے، لیکن ملازمین تیزی سے ہونے والی اس تبدیلی کے دوران ضرورت سے زیادہ shadow-banning اور ناکافی نگرانی کے بارے میں خبردار کر رہے ہیں۔