بھرتی کے الگورتھم انسانی تضادات کو ختم کرنے کے لیے بنائے گئے تھے۔ اگر کسی ماڈل کو کافی مقدار میں ریزیومے (resumes) فراہم کیے جائیں، تو وہ صرف قابلیت کی بنیاد پر فیصلہ کرے گا۔ لیکن حقیقت کہیں زیادہ پیچیدہ ثابت ہو رہی ہے۔ پرنسٹن یونیورسٹی اور یونیورسٹی آف شکاگو کا ایک نیا مطالعہ ظاہر کرتا ہے کہ لارج لینگویج ماڈلز نہ صرف پرانے تعصبات کو دہراتے ہیں، بلکہ وہ خود سے نئے دقیانوسی تصورات بھی تخلیق کرتے ہیں، اور ماڈل جتنا ذہین ہوتا ہے، یہ عمل اتنا ہی تیزی سے ہوتا ہے۔
تجربہ کیسے کیا گیا
محققین نے ریئل ٹائم میں تعصب کے بننے کے عمل کو دیکھنے کے لیے ایک مصنوعی لیبر مارکیٹ بنائی۔ انہوں نے چار فرضی نسلی گروہ—Tufa، Aima، Reku، اور Weki—تخلیق کیے اور ChatGPT، Claude، اور Gemini کے مختلف ورژن کو بیس مختلف ملازمتوں کے لیے عملہ بھرتی کرنے کا کام سونپا۔ اس فہرست میں ڈاکٹروں اور انجینئرز سے لے کر خاکروبوں اور صفائی کرنے والوں تک سب شامل تھے۔ یہاں ایک اہم تفصیل ہے: پردے کے پیچھے، ہر امیدوار کے کامیابی کے شماریاتی امکانات بالکل یکساں تھے۔ ایک Weki کے ڈاکٹر بننے کے امکانات بالکل اتنے ہی تھے جتنے ایک Tufa کے تھے۔ ریاضیاتی طور پر یہ عمل مکمل طور پر منصفانہ تھا۔
لیکن جو نتیجہ نکلا وہ انصاف نہیں تھا۔ ہر بھرتی کے مرحلے کے بعد، ماڈلز کو سادہ فیڈ بیک دیا گیا کہ ان کا منتخب کردہ امیدوار کامیاب ہوا یا ناکام۔ جب ایک Aima امیدوار کسی اعلیٰ حیثیت والے عہدے پر ایک بار ناکام ہوا، تو ماڈل نے اسے محض ایک اتفاقیہ واقعہ نہیں سمجھا۔ اس نے اسے ایک اٹل قانون سمجھ لیا۔ سسٹم نے تیزی سے Aima امیدواروں کو خاکروب جیسے کم حیثیت والے کاموں تک محدود کرنا شروع کر دیا۔ ایک ڈیٹا پوائنٹ ہی ان کی تقدیر بن گیا۔ AI نے ایک ایسا درجہ بندی کا نظام ایجاد کر لیا تھا جو نہ تو کسی انسانی پروگرامر نے لکھا تھا اور نہ ہی کسی تاریخی ڈیٹا میں موجود تھا۔
جب ذہین ماڈلز بیوقوفانہ عمومی نتائج اخذ کرتے ہیں
محققین نے علیحدگی کے ایک پیمانے (segregation scale) پر نتائج کی پیمائش کی جہاں 2.0 کا مطلب کسی گروہ کا مکمل طور پر ایک مخصوص شعبے تک محدود ہو جانا ہے۔ سابقہ نفسیاتی مطالعہؤں میں انسانی شرکاء کا اسکور 0.84 تھا۔ لسانی ماڈلز نے اس معیار کو بہت پیچھے چھوڑ دیا۔ OpenAI کا ریژوننگ ماڈل، o3، 1.83 پر پہنچ گیا—جو تقریباً مکمل علیحدگی کو ظاہر کرتا ہے۔
یہ 'ایکسپلوریشن-ایکسپلائٹیشن' (exploration-exploitation) کے تضاد کا بے قابو ہونا ہے۔ یہ نظام ریاضی کے مسائل، کوڈنگ کے چیلنجز، اور منطقی پہیلیاں حل کرنے کے لیے تیار کیے گئے ہیں۔ یہ شعبے کم سے کم شواہد سے درست نتیجے پر پہنچنے کو ترجیح دیتے ہیں۔ پیٹرن پہچانو، اسے پکا کرو، اور تیزی سے آگے بڑھو۔ جب یہی ردعمل انسانوں پر لاگو کیا جاتا ہے، تو نتیجہ ایک ناکام بھرتی کی بنیاد پر نسلی درجہ بندی کی صورت میں نکلتا ہے۔
بدتر یہ کہ جیسے جیسے ماڈلز زیادہ پیچیدہ ہوتے جاتے ہیں، یہ پیٹرن مزید شدت اختیار کر جاتا ہے۔ OpenAI کے o3 اور DeepSeek کے R1 جیسے نئے اعلیٰ استدلال کرنے والے (high-reasoning) نظاموں میں تعصب زیادہ پایا گیا کیونکہ وہ نتائج اخذ کرنے میں زیادہ بے تاب ہوتے ہیں۔ وہ جلد اصول بنانے اور انہیں جارحانہ طور پر بہتر بنانے کے ذریعے کام کو بہتر بناتے ہیں۔ جب موضوع انسان ہوں، تو یہ خود اعتمادی ایک نقصان بن جاتی ہے۔ ماڈل سمجھتا ہے کہ اس نے Aima گروپ کے بارے میں کوئی حقیقت دریافت کر لی ہے۔ حقیقت میں، اس نے محض ایک غیر معمولی مثال (outlier) کی بنیاد پر ایک قید خانہ بنا لیا ہے۔
یادداشت کا جال
یہ مطالعہ ایک ایسے نازک وقت میں سامنے آیا ہے جب صنعت تیزی سے "ایجنٹک" (agentic) AI کی طرف بڑھ رہی ہے—ایسے نظام جو طویل مدتی یادداشت رکھتے ہیں، صارفین کے تفصیلی پروفائل بناتے ہیں، اور مہینوں یا سالوں تک فیصلوں کو ذاتی نوعیت کا بناتے ہیں۔ کارنیل یونیورسٹی کی کمپیوٹر سائنسدان اینجیلینا وانگ خبردار کرتی ہیں کہ بہتر یادداشت ماڈلز کو پچھلے تعاملات پر "ضرورت سے زیادہ توجہ" (over-index) دینے پر مجبور کرتی ہے۔ ایک واحد منفی واقعہ—ایک مسترد شدہ قرض، ایک برخاست شدہ ملازم، یا ایک مسترد شدہ درخواست—ایک مستقل مفروضے کی شکل اختیار کر لیتا ہے۔ تعصب وقت کے ساتھ ختم نہیں ہوتا، بلکہ مزید سخت ہو جاتا ہے۔ وہی فیچر جو AI کو زیادہ مددگار اور سیاق و سباق سے واقف بنانے کے لیے بنایا گیا ہے، اسے مزید ضدی طور پر غیر منصفانہ بھی بنا سکتا ہے۔
اصل میں مسئلہ کیسے حل ہوتا ہے
محققین نے کئی حفاظتی اقدامات (guardrails) کا تجربہ کیا، اور نتائج حیران کن تھے۔
ماڈل کو صرف یہ کہنا کہ "منصفانہ بنو" تقریباً کسی کام نہ آیا۔ یہ ہدایت محض ایک سجاوٹ کی طرح رہی جبکہ اس کے پیچھے چلنے والا آپٹیمائزیشن انجن اپنے اصل مقصد یعنی کامیاب بھرتیوں کو زیادہ سے زیادہ کرنے کی طرف بڑھتا رہا۔ درخواست پر اخلاقیات کا مطلب ہے کہ اخلاقیات کو نظر انداز کیا گیا ہے۔
جو حل کام آیا وہ ساختی (structural) تھا۔ جب محققین نے ماڈلز کو متنوع بھرتی کے نتائج برقرار رکھنے کے لیے ایک اضافی ریاضیاتی بونس دیا، تو علیحدگی میں نمایاں کمی آئی۔ سماجی قدر کو براہ راست 'ریوارڈ فنکشن' (reward function) میں شامل کرنا ضروری تھا، نہ کہ اسے بعد میں ایک اضافی چیز کے طور پر جوڑنا۔ دوسرے لفظوں میں، ماڈل کو انصاف کے محرک کو اپنے حساب کتاب میں محسوس کرنا چاہیے تھا، نہ کہ صرف اپنی ہدایات میں پڑھنا۔
ڈیٹا ہائیجین بھی اہمیت رکھتی تھی۔ متعلقہ ذاتی سیاق و سباق فراہم کرنے سے—جیسے عمر، تعلیم، اور تجربے کے سال—ماڈلز کو وزن دینے کے لیے جائز اشارے مل گئے، جس سے نسلی دقیانوسی تصورات (ethnic stereotyping) پر ان کا انحصار کم ہو گیا۔ لیکن اگر بالوں کے رنگ جیسی غیر متعلقہ تفصیلات شامل کر دی جائیں، تو یہ نظام انہیں گروہ پر مبنی درجہ بندی کی طرف واپس جانے کے بہانے کے طور پر استعمال کرنے لگتے ہیں۔ زیادہ معلومات کا مطلب ہمیشہ بہتر ہونا نہیں ہوتا۔ اس کا انحصار مکمل طور پر اس بات پر ہے کہ وہ معلومات کیا ہیں اور کیا وہ ماڈل کو اس کے آپٹیمائزیشن ہدف (optimization target) تک پہنچنے کے لیے کوئی متبادل راستہ فراہم کرتی ہیں۔
آگے کا راستہ
یہ سب اس لیے اہم ہے کیونکہ یہ نظام صرف چیٹ ونڈوز تک محدود نہیں رہ رہے ہیں۔ یہی آرکیٹیکچرز قرضوں کی منظوری، پیرول کی سفارشات، اور بڑے پیمانے پر ورک فورس مینجمنٹ کے فیصلوں کے لیے استعمال کیے جا رہے ہیں، یا ان کے لیے فعال طور پر تیاریاں کی جا رہی ہیں۔ محققین "نئے قسم کے تعصبات" (novel biases) کے بارے میں خبردار کرتے ہیں—ایسے تعصبات جو نہ تو کسی انسان نے کبھی رکھے اور نہ ہی کسی تاریخی ڈیٹا سیٹ میں موجود تھے، بلکہ AI نے کارکردگی کے پیچھے بھاگتے ہوئے خود اپنے لیے تیار کر لیے۔
تلخ حقیقت یہ ہے کہ خالص استدلال کی صلاحیت اور سماجی انصاف ایک دوسرے کے مخالف سمتوں میں کھینچ سکتے ہیں۔ ایک ماڈل جسے درست جواب تک پہنچنے کا مختصر ترین راستہ تلاش کرنے کے لیے آپٹیمائز کیا گیا ہو، وہ لوگوں کے بارے میں غلط مفروضے تک پہنچنے کا مختصر ترین راستہ بھی خوشی خوشی تلاش کر لے گا۔ منصفانہ نظام بنانے کا مطلب محض اچھے طریقے سے درخواست کرنا نہیں ہوگا۔ اس کا مطلب مقاصد کو دوبارہ ڈیزائن کرنا، فیڈ بیک لوپس (feedback loops) کا آڈٹ کرنا، اور اس بات کو تسلیم کرنا ہوگا کہ کچھ عمومی تصورات—ایسے جن کے ذریعے انسانوں کو ایک غلطی کے بعد محض ایک کیٹیگری تک محدود کر دیا جاتا ہے—کبھی بھی بننے نہیں دیے جانے چاہئیں۔ اگر ہم چاہتے ہیں کہ AI امیدواروں کا منصفانہ فیصلہ کرے، تو ہمیں انصاف کو محض ایک مشورے کے طور پر لینا بند کرنا ہوگا اور اسے ایک سخت پابندی (hard constraint) کے طور پر کوڈ کرنا ہوگا۔ اس سے کم کچھ بھی ہوا، تو مشینیں اپنے آپٹیمائزیشن کے عمل کے ذریعے براہ راست تعصب کی طرف نکل جائیں گی۔