Hiring algorithms were supposed to strip away human inconsistency. Feed a model enough resumes, and it would judge stric

வேலைவாய்ப்புத் தேர்வுக் கொள்கைகள் (Hiring algorithms) மனிதர்களின் நிலையற்ற தன்மையை நீக்கவே உருவாக்கப்பட்டன. ஒரு மாடலுக்குப் போதுமான அளவு சுயவிவரக் குறிப்புகளை (resumes) வழங்கினால், அது தகுதிகளின் அடிப்படையில் மட்டுமே தீர்ப்பளிக்கும் என்று எதிர்பார்க்கப்பட்டது. ஆனால் உண்மை நிலை மிகவும் சிக்கலானதாகத் தெரிகிறது. பிரின்ஸ்டன் பல்கலைக்கழகம் மற்றும் சிகாகோ பல்கலைக்கழகத்தின் புதிய ஆய்வு, பெரிய மொழி மாதிரிகள் (large language models) பழைய பாரபட்சங்களை மீண்டும் பயன்படுத்துவது மட்டுமல்லாமல், புதிய முன்முடிவுகளை (stereotypes) தானாகவே உருவாக்குகின்றன என்பதைக் காட்டுகிறது. அந்த மாடல் எவ்வளவு புத்திசாலித்தனமாக இருக்கிறதோ, அவ்வளவு வேகமாக இது நிகழ்கிறது.

இந்தச் சோதனை எவ்வாறு செயல்பட்டது

பாரபட்சம் எவ்வாறு உருவாகிறது என்பதை நேரலையில் கவனிப்பதற்காக ஆராய்ச்சியாளர்கள் ஒரு போலித் தொழிலாளர் சந்தையை உருவாக்கினர். அவர்கள் Tufa, Aima, Reku மற்றும் Weki ஆகிய நான்கு கற்பனையான இனக் குழுக்களை உருவாக்கி, ChatGPT, Claude மற்றும் Gemini ஆகியவற்றின் பல்வேறு பதிப்புகளுக்கு இருபது வெவ்வேறு வேலைகளைப் பகிர்ந்தளித்தனர். அந்தப் பட்டியலில் மருத்துவர்கள் மற்றும் பொறியாளர்கள் முதல் துப்புரவுப் பணியாளர்கள் வரை பலதரப்பட்ட வேலைகள் இருந்தன. இதில் முக்கியமான விஷயம் என்னவென்றால்: திரைக்குப் பின்னால், ஒவ்வொரு வேட்பாளருக்கும் வெற்றி பெறுவதற்கான புள்ளிவிவர வாய்ப்புகள் சமமாகவே இருந்தன. ஒரு Weki குழுவைச் சேர்ந்தவர் மருத்துவராகத் திகழ்வதற்கான வாய்ப்பு, ஒரு Tufa குழுவைச் சேர்ந்தவருக்கு இருப்பதைப் போலவே துல்லியமாக இருந்தது. கணித ரீதியாக இது மிகவும் சமமானதாக இருந்தது.

ஆனால் நியாயம் என்பது அங்கு ஏற்படவில்லை. ஒவ்வொரு வேலைத் தேர்விற்குப் பிறகும், தேர்ந்தெடுக்கப்பட்ட வேட்பாளர் வெற்றி பெற்றாரா அல்லது தோல்வியடைந்தாரா என்பது குறித்த எளிய கருத்துக்களை (feedback) மாடல்கள் பெற்றன. ஒரு உயர்தரப் பணியில் ஒரு Aima வேட்பாளர் ஒருமுறை தோல்வியடைந்தபோது, மாடல் அதை ஒரு தற்செயலான நிகழ்வாகக் கருதவில்லை. மாறாக, அதை ஒரு விதியாகவே கருதியது. அந்த அமைப்பு விரைவாக Aima வேட்பாளர்களைத் துப்புரவுப் பணி போன்ற குறைந்த அந்தஸ்துள்ள வேலைகளுக்குள் மட்டுமே சுருக்கத் தொடங்கியது. ஒரு தரவுப் புள்ளி (data point) அவர்களின் விதியாக மாறிவிட்டது. எந்தவொரு மனித நிரலாளரும் (programmer) எழுதாத மற்றும் எந்தவொரு வரலாற்றுத் தரவுத் தொகுப்பிலும் இல்லாத ஒரு படிநிலையை (hierarchy) அந்த AI உருவாக்கியது.

புத்திசாலித்தனமான மாடல்கள் முட்டாள்தனமான பொதுப்படையான முடிவுகளை எடுக்கும்போது

ஆராய்ச்சியாளர்கள் ஒரு பிரித்தறியும் அளவுகோலின் (segregation scale) அடிப்படையில் முடிவுகளை அளந்தனர்; இதில் 2.0 என்பது ஒரு குழுவை ஒரு குறிப்பிட்ட வேலைக்குள்ளேயே முழுமையாகத் தனிமைப்படுத்துவதைக் குறிக்கும். முந்தைய உளவியல் ஆய்வுகளில் பங்கேற்ற மனிதர்களின் மதிப்பெண் 0.84 ஆக இருந்தது. ஆனால் மொழி மாதிரிகள் அந்த அளவுகோலைத் தாண்டிச் சென்றன. OpenAI-ன் reasoning மாடலான o3, 1.83 என்ற மதிப்பை எட்டியது—இது கிட்டத்தட்ட முழுமையான பிரித்தறிதலைக் குறிக்கிறது.

இது 'exploration-exploitation' சிக்கல் கட்டுப்பாடின்றி மாறுவதாகும். இந்த அமைப்புகள் கணிதப் பிரச்சனைகள், கோடிங் சவால்கள் மற்றும் தர்க்கரீதியான புதிர்களில் வெற்றி பெறுவதற்காகவே வடிவமைக்கப்பட்டுள்ளன. இத்தகைய துறைகளில், மிகக் குறைந்த ஆதாரங்களைக் கொண்டு சரியான முடிவுக்கு விரைவாகத் துள்ளுவதே வெற்றியாகக் கருதப்படுகிறது. ஒரு முறையைக் கண்டறிந்து, அதை உறுதிப்படுத்தி, வேகமாக முன்னேறுவதே இதன் நோக்கம். இதே வேகத்தை மனிதர்களுக்கும் பயன்படுத்தும்போது, ஒரே ஒரு தோல்வியுற்ற வேலைத் தேர்வின் அடிப்படையில் இன ரீதியான பாகுபாடுகள் உருவாகின்றன.

அதைவிட மோசமான விஷயம் என்னவென்றால், மாடல்கள் மிகவும் மேம்பட்டதாக மாறும்போது இந்த முறை தீவிரமடைகிறது. OpenAI-ன் o3 மற்றும் DeepSeek-ன் R1 போன்ற புதிய உயர்-தர்க்க அமைப்புகள் (high-reasoning systems) அதிக பாரபட்சத்தைக் காட்டின; ஏனெனில் அவை மிக விரைவாகப் பொதுப்படையான முடிவுகளை எடுக்கத் துடிக்கின்றன. அவை ஆரம்பத்திலேயே விதிகளை உருவாக்கி, அவற்றை ஆக்ரோஷமாகச் செம்மைப்படுத்துவதன் மூலம் தங்களை மேம்படுத்திக் கொள்கின்றன. ஆனால் அந்தத் தலைப்பு மனிதர்களாக இருக்கும்போது, அந்தத் தன்னம்பிக்கை ஒரு சுமையாகிவிடுகிறது. Aima குழுவைப் பற்றிய ஒரு உண்மையை தான் கண்டறிந்துவிட்டதாக மாடல் நினைக்கிறது. ஆனால் உண்மையில், அது ஒரு தனிப்பட்ட நிகழ்வை (outlier) வைத்து ஒரு கூண்டைக் கட்டியிருக்கிறது.

நினைவாற்றல் பொறி

இந்த ஆய்வு ஒரு இக்கட்டான நேரத்தில் வெளியாகியுள்ளது. தற்போது இந்தத் தொழில் துறை "agentic" AI-ஐ நோக்கித் தீவிரமாக நகர்ந்து கொண்டிருக்கிறது—அதாவது நீண்டகால நினைவாற்றலைக் கொண்டிருப்பவை, விரிவான பயனர் விவரங்களை உருவாக்குபவை மற்றும் பல மாதங்கள் அல்லது ஆண்டுகளில் தனிப்பயனாக்கப்பட்ட முடிவுகளை எடுப்பவை போன்ற அமைப்புகள். கார்னெல் பல்கலைக்கழகத்தைச் சேர்ந்த கணினி விஞ்ஞானி Angelina Wang, மேம்படுத்தப்பட்ட நினைவாற்றல், மாடல்கள் முந்தையத் தொடர்புகளுக்கு "அதிக முக்கியத்துவம் கொடுத்து" (over-index) செயல்பட வழிவகுக்கும் என்று எச்சரிக்கிறார். ஒரு நிராகரிக்கப்பட்ட கடன், ஒரு பணிநீக்கம் அல்லது ஒரு எச்சரிக்கப்பட்ட விண்ணப்பம் போன்ற ஒரு எதிர்மறையான தனிப்பட்ட நிகழ்வு கூட, ஒரு நிரந்தரமான அனுமானமாக மாறிவிடுகிறது. அந்தப் பாரபட்சம் காலப்போக்கில் மறைந்துவிடாமல், மேலும் வலுவடைகிறது. AI-ஐ அதிக உதவியாகவும் சூழலுக்குத் தகுந்ததாகவும் மாற்ற உருவாக்கப்பட்ட அதே அம்சம், அதைத் பிடிவாதமான முறையில் அநீதியுடையதாகவும் மாற்றக்கூடும்.

இந்தப் பிரச்சனையை உண்மையில் சரிசெய்வது எது?

ஆராய்ச்சியாளர்கள் பல பாதுகாப்பு வழிமுறைகளை (guardrails) சோதித்தனர், அதன் முடிவுகள் பணிவாகத் தலைவணங்க வைப்பதாக இருந்தன.

ஒரு மாடலை "நியாயமாக இரு" என்று சொல்வது மட்டும் எந்தப் பயனும் அளிக்கவில்லை. அந்த உத்தரவு வெறும் அலங்காரமாகவே இருந்தது, அதே நேரத்தில் அதன் அடிப்படையிலுள்ள மேம்படுத்தும் இயந்திரம் (optimization engine) அதன் உண்மையான இலக்கான "வெற்றிகரமான வேலைவாய்ப்புகளை அதிகரிப்பது" என்ற நோக்கத்தை நோக்கித் தொடர்ந்து இயங்கிக்கொண்டே இருந்தது. கோரிக்கையின் அடிப்படையில் வழங்கப்படும் அறநெறிகள், புறக்கணிக்கப்படும் அறநெறிகளே.

வேலை செய்தது ஒரு கட்டமைப்பு ரீதியான தீர்வு மட்டுமே. பன்முகத்தன்மை கொண்ட வேலைவாய்ப்பு முடிவுகளைப் பராமரிப்பதற்காக ஆராய்ச்சியாளர்கள் மாடல்களுக்குக் கூடுதல் கணிதப் போனஸை (mathematical bonus) வழங்கியபோது, பிரித்தறியும் அளவு கணிசமாகக் குறைந்தது. சமூக மதிப்பானது (social value) நேரடியாக அதன் வெகுமதிச் செயல்பாட்டிலேயே (reward function) இணைக்கப்பட்டிருக்க வேண்டும், அது ஒரு கூடுதல் சிந்தனையாக மட்டும் இருக்கக்கூடாது. வேறு வார்த்தைகளில் கூறுவதானால், மாடல் அதன் அறிவுறுத்தல்களில் நியாயத்தைப் படிப்பதோடு மட்டுமல்லாமல், அதன் கணக்கீடுகளிலேயே அந்த நியாயமான ஊக்கத்தை உணர வேண்டும்.

தரவுத் தூய்மையும் (Data hygiene) முக்கியமானது. வயது, கல்வி, அனுபவ ஆண்டுகள் போன்ற பொருத்தமான தனிப்பட்ட சூழலை வழங்குவது, மாதிரிகள் (models) சரியான காரணிகளைப் பகுப்பாய்வு செய்ய உதவியது; இது இன ரீதியான பொதுப்படையான கருத்துகளின் (ethnic stereotyping) மீதான அவற்றின் சார்புநிலையைக் குறைத்தது. ஆனால், தலைமுடி நிறம் போன்ற தொடர்பற்ற விவரங்களைச் சேர்த்தால், அந்த அமைப்புகள் குழு அடிப்படையிலான வகைப்பாட்டிற்கு (group-based sorting) திரும்புவதற்கான சாக்குகளாக அவற்றைப் பயன்படுத்திக்கொள்கின்றன. அதிகத் தகவல் எப்போதும் சிறந்தது என்று சொல்ல முடியாது. அந்தத் தகவல் என்னவாக இருக்கிறது என்பதையும், அது மாதிரியின் இலக்கை (optimization target) அடைய மாற்றுப் பாதையை வழங்குகிறதா என்பதையும் பொறுத்தே அது அமையும்.

முன்னோக்கிச் செல்லும் பாதை

இவை அனைத்தும் மிகுந்த முக்கியத்துவம் வாய்ந்தவை, ஏனெனில் இந்த அமைப்புகள் வெறும் உரையாடல் பெட்டிகளுடன் (chat windows) மட்டும் நின்றுவிடுவதில்லை. இதே போன்ற கட்டமைப்புகள் (architectures), கடன் ஒப்புதல்கள், மன்னிப்புப் பரிந்துரைகள் மற்றும் பணியாளர் மேலாண்மை முடிவுகளைப் பெரிய அளவில் எடுப்பதற்காகப் பயன்படுத்தப்படுகின்றன அல்லது அதற்காகத் தயார் செய்யப்படுகின்றன. ஆராய்ச்சியாளர்கள் "புதிய சார்புகள்" (novel biases) குறித்து எச்சரிக்கின்றனர்—அவை எந்த மனிதனும் கொண்டிருந்தது அல்ல, எந்த வரலாற்றுத் தரவுகளிலும் குறியீடு செய்யப்படவில்லை, ஆனால் செயல்திறனைத் துரத்தும்போது AI தானாகவே உருவாக்கிக்கொண்ட முன்முடிவுகள் ஆகும்.

அசௌகரியமான உண்மை என்னவென்றால், வெறும் தர்க்கரீதியான திறன் (raw reasoning ability) மற்றும் சமூக நீதி (social fairness) ஆகிய இரண்டும் ஒன்றுக்கொன்று முரணான திசைகளில் இழுக்கக்கூடும். ஒரு சரியான விடையைக் கண்டறிய மிகக் குறுகிய பாதையைத் தேடும் வகையில் மேம்படுத்தப்பட்ட மாதிரி (model), மனிதர்களைப் பற்றிய தவறான அனுமானங்களுக்குச் செல்லும் மிகக் குறுகிய பாதையையும் மகிழ்ச்சியுடன் கண்டறியும். நியாயமான அமைப்புகளை உருவாக்குவது என்பது வெறும் நற்பண்புகளைக் கேட்பது மட்டுமல்ல. அது இலக்குகளை மறுவடிவமைப்பு செய்வது, பின்னூட்டச் சுழற்சிகளை (feedback loops) தணிக்கை செய்வது மற்றும் ஒரு தவறுக்குப் பிறகு மனிதர்களை ஒரு குறிப்பிட்ட பிரிவாகக் குறைத்து மதிப்பிடும் பொதுப்படையான கருத்துக்கள் (generalizations) உருவாவதை ஒருபோதும் அனுமதிக்கக் கூடாது என்பதை ஏற்றுக்கொள்வதாகும். AI விண்ணப்பதாரர்களை நியாயமாகத் தீர்ப்பளிக்க வேண்டுமென்றால், நீதியை ஒரு ஆலோசனையாகக் கருதுவதை நிறுத்திவிட்டு, அதை ஒரு கட்டாயக் கட்டுப்பாடாக (hard constraint) குறியீடு செய்யத் தொடங்க வேண்டும். இல்லையெனில், இயந்திரங்கள் தங்களின் செயல்திறனை மேம்படுத்திக்கொண்டே முன்முடிவுகளுக்குள் (prejudice) நேராகச் சென்றுவிடும்.