𝗠𝘆 𝗕𝗶𝗮𝘀 𝗗𝗲𝘁𝗲𝗰𝘁𝗼𝗿 𝗙𝗼𝘂𝗻𝗱 𝗖𝗵𝗲𝗿𝗿𝘆-𝗣𝗶𝗰𝗸𝗶𝗻𝗴 𝗶𝗻 "𝗡𝗼 𝗜𝗻𝗳𝗼"

நான் Biassemble என்ற ஒரு திட்டத்தை உருவாக்கினேன்.

இதன் நோக்கம் எளிமையானது. நீங்கள் ஒரு கதையை உள்ளீடாகக் கொடுத்தால், அது கேள்விகளைக் கேட்கும். நீங்கள் சிந்திக்கும் முறையில் உள்ள அறிவாற்றல் சார்புகளை (cognitive biases) அது சுட்டிக்காட்டும்.

அன்னா என்ற பெண்ணைப் பற்றிய ஒரு கதையைக் கொண்டு நான் இதைச் சோதித்தேன். அந்தத் கதையில் உண்மைகள் மட்டுமே இருந்தன. அவள் காபி குடித்தாள். பேருந்து பிடித்தாள். அலுவலகத்திற்கு நடந்தே சென்றாள். அந்த உரையில் கருத்துக்களோ அல்லது உணர்ச்சிகளோ இல்லை.

எனது முதல் ப்ராம்ப்ட்டில் (prompt) ஒரு விதி இருந்தது: கொடுக்கப்பட்ட பட்டியலில் இருந்து குறைந்தது ஒரு சார்பைக் (bias) கண்டறிய வேண்டும்.

இந்த விதி, ஏதோ ஒன்றைக் கண்டறியும் படி அமைப்பை வற்புறுத்தியது. எதுவுமே இல்லாத போதும், அந்த அமைப்பு ஒரு சார்பைத் தானாகவே உருவாக்க முயன்றது.

நான் ப்ராம்ப்ட்டை பதிப்பு 1.0.0 ஆகப் புதுப்பித்தேன். ஆதாரங்களுக்கானத் தேவையைச் சேர்த்தேன். ஒரு சார்பு இருப்பதை நிரூபிக்க, அந்த அமைப்பானது கதையின் குறிப்பிட்ட பகுதிகளைக் குறிப்பிட வேண்டும் என்று நிபந்தனை விதித்தேன்.

இது பிரச்சனையைச் சரிசெய்துவிடும் என்று நான் நினைத்தேன். ஆனால் அது நடக்கவில்லை.

தொடர்ச்சியான கேள்விகளுக்கு நான் "no info" என்று பதிலளித்தபோது, அந்த அமைப்பு நான் 'செர்ரி-பிக்கிங்' (Cherry-Picking) செய்வதாகக் குறிப்பிட்டது. யூகிக்க மறுப்பது என்பது தரவுகளைத் தவிர்ப்பதற்கான ஒரு திட்டமிட்ட முடிவு என்று அது வாதிட்டது.

தொழில்நுட்ப ரீதியாக அந்த அமைப்பு சரியாக இருந்தது. நான் நான்கு முறை "no info" என்று சொல்லியிருந்தேன். அது எனது வார்த்தைகளையே மேற்கோள் காட்டியது. ஆனால் அதன் முடிவு தவறானது. தகவல் இல்லாத நிலையை அது ஒரு சிந்திக்கும் பிழையாக (reasoning error) மாற்றியது.

'Grounding' முறையானது மேற்கோள்களை உண்மையானதாக மாற்றியதே தவிர, முடிவுகளைச் சரியாக மாற்றவில்லை.

நான் பதிப்பு 1.1.0-ஐ வெளியிட்டேன். அதில் மூன்று புதிய சோதனைகளைச் சேர்த்தேன்:

முடிவுகள் மாறின. அதே "no info" பதில்களைக் கொடுத்தபோதும், பதிப்பு 1.1.0 எந்தச் சார்பையும் கண்டறியவில்லை. எனது பதில்கள் விளக்கமளிப்பவையாகவே (descriptive) இருந்தன, விளக்கமளிக்கும் விதமாக (interpretive) இல்லை என்பதை அது உணர்ந்தது.

இந்த இரண்டு பதிப்புகளுக்கும் இடையிலான வேறுபாடு ஆதாரங்கள் அல்ல. "எனக்குத் தெரியாது" என்பதை அந்த அமைப்பு எவ்வாறு கையாள்கிறது என்பதே வித்தியாசம்.

ஒரு பதிப்பு "எனக்குத் தெரியாது" என்பதை ஒரு சார்பின் அறிகுறியாகப் பார்க்கிறது. மற்றொன்று அதை ஒரு சரியான பதிலாகப் பார்க்கிறது. இதை எவ்வாறு கையாள்வது என்பதை நீங்கள் மாடலுக்குக் கூற வேண்டும். அது தானாகவே முடிவெடுக்காது.

இதைச் சோதிக்க நான் இப்போது அளவீடுகளை (metrics) உருவாக்கி வருகிறேன். அந்த அமைப்பு உண்மையில் முன்னேறியுள்ளதா அல்லது இந்த குறிப்பிட்ட கதையைத் தவிர்க்கக் கற்றுக்கொண்டதா என்பதை நான் அறிய வேண்டும்.

நான் ஒரு சார்பு கண்டறிவியை உருவாக்குகிறேன் என்று நினைத்தேன். அதற்குப் பதிலாக, "எனக்குத் தெரியாது" என்ற நிலையில் சிந்திக்கும் அமைப்புகள் ஏன் சிரமப்படுகின்றன என்பதை நான் கற்றுக்கொண்டேன்.

Source: https://dev.to/lemind/my-bias-detector-found-cherry-picking-in-the-answer-no-info-9hf

Optional learning community: https://t.me/GyaanSetuAi