𝗬𝗼𝘂𝗿 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁 𝗜𝘀𝗻'𝘁 𝗕𝗿𝗼𝗸𝗲𝗻. 𝗬𝗼𝘂𝗿 𝗖𝗼𝗺𝗽𝗮𝗻𝘆'𝘀 𝗧𝗿𝘂𝘁𝗵 𝗜𝘀.

ஒரு AI ஏஜென்ட்டிற்கு ஒரே ஒரு வேலை இருந்தது. அங்கீகரிக்கப்பட்ட ஒரு விற்பனையாளரின் இன்வாய்ஸிற்கு (invoice) பணம் செலுத்த வேண்டும் என்பதுதான் அது. நிதித் குழுவினர் இதைத் தன்னிச்சையாக (manually) செய்வதைத் தவிர்க்க விரும்பினர்.

ஒரு செவ்வாய்க்கிழமை, அந்த ஏஜென்ட் 48,000 Ksh மதிப்பிலான ஒரு இன்வாய்ஸைத் தேர்ந்தெடுத்தது. ERP சிஸ்டம் அதை 'அங்கீகரிக்கப்பட்டது' (approved) மற்றும் 'செலுத்தப்படவில்லை' (unpaid) என்று குறிப்பிட்டது. ஏஜென்ட் விதிகளைச் சரிபார்த்தது. அனைத்தும் சரியாக இருந்தன. அது இன்வாய்ஸிற்குப் பணம் செலுத்தியது.

பிரச்சனை என்ன? அந்த இன்வாய்ஸிற்கு கடந்த வியாழக்கிழமையே ஒரு மனிதரால் பணம் செலுத்தப்பட்டுவிட்டது.

எந்த ஒரு தனி அமைப்பும் தவறாக இல்லை, ஆனால் அவை அனைத்தும் ஒன்றுக்கொன்று முரண்பட்டன:

• ERP சிஸ்டம், வங்கித் தொடர்பு (bank sync) தோல்வியடைந்ததால் அது செலுத்தப்படவில்லை என்று கூறியது. • வங்கித் தரவு (bank feed) அது செலுத்தப்பட்டுவிட்டது என்று கூறியது. • ஒரு Slack உரையாடல் (thread), இந்த விற்பனையாளருக்கு அனைத்துப் பணப் பரிமாற்றங்களையும் நிறுத்தி வைக்குமாறு கூறியது. • விற்பனையாளரிடமிருந்து வந்த ஒரு மின்னஞ்சல், அவர்கள் பணத்தைப் பெற்றுக்கொண்டதை உறுதிப்படுத்தியது.

ஒவ்வொரு அமைப்பும் ஒரு சிறு தகவலை மட்டுமே கொண்டிருந்தன. ஆனால், மிக முக்கியமான ஒரே ஒரு கேள்விக்கு எந்த அமைப்பாலும் பதிலளிக்க முடியவில்லை: இந்த குறிப்பிட்ட இன்வாய்ஸிற்குப் பணம் செலுத்தப்பட்டுவிட்டதா?

ஒரு மனித உதவியாளர் இதைத் தடுத்திருப்பார். அவர்கள் புத்திசாலிகள் என்பதால் அல்ல, மாறாக அவர்களுக்குச் சூழலில் உள்ள முரண்பாடுகள் (friction) புலப்படுவதால். ஒரு மனிதர் அந்தப் பணியை நினைவில் வைத்திருப்பார் அல்லது Slack செய்தியைக் கவனிப்பார். குழப்பமான அமைப்புகளுக்கு இடையே மனிதர்கள் ஒரு பிணைப்பாகச் செயல்படுகிறார்கள். நாம் தீர்ப்பு வழங்கும் திறன் கொண்டவர்கள்.

AI ஏஜென்ட்களுக்கு உள்ளுணர்வு கிடையாது. அவை இயந்திர வேகத்தில் தரவுகளைப் படிக்கின்றன. "Approved" மற்றும் "Unpaid" என்பதைக் கண்டவுடன் அவை செயல்படுகின்றன. ஏதோ தவறு நடக்கிறது என்பதை அவற்றால் உணர முடியாது.

அந்த ஏஜென்ட் தோல்வியடையவில்லை. அது வடிவமைக்கப்பட்டபடியே சரியாகச் செயல்பட்டது. இந்தத் தோல்வியைத்தான் நான் 'epistemic collapse' (அறிவுசார் உண்மைத்தன்மைச் சிதைவு) என்று அழைக்கிறேன்.

பெரும்பாலான நிறுவனங்கள் சிறந்த prompts அல்லது சிறந்த மாடல்களைப் பயன்படுத்தி ஏஜென்ட்களைச் சரிசெய்ய முயல்கின்றன. இது தவறான அணுகுமுறை. உங்கள் தரவுகளில் இல்லாத தகவலை, வெறும் prompt மூலம் நீங்கள் பெற முடியாது.

உண்மையான பிரச்சனை 'epistemic infrastructure' (அறிவுசார் உண்மைத்தன்மைக்கான கட்டமைப்பு) இல்லாததுதான்.

தரவு (Data) என்பது உங்கள் அமைப்புகள் சேமித்து வைக்கும் விஷயம். உண்மை (Truth) என்பது உண்மையில் நடப்பதே ஆகும். பெரும்பாலான நிறுவனங்களிடம் ஏராளமான தரவுகள் உள்ளன, ஆனால் உண்மைத்தன்மை என்பது பூஜ்யம்.

தற்போதைய அமைப்புகள் மூன்று வெவ்வேறு விஷயங்களை ஒரே புலத்தில் (field) இணைத்து விடுகின்றன:

  • கவனிப்பு (Observation): ஒரு அமைப்பு என்ன நடந்தது என்று சொல்கிறது என்பது.
  • உண்மை (Truth): உண்மையில் எது உண்மையானது என்பது.
  • வரலாறு (History): எது உண்மையாக இருந்தது என்பது.

ஒரு தரவுத்தளம் (database) "Status: Unpaid" என்று கூறும்போது, அது வரலாற்றையும் சந்தேகத்தையும் அழித்துவிடுகிறது. அது ஒரு தனிப்பட்ட கவனிப்பை (observation) முழுமையான உண்மையாக முன்வைக்கிறது.

இந்தத் பழைய பிரச்சனைக்கு AI ஏஜென்ட்கள் ஒரு சவாலாக (stress test) அமைகின்றன. ஒவ்வொரு நாளும் இந்த முரண்பாடுகளை அமைதியாகச் சரிசெய்து வந்த மனிதர்களை அவை நீக்கிவிடுகின்றன. இடைவெளிகளை நிரப்ப மனிதர்கள் இல்லாதபோது, உங்கள் தரவுகளில் உள்ள பிளவுகள் விலையுயர்ந்த தவறுகளாக மாறுகின்றன.

சிறந்த ஏஜென்ட்களை உருவாக்க முயற்சிப்பதை நிறுத்துங்கள். அவற்றிற்கு அடியில் உள்ள அடுக்கை (layer) உருவாக்கத் தொடங்குங்கள். கவனிப்புகளைக் கண்காணிக்கும், முரண்பாடுகளைக் கண்டறியும் மற்றும் காலாவதியான தரவுகளை (stale data) அடையாளம் காணும் ஒரு அமைப்பு உங்களுக்குத் தேவை.

நீங்கள் ஒரு உண்மைத் தளத்தை உருவாக்கும் வரை, உங்கள் ஏஜெண்டுகள் தவறான விஷயங்களை மிகச் சரியாகச் செய்துகொண்டே இருப்பார்கள்.

ஆதாரம்: https://dev.to/code_with_mwai/your-ai-agent-isnt-broken-your-companys-truth-is-2cl8

விருப்பமான கற்றல் சமூகம்: https://t.me/GyaanSetuAi