நிறுவன அளவிலான AI-இல் உள்ள நம்பிக்கை சிக்கல்
AI நம்பிக்கை பற்றிப் பேசும்போது பெரும்பாலான நிறுவனங்கள் தவறான விஷயத்தில் கவனம் செலுத்துகின்றன. அந்த மாடல் துல்லியமாக இருக்கிறதா? அது தவறான தகவல்களை (hallucinates) உருவாக்குகிறதா? என்று அவை கேட்கின்றன.
இந்தக் கேள்விகள் உண்மையான நோக்கத்தைத் தவறவிடுகின்றன.
நிறுவனங்கள் AI-ஐ கைவிடுவதற்குக் காரணம் அந்த மாடல் அல்ல. அந்த மாடலைச் சுற்றியுள்ள அமைப்பின் மீதான நம்பிக்கையின்மையே காரணம். நடைமுறைப் பயன்பாட்டில் (production) வெற்றி பெற, உங்களுக்குச் செயல்பாட்டுத் திறன் கட்டுப்பாடு (operational control) தேவை.
நீங்கள் நான்கு கேள்விகளுக்குப் பதிலளிக்க வேண்டும்:
- முடிவுகளை உங்களால் விளக்க முடியுமா? ஒரு AI ஏன் ஒரு குறிப்பிட்ட முடிவைத் தந்தது என்பதை ஒரு குழுவால் விளக்க முடியாவிட்டால், அவர்கள் நம்பிக்கையின் அடிப்படையில் மட்டுமே செயல்படுகிறார்கள் என்று அர்த்தம். முதல் விபத்தின் போதே அந்த நம்பிக்கை தோல்வியடையும்.
- முடிவுகளை உங்களால் சரிபார்க்க முடியுமா? AI வெளியீடுகளை உண்மையான வணிகத் தேவைகளுடன் ஒப்பிட்டுச் சரிபார்க்க உங்களுக்கு ஒரு வழி தேவை.
- உங்களால் தலையிட முடியுமா? உங்களுக்கு ஒரு 'kill switch' அல்லது மாற்று வழி (fallback path) தேவை. AI-ஐ நிறுத்துவதற்கு உங்களிடம் வழி இல்லையென்றால், ஒரு நெருக்கடியான நேரத்தில் அந்தப் பாடத்தைக் கற்றுக்கொள்வீர்கள்.
- முடிவுகளை உங்களால் கண்டறிய (trace) முடியுமா? ஒரு முடிவு மோசமான விளைவை ஏற்படுத்தினால், அந்தச் சங்கிலித் தொடரை நீங்கள் மீண்டும் உருவாக்க வேண்டும். உள்ளீடு (input), வெளியீடு (output) மற்றும் சூழல் (context) ஆகியவற்றை நீங்கள் அறிய வேண்டும்.
வெளிப்படைத்தன்மையற்ற நிலை (Opacity) டெமோக்களில் வேலை செய்யும். ஆனால் நடைமுறைப் பயன்பாட்டில் அது தோல்வியடையும்.
உண்மையான நடைமுறைச் சூழல்களில் தணிக்கையாளர்கள் (auditors), ஒழுங்குமுறை அமைப்பாளர்கள் (regulators) மற்றும் பொறியாளர்கள் இருப்பார்கள். விஷயங்கள் ஏன் நடந்தன என்பதை இவர்கள் அறிய வேண்டும். "AI தான் செய்தது" என்பதை ஒரு பதிலாக அவர்களால் ஏற்றுக்கொள்ள முடியாது.
வெளிப்படைத்தன்மையற்ற அமைப்புகள் நிச்சயமற்ற தன்மையை அதிகப்படுத்துகின்றன. நிச்சயமற்ற தன்மை பயன்பாட்டைத் தடுத்துவிடும்.
AI-ஐ நீண்ட காலம் தக்கவைத்துக் கொள்ளும் குழுக்கள் இந்த நான்கு விஷயங்களைச் செய்கின்றன:
- அவர்கள் வெளியீடுகளை விளக்கக்கூடியதாக மாற்றுகிறார்கள். குழுவில் உள்ள ஒருவரால் அந்த அமைப்பு ஏன் அவ்வாறு செயல்பட்டது என்பதற்கு எப்போதும் பதிலளிக்க முடியும்.
- அவர்கள் முடிவுகளைச் சரிபார்க்கக்கூடியதாக மாற்றுகிறார்கள். AI மற்றும் இறுதிச் செயல் ஆகியவற்றிற்கு இடையில் ஒரு சரிபார்ப்பு அடுக்கு (validation layer) இருக்கும்.
- அவர்கள் தலையிடுவதைச் சாத்தியமாக்குகிறார்கள். ஒரு மேலதிகாரத் தலையீடு செய்யும் வழி (override path) இருக்கும் மற்றும் அது செயல்படும்.
- அவர்கள் கண்டறியும் தன்மையை (traceability) உருவாக்குகிறார்கள். பதிவுகள் (logs) ஒவ்வொரு நிகழ்வையும் மீண்டும் உருவாக்க அனுமதிக்கின்றன.
மாடல்களை அணுகுவது இனி சவாலல்ல. AI உங்கள் பணிப்பாய்விற்குள் (workflow) நுழையும் போது, செயல்பாட்டுத் தெளிவை (operational clarity) தக்கவைத்துக் கொள்வதுதான் சவால்.
அமைப்பு வெளிப்படையாகவும், கண்டறியக்கூடியதாகவும் இருக்கும்போது நிறுவனங்கள் AI-ஐ வேகமாகப் பயன்படுத்துகின்றன. மாடலை மட்டும் நம்புவது போதாது. நீங்கள் முழு அமைப்பையும் நம்ப வேண்டும்.
உங்கள் குழு AI நம்பிக்கையை எவ்வாறு கையாள்கிறது? அது உங்கள் வடிவமைப்பிலேயே உள்ளதா அல்லது ஏதேனும் ஒன்று உடைந்து போகும் வரை நீங்கள் காத்திருக்கிறீர்களா?