தானியங்கி வாகனங்கள், தொழில்துறை ரோபோக்கள் மற்றும் ட்ரோன் கூட்டங்கள் ஆகியவை பழைய ஆட்டோபைலட் அமைப்புகளை இயக்கிய கடினமான, கையால் எழுதப்பட்ட விதிமுறைப் புத்தகங்களைப் பின்பற்றுவதில்லை. அவை பெருமளவிலான தரவுகளிலிருந்து கற்றுக்கொள்கின்றன, அதாவது அவற்றின் செயல்பாடு நிகழ்தகவு சார்ந்தது (probabilistic), தீர்மானிக்கப்பட்டது (deterministic) அல்ல. ஒரு பாரம்பரிய விமான ஆட்டோபைலட், வெளிப்படையாகக் குறியீடு செய்யப்பட்ட தர்க்கத்தின் (logic) மூலம் சென்சார் உள்ளீடுகளுக்கு எதிர்வினையாற்றுகிறது. ஒரு இயந்திரக் கற்றல் (machine learning) மாதிரி, பயிற்சியின் போது அது கண்டறிந்த வடிவங்களின் (patterns) மூலம் எதிர்வினையாற்றுகிறது. அந்த வேறுபாடு சரிபார்ப்பதை (verification) மிகவும் கடினமாக்குகிறது, இதனால்தான் இயந்திரக் கற்றல் சமூகம் தற்காலிகச் சோதனை முறைகளைத் (ad-hoc testing) தவிர்த்து, கட்டமைக்கப்பட்ட உறுதித்தன்மை கட்டமைப்புகளை (structured assurance frameworks) நோக்கி நகர்ந்துள்ளது.
இயந்திரக் கற்றல் உறுதித்தன்மை ஏன் தவிர்க்க முடியாதது
ஒரு தானியங்கி அமைப்பு தவறு செய்யும்போது, அதன் விளைவுகள் ஒரு சர்வர் பிழை அல்லது முடங்கிய பயன்பாட்டிற்கு (frozen application) அப்பாற்பட்டதாக இருக்கும். ஒரு கிடங்கு ரோபோ ஒரு தடையைத் தவறாக அடையாளம் காண்பது சரக்குகளைச் சேதப்படுத்தலாம் அல்லது ஒரு தொழிலாளியை காயப்படுத்தலாம். ஒரு டெலிவரி ட்ரோன் மின்சாரக் கம்பியைத் திறந்த வானமாக வகைப்படுத்துவது உள்கட்டமைப்பில் மோதி விபத்துக்குள்ளாகலாம். இந்த அமைப்புகள் சிக்கலான நரம்பியல் வலைப்பின்னல்கள் (neural networks) மற்றும் புள்ளிவிவர மாதிரிகளைச் சார்ந்து இருப்பதால், அவற்றின் தோல்வி முறைகள் நுட்பமானவை. அவை அரிதாகவே வெளிப்படையான வழிகளில் செயலிழக்கின்றன. மாறாக, பயிற்சியின் போது அவை பார்த்த விநியோகங்களுக்கு (distributions) வெளியே இருக்கும் உள்ளீடுகளைச் சந்திக்கும் போது, அவை அமைதியாகச் செயல்திறன் குறையத் தொடங்குகின்றன.
தானியங்கி இயந்திரக் கற்றலில் ஏற்படும் பிழைகள் எப்போதும் வெளிப்படையாகத் தெரியக்கூடிய மோசமான குறியீடுகளிலிருந்து உருவாவதில்லை. அவை பயிற்சித் தரவுகளில் உள்ள இடைவெளிகள், எதிர்பாராத சுற்றுச்சூழல் மாற்றங்கள் அல்லது விளிம்பு நிலை நிகழ்வுகளில் (edge cases) மிகை நம்பிக்கையுடன் கூடிய கணிப்புகள் ஆகியவற்றிலிருந்து உருவாகலாம். ML கூறுகளைத் தரமான மென்பொருள் தொகுதிகளாகக் கருதி, ஒரு யூனிட் டெஸ்ட் தொகுப்பு (unit test suite) போதுமானது என்று நினைக்கும் நிறுவனங்கள், ஆய்வகத் துல்லியம் நிஜ உலகப் பாதுகாப்பிற்குப் பொருந்தாது என்பதை மிகத் தாமதமாகவே கண்டறிகின்றன. கற்றல் நடத்தையின் தனித்துவமான அபாயங்களைக் கையாளும் ஒரு முறையான தரநிலை உங்களுக்குத் தேவைப்படுகிறது. அந்த இடைவெளியை நிரப்புவதற்காகவே AMLAS கட்டமைப்பு வடிவமைக்கப்பட்டுள்ளது.
AMLAS உண்மையில் எவற்றைக் கையாள்கிறது
AMLAS என்பது 'Assurance of Machine Learning for use in Autonomous Systems' என்பதைக் குறிக்கிறது; இது கற்றுக் கொள்ளப்பட்ட கூறுகள் அதிக முக்கியத்துவம் வாய்ந்த பயன்பாட்டிற்கு (high-stakes deployment) ஏற்றவை என்பதைச் சரிபார்க்க ஒரு முழுமையான (end-to-end) அணுகுமுறையை வழங்குகிறது. இது பாதுகாப்பை ஒரு கூடுதல் சிந்தனையாகவோ அல்லது வெளியீட்டிற்கு முந்தைய இறுதித் தடையாகவோ கருதுவதில்லை. மாறாக, இது உறுதித்தன்மை நடவடிக்கைகளை அமைப்பின் வாழ்க்கைச் சுழற்சியுடன் (lifecycle) இணைக்கிறது.
இந்த கட்டமைப்பு மூன்று நடைமுறைத் தூண்களில் கவனம் செலுத்துகிறது:
ML மாதிரிகளுக்கான சரிபார்ப்பு முறைகள். இது துல்லியம் (accuracy) அல்லது F1 ஸ்கோர் போன்ற நிலையான பயிற்சி-சோதனைப் பிரிப்பு அளவீடுகளைத் (train-test split metrics) தாண்டிச் செல்கிறது. AMLAS-ன் கீழ் உள்ள உறுதித்தன்மை என்பது, மாதிரி முடிவெடுக்கும் எல்லைகளில் (decision boundaries) கணிக்கக்கூடிய வகையில் செயல்படுகிறதா, விநியோகத்திற்கு அப்பாற்பட்ட (out-of-distribution) உள்ளீடுகளுக்கு அது எவ்வாறு பதிலளிக்கிறது மற்றும் அதன் நம்பிக்கை மதிப்பெண்கள் (confidence scores) உண்மையான நிச்சயமற்ற தன்மையின் நம்பகமான குறிகாட்டிகளா என்பதைக் கேட்கிறது. பொறியாளர்கள் மாதிரியை எதிரித் தாக்குதல் உதாரணங்களைக் (adversarial examples) கொண்டு ஆராய வேண்டும் மற்றும் பயிற்சித் தொகுப்பிற்குச் சற்று வெளியே உள்ள களங்களிலிருந்து வரும் உள்ளீடுகளைக் கொண்டு அதைச் அழுத்தச் சோதனை (stress-test) செய்ய வேண்டும் என்று எதிர்பார்க்கப்படுகிறது. இதன் நோக்கம் முழுமை என்பது அல்ல. மாதிரி எப்போது நம்பகமானது மற்றும் எப்போது நம்பகமற்றது என்பதைத் தெரிந்துகொள்ள போதுமான ஆதாரங்களைப் பெறுவதே இதன் நோக்கமாகும்.
தானியங்கிச் செயல்பாடுகளுக்கான பாதுகாப்பு நெறிமுறைகள். கற்றுக் கொள்ளப்பட்ட ஒரு புலன் உணர்தல் மாதிரி (perception model), இயற்பியல் வன்பொருளை நகர்த்தும் திட்டமிடல் மற்றும் கட்டுப்பாட்டு மென்பொருளுக்குத் தரவுகளை வழங்குகிறது. இந்தத் தொடர்ச்சியான செயல்பாடுகளில் (downstream actions) பாதுகாப்புத் தடுப்புகள் (guardrails) இருக்க வேண்டும் என்று AMLAS கோருகிறது. ஒரு நரம்பியல் வலைப்பின்னல் ஒரு பொருளைத் தவறாக வகைப்படுத்தினாலும், வாகனம் அல்லது ரோபோ கடினமான கட்டுப்பாடுகளை (hard constraints) மீறும் பாதையை (trajectory) இயற்பியல் ரீதியாகச் செயல்படுத்தக் கூடாது. இது ரோபோடிக் கைகளுக்கான திருப்புவிசை வரம்புகள் (torque limits), ட்ரோன்களுக்கான புவிசார் எல்லைக் கட்டுப்பாடு (geofencing) அல்லது தரை வாகனங்களுக்கான கட்டாயத் தடுப்புப் பாதைகள் (braking corridors) ஆகியவற்றைக் குறிக்கலாம். ஒரு ஒற்றை மாதிரிப் பிழை கட்டுப்பாடற்ற இயற்பியல் நிகழ்வாக மாறுவதைத் தடுக்க, தானியங்கி அமைப்புக்குக் கட்டடக்கலை அடுக்குகள் (architectural layers) தேவைப்படுகின்றன.
நிச்சயமற்ற தன்மையைக் குறைப்பதற்கான முறைகள். இயந்திரக் கற்றலில் நிச்சயமற்ற தன்மை பல வடிவங்களில் வருகிறது. இதில் சென்சார் வாசிப்புகள் அல்லது சூழல்களில் உள்ள இயல்பான இரைச்சலைக் குறிக்கும் aleatoric uncertainty மற்றும் மாதிரி இன்னும் அறியாதவற்றைப் பிரதிபலிக்கும் epistemic uncertainty ஆகிய இரண்டும் உள்ளன. இவை இரண்டையும் அளவிடுவதையும் நிர்வகிப்பதையும் AMLAS ஊக்குவிக்கிறது. பல மாதிரிகள் முரண்பாடுகளை எச்சரிக்கை அறிகுறியாகக் குறிக்கும் ensemble methods அல்லது ஒழுங்கற்ற நடத்தையை ஏற்படுத்தும் என்று அறியப்பட்ட தரவுகளை நிராகரிக்கும் உள்ளீட்டுச் சரிபார்ப்பு அடுக்குகள் (input validation layers) போன்ற நுட்பங்களை இதில் சேர்க்கலாம். உங்களால் நிச்சயமற்ற தன்மையை முற்றிலும் நீக்க முடியாமல் போகலாம், ஆனால் அதன் அடிப்படையில் அமைப்பு குருட்டுத்தனமாகச் செயல்படுவதைத் தடுக்க முடியும்.
நம்பிக்கையை உருவாக்குவதற்கான நடைமுறைப் பாதை
குழுக்கள் அவற்றை நடைமுறைப்படுத்தினால் மட்டுமே கட்டமைப்புகள் முக்கியத்துவம் பெறுகின்றன. நிறுவனங்கள் ஒரு ஒழுங்குமுறைத் தொடரைப் பின்பற்றும்போது AMLAS சிறந்த முறையில்ச் செயல்பாட்டுக்கு வருகிறது.
ஒரு தரவுத்தொகுப்பை (dataset) சேகரிப்பதற்கு முன்பே உங்கள் பாதுகாப்பு இலக்குகளை வரையறுக்கவும். பாரம்பரிய மென்பொருள் பொறியியலில், தேவைகள் முதலில் வரும். இயந்திர கற்றல் (Machine learning) திட்டங்கள் பெரும்பாலும் இதைத் தலைகீழாகச் செய்கின்றன; அதாவது மாதிரி (model) பயிற்சியளிக்கப்பட்ட பிறகு பாதுகாப்பைத் தீர்க்க வேண்டிய ஒரு பிரச்சனையாகக் கருதுகின்றன. அந்தப் பழக்கத்தை மாற்றிக்கொள்ளுங்கள். தெளிவான செயல்பாட்டு வடிவமைப்பு களத்துடன் (operational design domain) தொடங்குங்கள். எந்தச் சூழ்நிலைகளில் இந்த அமைப்பு இயங்கும்? ஒவ்வொரு அபாயத்திற்கும் ஏற்றுக்கொள்ளக்கூடிய தோல்வி விகிதம் (failure rate) எது? எந்தத் தோல்விகளுக்கு மனிதர்களின் உடனடித் தலையீடு தேவை? இந்த கேள்விகளுக்கு ஆரம்பத்திலேயே பதிலளிப்பது, தரவு சேகரிப்பு முதல் மாதிரி கட்டமைப்பு (model architecture) வரை அனைத்தையும் வடிவமைக்கும்.
உண்மையான செயல்பாட்டுச் சிக்கல்களைப் பிரதிபலிக்கும் தரவுகளைக் கொண்டு உங்கள் மாதிரிகளைச் சோதிக்கவும். ஆய்வக அளவீடுகள் (Lab benchmarks) ஆறுதல் அளிக்கலாம், ஆனால் அவை உண்மையைச் சொல்லாது. தூய்மையான பார்கோடு படங்களை மட்டும் கொண்டு பயிற்சியளிக்கப்பட்ட ஒரு கிடங்கு ரோபோ (warehouse robot), லேபிள்கள் சுருங்கியிருந்தாலோ, வெளிச்சம் குறைவாக இருந்தாலோ அல்லது அழுக்கினால் மறைக்கப்பட்டிருந்தாலோ தோல்வியடையும். சாதகமான வானிலையில் மட்டுமே சோதிக்கப்பட்ட ஒரு தானியங்கி ட்ரோன் (autonomous drone), வெளிச்சத்தின் பிரதிபலிப்பு (glare) மற்றும் காற்றின் வேகம் (wind shear) ஆகியவற்றால் சிரமப்படும். தொகுக்கப்பட்ட தரவுத்தொகுப்புகளில் (curated datasets) ஒருபோதும் தோன்றாத சவாலான விளிம்பு நிலைச் சூழல்களை (edge cases) உட்பட, உண்மையான பயன்பாட்டுச் சூழல்களில் இருந்து பெறப்பட்ட பதிவுகள் (logs) உங்களுக்குத் தேவை. 'ஷேடோ மோட்' (shadow mode) சோதனைகளை நடத்துங்கள்; இதில் தானியங்கி அமைப்பு மனித இயக்குநர்களுடன் இணைந்து முடிவுகளை எடுக்கும், ஆனால் வன்பொருளை (hardware) இன்னும் கட்டுப்படுத்தாது. பதிவுகளைத் துல்லியமாக ஒப்பிட்டுப் பாருங்கள்.
பயன்பாட்டிற்குப் பிறகு செயல்திறனைத் தொடர்ந்து கண்காணிக்கவும். உலகம் நிலையானது அல்ல. பருவகால ஒளி மாற்றங்கள், தேய்ந்துபோன சாலைப் பரப்புகள், புதிய பேக்கேஜிங் வடிவமைப்புகள் மற்றும் மாறிவரும் நெட்வொர்க் போக்குவரத்து முறைகள் ஆகியவை ஒரு காலத்தில் சிறப்பாகச் செயல்பட்ட ஒரு மாதிரியின் தரத்தைக் குறைக்கலாம். கணிப்புத் துல்லியம் (prediction confidence), உள்ளீட்டுப் பரவல் மாற்றம் (input distribution drift) மற்றும் விபத்து விகிதங்களைக் கண்காணிக்கும் தொலைதூரத் தரவு சேகரிப்பு (telemetry) முறையை அமைக்கவும். செயல்பாடுகள் மாறும்போது, மனித ஆய்வைத் தூண்டும் அல்லது தற்காலிக செயல்பாட்டுத் தடைகளை விதிக்கும் வரம்புகளை (thresholds) நிர்ணயிக்கவும். ஒரு மாதிரி என்பது நீங்கள் அனுப்பிவிட்டு மறந்துவிடும் ஒரு நிலையான தயாரிப்பு அல்ல. அது நிஜ உலகத்தைச் சந்திக்கும் தருணத்திலிருந்தே காலாவதியாகும் ஒரு அங்கமாகும்.
நிஜ உலகச் சரிபார்ப்பு குறித்த கசப்பான உண்மை
அதிக சரிபார்ப்பு மதிப்பெண் (validation score) தயார்நிலையைக் குறிக்கிறது என்று பல குழுக்கள் தங்களைத் தாங்களே நம்பிக் கொள்கின்றன. அது உண்மையல்ல. நிஜ உலகச் சரிபார்ப்பிற்குச் சவால்களை எதிர்கொள்ளத் தயாராக இருக்க வேண்டும். இதன் பொருள், பலத்த காற்று வீசும் சூழலில் ட்ரோன்களைப் பறக்கவிடுவது, மின்விளக்குகள் விட்டு விட்டு எரியும் இரவு நேரப் பணியின் போது கிடங்கு ரோபோக்களை இயக்குவது மற்றும் சாலைக் குறிகளில் உள்ள எதிரித் தன்மை கொண்ட ஸ்டிக்கர்களைக் கொண்டு உணர்தல் மாதிரிகளை (perception models) சோதிப்பது என்பதாகும். உங்கள் சோதனைச் சூழல் நேர்த்தியாகவும் கணிக்கக்கூடியதாகவும் இருந்தால், நீங்கள் சோதனை செய்யவில்லை; நீங்கள் பயிற்சி எடுக்கிறீர்கள் என்று அர்த்தம்.
இந்தச் செயல்முறை செலவு மிக்கது மற்றும் மெதுவானது. இதற்கு இயந்திர கற்றல் பொறியாளர்கள், பாதுகாப்பு நிபுணர்கள் மற்றும் இயற்பியல் சூழலைப் புரிந்துகொண்ட கள இயக்குநர்களுக்கிடையிலான ஒத்துழைப்பு தேவைப்படுகிறது. இதன் பலன் ஆதாரங்களின் தொகுப்பாகும். நீங்கள் இறுதியாகப் பயன்பாட்டிற்கு வரும்போது, குறிப்பிட்ட சோதனைச் சூழல்கள், அறியப்பட்ட தோல்வி முறைகள் மற்றும் ஒவ்வொரு அபாயத்திற்கும் தொடர்புடையத் தணிப்பு முறைகளை (mitigations) சுட்டிக்காட்டத் தயாராக இருக்க வேண்டும். அந்த ஆவணமே ஒரு முன்மாதிரியை (prototype), மனிதர்களுக்கு அருகில் மேற்பார்வை இன்றி இயக்கத் தயாராக இருக்கும் ஒரு அமைப்பிலிருந்து வேறுபடுத்துகிறது.
காலப்போக்கில் அமைப்புகளைத் துல்லியமாக வைத்திருத்தல்
பயன்பாட்டிற்குப் பிந்தைய கண்காணிப்பு என்பது பல உறுதித் திட்டங்கள் (assurance programs) அமைதியாகச் செயலிழக்கும் இடமாகும். குழுக்கள் வெளியீட்டைக் கொண்டாடிக்கொண்டு, அடுத்த அம்சத்திற்காக வளங்களை மறுபகிர்வு செய்கின்றன. இதற்கிடையில், பயன்பாட்டில் உள்ள மாதிரி, அதன் பயிற்சி அனுபவத்திலிருந்து நுணுக்கமாக மாறுபடும் உள்ளீடுகளை எதிர்கொள்கிறது. தீவிரமான ஒரு சம்பவம் எதிர்வினை ஆய்வைத் தூண்டும் வரை, இந்த மாற்றம் (drift) தடையின்றித் தொடரும்.
கட்டமைக்கப்பட்ட பின்னூட்டச் சுழல்களை (feedback loops) அமைக்கவும். மாதிரி குறைந்த நம்பிக்கையை வெளிப்படுத்தும் அல்லது மனித இயக்குநர்கள் தலையிடும் ஒவ்வொரு நிகழ்வையும் பதிவு செய்யவும். இந்தப் பதிவுகளைப் பயன்படுத்தி அவ்வப்போது மாதிரியை மறுபயிற்சி அல்லது நுணுக்கமான மாற்றங்களைச் (fine-tune) செய்யவும், ஆனால் ஒவ்வொரு புதுப்பித்தலையும் அசல் வெளியீட்டிற்குப் பயன்படுத்தப்பட்ட அதே உறுதித் தேர்வுகள் (assurance gates) மூலம் சரிபார்க்கவும். ஒரு இயந்திரத் தடையமைப்பு அமைப்பை (mechanical brake system) புதிய வடிவமைப்பிற்கு மாற்றும்போது எவ்வளவு எச்சரிக்கையுடன் இருப்பீர்களோ, அதே அளவு எச்சரிக்கையுடன் மாதிரிப் புதுப்பிப்புகளைக் கையாளவும்.
உண்மையான கருத்து
தானியங்கி அமைப்புகளில் இயந்திர கற்றல் என்பது ஒரு ஆராய்ச்சி விளையாட்டுப் பெட்டி (sandbox) அல்ல. இது உடல் ரீதியான அபாயங்களைக் கொண்ட ஒரு உள்கட்டமைப்பு ஆகும், மேலும் விண்வெளி மற்றும் மருத்துவ சாதனப் பொறியாளர்கள் வன்பொருளுக்குப் பயன்படுத்தும் அதே கண்டிப்புடன் இதையும் கையாள வேண்டும். AMLAS அந்தத் துல்லியமான செயல்பாட்டிற்கான கலைச்சொற்களையும் பணிப்பாய்வையும் (workflow) வழங்குகிறது. இது உங்களுக்காகத் நம்பிக்கையைத் தானியக்கமாக்காது, ஆனால் அதைத் தகுதியுடன் பெறுவதற்கான மீண்டும் மீண்டும் செய்யக்கூடிய வழியை உங்களுக்கு வழங்கும். நேர்மையான பாதுகாப்பு இலக்குகளுடன் தொடங்குங்கள். உண்மையான மற்றும் சவாலான தரவுகளைக் கொண்டு சரிபார்க்கவும். அமைப்பு செயல்பாட்டிற்கு வந்தவுடன் ஒரு சந்தேகவாதியைப் போல அதைக் கண்காணிக்கவும். கட்டமைப்புகள் உள்ளன. மீதமிருப்பது ஒழுக்கம் மட்டுமே.
AMLAS வழிகாட்டுதலின் முழுமையான தொழில்நுட்ப விவரங்களுக்கு, அசல் விவரங்களை இங்கே படிக்கவும்: https://dev.to/paperium/guidance-on-the-assurance-of-machine-learning-in-autonomous-systems-amlas-f9
நீங்கள் உறுதித் திட்ட உத்திகள் குறித்து விவாதிக்கவும், இதே போன்ற சிக்கல்களில் பணியாற்றும் சமூகத்துடன் நடைமுறை குறிப்புகளைப் பரிமாறிக் கொள்ளவும் விரும்பினால், இங்கே உரையாடலில் இணையவும்: https://t.me/GyaanSetuAi