സ്വയം നിയന്ത്രിത വാഹനങ്ങൾ, വ്യവസായ റോബോട്ടുകൾ, ഡ്രോൺ വ്യൂഹങ്ങൾ എന്നിവ പഴയ ഓട്ടോപൈലറ്റ് സംവിധാനങ്ങളെ നിയന്ത്രിച്ചിരുന്ന കർശനമായ, കൈപ്പടയിൽ എഴുതിയ നിയമപുസ്തകങ്ങൾ പിന്തുടരുന്നില്ല. അവ വലിയ അളവിലുള്ള ഡാറ്റയിൽ നിന്നാണ് പഠിക്കുന്നത്, ഇതിനർത്ഥം അവയുടെ പെരുമാറ്റം സാധ്യതകളെ അടിസ്ഥാനമാക്കിയുള്ളതാണ് (probabilistic), അല്ലാതെ നിശ്ചിത നിയമങ്ങളാൽ നിയന്ത്രിക്കപ്പെടുന്നതല്ല (deterministic). ഒരു പരമ്പരാഗത വിമാന ഓട്ടോപൈലറ്റ്, കൃത്യമായി കോഡ് ചെയ്ത ലോജിക് വഴി സെൻസർ ഇൻപുട്ടുകളോട് പ്രതികരിക്കുന്നു. എന്നാൽ ഒരു മെഷീൻ ലേണിംഗ് മോഡൽ, പരിശീലന സമയത്ത് അത് കണ്ടെത്തിയ പാറ്റേണുകളിലൂടെയാണ് പ്രതികരിക്കുന്നത്. ഈ വ്യത്യാസം പരിശോധനയെ (verification) കൂടുതൽ പ്രയാസകരമാക്കുന്നു, അതുകൊണ്ടാണ് മെഷീൻ ലേണിംഗ് കമ്മ്യൂണിറ്റി അഡ്-ഹോക്ക് ടെസ്റ്റിംഗിന് പകരം ഘടനാപരമായ അഷ്വറൻസ് ഫ്രെയിംവർക്കുകളിലേക്ക് മാറുന്നത്.
എന്തുകൊണ്ടാണ് മെഷീൻ ലേണിംഗ് അഷ്വറൻസ് ഒഴിവാക്കാനാവാത്തതാകുന്നത്
ഒരു സ്വയം നിയന്ത്രിത സംവിധാനം തെറ്റ് ചെയ്യുമ്പോൾ, അതിന്റെ പ്രത്യാഘാതങ്ങൾ ഒരു സെർവർ എററിനോ അല്ലെങ്കിൽ ഒരു ആപ്ലിക്കേഷൻ ഫ്രീസ് ആയതിനോ അപ്പുറമാണ്. ഒരു വെയർഹൗസ് റോബോട്ട് ഒരു തടസ്സം തെറ്റായി തിരിച്ചറിഞ്ഞാൽ അത് സ്റ്റോക്ക് നശിപ്പിക്കുകയോ ഒരു തൊഴിലാളിയെ പരിക്കേൽപ്പിക്കുകയോ ചെയ്തേക്കാം. ഒരു ഡെലിവറി ഡ്രോൺ ഒരു പവർ ലൈനിനെ തുറന്ന ആകാശമായി കണക്കാക്കിയാൽ അത് അടിസ്ഥാന സൗകര്യങ്ങളിൽ ഇടിച്ചു തകർന്നു വീഴാം. ഈ സംവിധാനങ്ങൾ സങ്കീർണ്ണമായ ന്യൂറൽ നെറ്റ്വർക്കുകളെയും സ്റ്റാറ്റിസ്റ്റിക്കൽ മോഡലുകളെയും ആശ്രയിക്കുന്നതിനാൽ, അവയുടെ പരാജയ രീതികൾ (failure modes) വളരെ സൂക്ഷ്മമാണ്. അവ അപൂർവ്വമായി മാത്രമേ പ്രത്യക്ഷത്തിൽ തകരാറിലാകുന്നുള്ളൂ. പകരം, പരിശീലന സമയത്ത് കണ്ട വിതരണങ്ങൾക്ക് (distributions) പുറത്തുള്ള ഇൻപുട്ടുകൾ നേരിടുമ്പോൾ അവ നിശബ്ദമായി പ്രവർത്തനക്ഷമത കുറയ്ക്കുന്നു.
സ്വയം നിയന്ത്രിത മെഷീൻ ലേണിംഗിലെ പിശകുകൾ എല്ലായ്പ്പോഴും വ്യക്തമായ മോശം കോഡിൽ നിന്നല്ല ഉണ്ടാകുന്നത്. അവ പരിശീലന ഡാറ്റയിലെ വിടവുകളിൽ നിന്നോ, അപ്രതീക്ഷിതമായ പാരിസ്ഥിതിക മാറ്റങ്ങളിൽ നിന്നോ, അല്ലെങ്കിൽ എഡ്ജ് കേസുകളിലെ (edge cases) അമിത ആത്മവിശ്വാസത്തോടെയുള്ള പ്രവചനങ്ങളിൽ നിന്നോ ഉണ്ടായേക്കാം. മെഷീൻ ലേണിംഗ് ഘടകങ്ങളെ സാധാരണ സോഫ്റ്റ്വെയർ മോഡ്യൂളുകൾ പോലെ കാണുന്ന സ്ഥാപനങ്ങൾ, ഒരു യൂണിറ്റ് ടെസ്റ്റ് സ്യൂട്ട് മാത്രം മതിയാകുമെന്ന് കരുതിയാൽ, ലാബ് കൃത്യത യഥാർത്ഥ ലോകത്തെ സുരക്ഷയിലേക്ക് മാറുന്നില്ല എന്ന് വൈകി തിരിച്ചറിയും. പഠിച്ച പെരുമാറ്റത്തിന്റെ സവിശേഷമായ അപകടസാധ്യതകളെ അഭിസംബോധന ചെയ്യുന്ന ഒരു വ്യവസ്ഥാപിത മാനദണ്ഡം നിങ്ങൾക്ക് ആവശ്യമാണ്. ആ വിടവ് നികത്താനാണ് AMLAS ഫ്രെയിംവർക്ക് രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്.
AMLAS യഥാർത്ഥത്തിൽ എന്താണ് ഉൾക്കൊള്ളുന്നത്
Assurance of Machine Learning for use in Autonomous Systems എന്നർത്ഥമുള്ള AMLAS, പഠിച്ച ഘടകങ്ങൾ ഉയർന്ന ഉത്തരവാദിത്തമുള്ള വിന്യാസത്തിന് (high-stakes deployment) അനുയോജ്യമാണെന്ന് പരിശോധിക്കുന്നതിനുള്ള ഒരു എൻഡ്-ടു-എൻഡ് സമീപനം നൽകുന്നു. ഇത് സുരക്ഷയെ ഒരു അവസാന ഘട്ടമായിട്ടോ അല്ലെങ്കിൽ റിലീസിന് തൊട്ടുമുമ്പുള്ള ഒരു തടസ്സമായോ കാണുന്നില്ല. പകരം, ഇത് അഷ്വറൻസ് പ്രവർത്തനങ്ങളെ സിസ്റ്റത്തിന്റെ ലൈഫ് സൈക്കിളിലേക്ക് ഇഴചേർക്കുന്നു.
ഈ ഫ്രെയിംവർക്ക് മൂന്ന് പ്രായോഗിക തൂണുകളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു:
ML മോഡലുകൾക്കായുള്ള വെരിഫിക്കേഷൻ രീതികൾ. ഇത് അക്യുറസി അല്ലെങ്കിൽ F1 സ്കോർ പോലുള്ള സാധാരണ ട്രെയിൻ-ടെസ്റ്റ് സ്പ്ലിറ്റ് മെട്രിക്സുകൾക്ക് അപ്പുറമാണ്. AMLAS പ്രകാരം, മോഡൽ തീരുമാന പരിധികളിൽ (decision boundaries) പ്രവചിക്കാവുന്ന രീതിയിൽ പെരുമാറുന്നുണ്ടോ, ഔട്ട്-ഓഫ്-ഡിസ്ട്രിബ്യൂഷൻ (out-of-distribution) ഇൻപുട്ടുകളോട് അത് എങ്ങനെ പ്രതികരിക്കുന്നു, അതിന്റെ കോൺഫിഡൻസ് സ്കോറുകൾ യഥാർത്ഥ അനിശ്ചിതത്വത്തിന്റെ വിശ്വസനീയമായ സൂചകങ്ങളാണോ എന്നിവ പരിശോധിക്കുന്നു. എഞ്ചിനീയർമാർ അഡ്വേഴ്സേറിയൽ എക്സാമ്പിളുകൾ (adversarial examples) ഉപയോഗിച്ച് മോഡലിനെ പരിശോധിക്കേണ്ടതും, പരിശീലന സെറ്റിന് അല്പം പുറത്തുള്ള ഡൊമെയ്നുകളിൽ നിന്നുള്ള ഇൻപുട്ടുകൾ ഉപയോഗിച്ച് സ്ട്രെസ്സ് ടെസ്റ്റ് ചെയ്യേണ്ടതുമാണ്. ലക്ഷ്യം പൂർണ്ണതയല്ല, മറിച്ച് മോഡലിനെ എപ്പോൾ വിശ്വസിക്കാം, എപ്പോൾ വിശ്വസിക്കരുത് എന്ന് അറിയാൻ ആവശ്യമായ തെളിവുകൾ ശേഖരിക്കുക എന്നതാണ്.
സ്വയം നിയന്ത്രിത പ്രവർത്തനങ്ങൾക്കായുള്ള സുരക്ഷാ പ്രോട്ടോക്കോളുകൾ. ഒരു പഠിച്ച പെർസെപ്ഷൻ മോഡൽ, ഭൗതിക ഉപകരണങ്ങളെ ചലിപ്പിക്കുന്ന പ്ലാനിംഗ് ആൻഡ് കൺട്രോൾ സോഫ്റ്റ്വെയറിലേക്ക് വിവരങ്ങൾ നൽകുന്നു. ഇത്തരം പ്രവർത്തനങ്ങളിൽ ഗാർഡ്റൈലുകൾ (guardrails) ഉൾപ്പെടുത്തണമെന്ന് AMLAS ആവശ്യപ്പെടുന്നു. ഒരു ന്യൂറൽ നെറ്റ്വർക്ക് ഒരു വസ്തുവിനെ തെറ്റായി തരംതിരിച്ചാൽ പോലും, കഠിനമായ നിയന്ത്രണങ്ങൾ (hard constraints) ലംഘിക്കുന്ന രീതിയിലുള്ള ഒരു പാത (trajectory) സ്വീകരിക്കാൻ വാഹനത്തിനോ റോബോട്ടിനോ കഴിയില്ലെന്ന് ഉറപ്പാക്കണം. ഇതിനർത്ഥം റോബോട്ടിക് കൈകളിലെ ടോർക്ക് പരിധികൾ, ഡ്രോണുകൾക്കായുള്ള ജിയോഫെൻസിംഗ് (geofencing), അല്ലെങ്കിൽ നിലത്ത് ഓടുന്ന വാഹനങ്ങൾക്കായുള്ള നിർബന്ധിത ബ്രേക്കിംഗ് കോറിഡോറുകൾ എന്നിവയാകാം. ഒരു സിംഗിൾ മോഡൽ പിശക് നിയന്ത്രിക്കാനാവാത്ത ഒരു ഭൗതിക സംഭവമായി മാറുന്നത് തടയാൻ സ്വയം നിയന്ത്രിത സംവിധാനങ്ങൾക്ക് ആർക്കിടെക്ചറൽ ലെയറുകൾ ആവശ്യമാണ്.
അനിശ്ചിതത്വം കുറയ്ക്കാനുള്ള രീതികൾ. മെഷീൻ ലേണിംഗിലെ അനിശ്ചിതത്വം പല രൂപത്തിൽ വരാം. സെൻസർ റീഡിംഗുകളിലോ പരിസ്ഥിതിയിലോ ഉള്ള സ്വാഭാവികമായ ശബ്ദമായ അലിയറ്റോറിക് അനിശ്ചിതത്വവും (aleatoric uncertainty), മോഡലിന് ഇതുവരെ അറിയാത്ത കാര്യങ്ങളെ പ്രതിഫലിപ്പിക്കുന്ന എപ്പിസ്റ്റെമിക് അനിശ്ചിതത്വവും (epistemic uncertainty) ഇതിലുണ്ട്. ഇവ രണ്ടിനെയും അളക്കാനും നിയന്ത്രിക്കാനും AMLAS പ്രോത്സാഹിപ്പിക്കുന്നു. ഒന്നിലധികം മോഡലുകൾ തമ്മിലുള്ള വ്യത്യാസം ഒരു മുന്നറിയിപ്പായി നൽകുന്ന എൻസെംബിൾ രീതികൾ (ensemble methods), അല്ലെങ്കിൽ അപ്രതീക്ഷിത പെരുമാറ്റത്തിന് കാരണമാകുന്ന ഡാറ്റയെ നിരസിക്കുന്ന ഇൻപുട്ട് വാലിഡേഷൻ ലെയറുകൾ എന്നിവ ഇതിൽ ഉൾപ്പെടാം. നിങ്ങൾക്ക് അനിശ്ചിതത്വത്തെ പൂർണ്ണമായും ഇല്ലാതാക്കാൻ കഴിഞ്ഞെന്നു വരില്ല, പക്ഷേ അതിനെ അടിസ്ഥാനമാക്കി അന്ധമായി പ്രവർത്തിക്കുന്നത് തടയാൻ സാധിക്കും.
വിശ്വാസം വളർത്തിയെടുക്കുന്നതിനുള്ള ഒരു പ്രായോഗിക പാത
ടീമുകൾ അവ പ്രായോഗികമായി നടപ്പിലാക്കിയാൽ മാത്രമേ ഫ്രെയിംവർക്കുകൾക്ക് പ്രസക്തിയുള്ളൂ. സ്ഥാപനങ്ങൾ ഒരു അച്ചടക്കമുള്ള ക്രമം പിന്തുടരുമ്പോൾ AMLAS ഏറ്റവും മികച്ച രീതിയിൽ പ്രവർത്തനക്ഷമമാകുന്നു.
ഒരു ഡാറ്റാസെറ്റ് ശേഖരിക്കുന്നതിന് മുമ്പ് തന്നെ നിങ്ങളുടെ സുരക്ഷാ ലക്ഷ്യങ്ങൾ നിർവചിക്കുക. പരമ്പരാഗത സോഫ്റ്റ്വെയർ എഞ്ചിനീയറിംഗിൽ, ആവശ്യകതകൾക്കാണ് (requirements) മുൻഗണന. എന്നാൽ മെഷീൻ ലേണിംഗ് പ്രോജക്റ്റുകൾ പലപ്പോഴും ഇതിന് വിപരീതമാണ്; മോഡൽ പരിശീലിപ്പിച്ചതിന് ശേഷം ഒരു പ്രശ്നമായി സുരക്ഷയെ പരിഗണിക്കുന്നു. ആ ശീലം മാറ്റുക. വ്യക്തമായ ഒരു ഓപ്പറേഷണൽ ഡിസൈൻ ഡൊമെയ്നിൽ (operational design domain) നിന്ന് തുടങ്ങുക. ഏത് സാഹചര്യങ്ങളിലാണ് സിസ്റ്റം പ്രവർത്തിക്കേണ്ടത്? ഓരോ അപകടസാധ്യതയ്ക്കും അനുവദനീയമായ പരാജയ നിരക്ക് (failure rate) എത്രയാണ്? ഏത് പരാജയങ്ങൾക്കാണ് ഉടനടി മനുഷ്യന്റെ ഇടപെടൽ (human override) ആവശ്യമായിട്ടുള്ളത്? ഈ ചോദ്യങ്ങൾക്ക് നേരത്തെ ഉത്തരം നൽകുന്നത് ഡാറ്റാ ശേഖരണം മുതൽ മോഡൽ ആർക്കിടെക്ചർ വരെയുള്ള എല്ലാ കാര്യങ്ങളെയും രൂപപ്പെടുത്തുന്നു.
യഥാർത്ഥ പ്രവർത്തന സാഹചര്യങ്ങളിലെ സങ്കീർണ്ണതകൾ പ്രതിഫലിപ്പിക്കുന്ന ഡാറ്റ ഉപയോഗിച്ച് നിങ്ങളുടെ മോഡലുകളെ പരീക്ഷിക്കുക. ലാബ് ബെഞ്ച്മാർക്കുകൾ ആശ്വാസം നൽകുമെങ്കിലും അവ തെറ്റായ സൂചനകൾ നൽകിയേക്കാം. മികച്ച നിലവാരമുള്ള ബാർകോഡ് ചിത്രങ്ങളിൽ മാത്രം പരിശീലിപ്പിച്ച ഒരു വെയർഹൗസ് റോബോട്ട്, ലേബലുകൾ ചുളിവുകൾ വീണതോ, വെളിച്ചം കുറഞ്ഞതോ, അല്ലെങ്കിൽ അഴുക്ക് കാരണം മറയ്ക്കപ്പെട്ടതോ ആയ സാഹചര്യങ്ങളിൽ പരാജയപ്പെടും. അനുകൂല കാലാവസ്ഥയിൽ മാത്രം പരീക്ഷിക്കപ്പെട്ട ഒരു ഓട്ടോണമസ് ഡ്രോൺ, വെളിച്ചത്തിന്റെ തിളക്കവും കാറ്റിന്റെ വ്യതിയാനവും നേരിടുമ്പോൾ ബുദ്ധിമുട്ട നേരിടും. ക്യൂറേറ്റ് ചെയ്ത ഡാറ്റാസെറ്റുകളിൽ ഒരിക്കലും കാണാത്ത പ്രയാസകരമായ എഡ്ജ് കേസുകൾ (edge cases) ഉൾപ്പെടെയുള്ള യഥാർത്ഥ വിന്യാസ സാഹചര്യങ്ങളിൽ നിന്നുള്ള ലോഗുകൾ നിങ്ങൾക്ക് ആവശ്യമാണ്. ഓട്ടോണമസ് സിസ്റ്റം മനുഷ്യ ഓപ്പറേറ്റർമാരോടൊപ്പം സമാന്തരമായി തീരുമാനങ്ങൾ എടുക്കുന്നതെങ്കിലും ഹാർഡ്വെയറിനെ നിയന്ത്രിക്കാത്ത 'ഷാഡോ മോഡ്' (shadow mode) പരീക്ഷണങ്ങൾ നടത്തുക. ലോഗുകൾ കർശനമായി താരതമ്യം ചെയ്യുക.
വിന്യാസത്തിന് (deployment) ശേഷം പ്രകടനം നിരന്തരം നിരീക്ഷിക്കുക. ലോകം നിശ്ചലമല്ല. സീസണൽ വെളിച്ചത്തിലെ മാറ്റങ്ങൾ, തേയ്മാനം സംഭവിച്ച റോഡുകൾ, പുതിയ പാക്കേജിംഗ് ഡിസൈനുകൾ, മാറിക്കൊണ്ടിരിക്കുന്ന നെറ്റ്വർക്ക് ട്രാഫിക് പാറ്റേണുകൾ എന്നിവയെല്ലാം മികച്ച രീതിയിൽ പ്രവർത്തിച്ചിരുന്ന ഒരു മോഡലിന്റെ പ്രകടനത്തെ തകർക്കാം. പ്രെഡിക്ഷൻ കോൺഫിഡൻസ് (prediction confidence), ഇൻപുട്ട് ഡിസ്ട്രിബ്യൂഷൻ ഡ്രിഫ്റ്റ് (input distribution drift), ഇൻസിഡന്റ് നിരക്കുകൾ എന്നിവ ട്രാക്ക് ചെയ്യുന്ന ടെലിമെട്രി സജ്ജമാക്കുക. പെരുമാറ്റത്തിൽ മാറ്റം വരുമ്പോൾ മനുഷ്യന്റെ പരിശോധനയോ താൽക്കാലിക പ്രവർത്തന നിയന്ത്രണങ്ങളോ ആവശ്യപ്പെടുന്ന പരിധികൾ (thresholds) നിശ്ചയിക്കുക. ഒരു മോഡൽ എന്നത് നിങ്ങൾ വിതരണം ചെയ്ത് മറന്നുപോകുന്ന ഒരു നിശ്ചല ഉൽപ്പന്നമല്ല. അത് യഥാർത്ഥ ലോകവുമായി സന്ധിക്കുന്ന നിമിഷം മുതൽ പഴക്കം കൂടുന്ന ഒരു ഘടകമാണ്.
യഥാർത്ഥ ലോകത്തെ പരിശോധനയെക്കുറിച്ചുള്ള കഠിനമായ സത്യം
ഉയർന്ന വാലിഡേഷൻ സ്കോർ ഒരു മോഡൽ തയ്യാറാണെന്നതിന്റെ സൂചനയാണെന്ന് പല ടീമുകളും സ്വയം വിശ്വസിക്കുന്നു. എന്നാൽ അത് ശരിയല്ല. യഥാർത്ഥ ലോകത്തെ പരിശോധനയ്ക്ക് അസ്വസ്ഥതകളെ ഉൾക്കൊള്ളേണ്ടതുണ്ട്. ശക്തമായ കാറ്റുള്ള സാഹചര്യങ്ങളിൽ ഡ്രോണുകൾ പറത്തുക, ബൾബുകൾ മിന്നിമറയുന്ന രാത്രി ഷിഫ്റ്റുകളിൽ വെയർഹൗസ് റോബോട്ടുകളെ പ്രവർത്തിപ്പിക്കുക, റോഡ് ചിഹ്നങ്ങളിലെ അഡ്വേഴ്സേറിയൽ സ്റ്റിക്കറുകൾ (adversarial stickers) ഉപയോഗിച്ച് പെർസെപ്ഷൻ മോഡലുകളെ പരീക്ഷിക്കുക എന്നിവ ഇതിൽ ഉൾപ്പെടുന്നു. നിങ്ങളുടെ പരിശോധനാ പരിസ്ഥിതി വൃത്തിയുള്ളതും പ്രവചിക്കാവുന്നതുമാണെങ്കിൽ, നിങ്ങൾ പരീക്ഷിക്കുകയല്ല, മറിച്ച് പരിശീലിക്കുകയാണ് ചെയ്യുന്നത്.
ഈ പ്രക്രിയ ചെലവേറിയതും സാവധാനത്തിലുള്ളതുമാണ്. മെഷീൻ ലേണിംഗ് എഞ്ചിനീയർമാർ, സുരക്ഷാ വിദഗ്ധർ, ഭൗതിക സാഹചര്യം മനസ്സിലാക്കുന്ന ഡൊമെയ്ൻ ഓപ്പറേറ്റർമാർ എന്നിവർ തമ്മിലുള്ള സഹകരണം ഇതിന് ആവശ്യമാണ്. ഇതിന്റെ ഫലം കൃത്യമായ തെളിവുകളാണ്. നിങ്ങൾ ഒടുവിൽ വിന്യസിക്കുമ്പോൾ, പ്രത്യേക പരിശോധനാ സാഹചര്യങ്ങൾ, അറിയപ്പെടുന്ന പരാജയ രീതികൾ, ഓരോ റിസ്കിനും അനുബന്ധമായ പരിഹാരങ്ങൾ എന്നിവ ചൂണ്ടിക്കാണിക്കാൻ നിങ്ങൾക്ക് കഴിയണം. ഒരു പ്രോട്ടോടൈപ്പിനെ മനുഷ്യരുടെ സാമീപ്യത്തിൽ നിരീക്ഷണമില്ലാതെ പ്രവർത്തിപ്പിക്കാൻ തയ്യാറായ ഒരു സിസ്റ്റത്തിൽ നിന്ന് വേർതിരിക്കുന്നത് ഈ ഡോക്യുമെന്റേഷൻ ആണ്.
കാലക്രമേണ സിസ്റ്റങ്ങളുടെ വിശ്വാസ്യത നിലനിർത്തുക
വിന്യാസത്തിന് ശേഷമുള്ള നിരീക്ഷണം (Post-deployment monitoring) പല അഷ്വറൻസ് പ്രോഗ്രാമുകളും പരാജയപ്പെടുന്ന ഇടമാണ്. ടീമുകൾ ലോഞ്ച് ആഘോഷിക്കുകയും അടുത്ത ഫീച്ചറിലേക്ക് വിഭവങ്ങൾ മാറ്റിവെക്കുകയും ചെയ്യുന്നു. അതേസമയം, വിന്യസിക്കപ്പെട്ട മോഡൽ അതിന്റെ പരിശീലന അനുഭവങ്ങളിൽ നിന്ന് നേരിയ വ്യതിയാനം സംഭവിക്കുന്ന ഇൻപുട്ടുകളെ നേരിടുന്നു. സജീവമായ നിരീക്ഷണമില്ലാതെ, ഈ വ്യതിയാനം (drift) കഠിനമായ ഒരു അപകടത്തിലേക്ക് നയിക്കുന്നത് വരെ വർദ്ധിച്ചുകൊണ്ടിരിക്കും.
ഘടനാപരമായ ഫീഡ്ബാക്ക് ലൂപ്പുകൾ (feedback loops) സജ്ജമാക്കുക. മോഡൽ കുറഞ്ഞ കോൺഫിഡൻസ് പ്രകടിപ്പിക്കുന്നതോ അല്ലെങ്കിൽ മനുഷ്യ ഓപ്പറേറ്റർമാർ ഇടപെടുന്നതോ ആയ ഓരോ സന്ദർഭവും ലോഗ് ചെയ്യുക. ഈ ലോഗുകൾ ഉപയോഗിച്ച് മോഡലിനെ കൃത്യമായ ഇടവേളകളിൽ പുനർപരിശീലനം ചെയ്യുകയോ (retrain) ഫൈൻ ട്യൂൺ ചെയ്യുകയോ ചെയ്യുക, എന്നാൽ ഓരോ അപ്ഡേറ്റും യഥാർത്ഥ റിലീസിന് ബാധകമായ അതേ അഷ്വറൻസ് ഗേറ്റുകളിലൂടെ തന്നെ പരിശോധിക്കുക. ഒരു മെക്കാനിക്കൽ ബ്രേക്ക് സിസ്റ്റം പുതിയ ഡിസൈനിലേക്ക് മാറ്റുന്നതിന് നിങ്ങൾ എത്രത്തോളം ജാഗ്രത കാണിക്കുന്നുവോ അത്രത്തോളം തന്നെ മോഡൽ അപ്ഡേറ്റുകളോടും ജാഗ്രത കാണിക്കുക.
യഥാർത്ഥ പാഠം
ഓട്ടോണമസ് സിസ്റ്റങ്ങളിലെ മെഷീൻ ലേണിംഗ് എന്നത് വെറുമൊരു ഗവേഷണ പരീക്ഷണശാലയല്ല. അത് ഭൗതികമായ അപകടസാധ്യതകൾ വഹിക്കുന്ന ഒരു ഇൻഫ്രാസ്ട്രക്ചറാണ്, അതിനാൽ എയ്റോസ്പേസ്, മെഡിക്കൽ ഉപകരണ എഞ്ചിനീയർമാർ ഹാർഡ്വെയറിനോട് കാണിക്കുന്ന അതേ കർശനമായ സമീപനം ഇതിനും ആവശ്യമാണ്. AMLAS ആ കർശനതയ്ക്കുള്ള ഒരു പദാവലിയും പ്രവർത്തനരീതിയും വാഗ്ദാനം ചെയ്യുന്നു. അത് നിങ്ങൾക്കായി വിശ്വാസം ഓട്ടോമേറ്റ് ചെയ്യില്ല, പകരം അത് നേടിയെടുക്കാനുള്ള ആവർത്തനക്ഷമമായ ഒരു മാർഗ്ഗം നൽകുന്നു. സത്യസന്ധമായ സുരക്ഷാ ലക്ഷ്യങ്ങളോടെ തുടങ്ങുക. യഥാർത്ഥവും സങ്കീർണ്ണവുമായ ഡാറ്റ ഉപയോഗിച്ച് പരിശോധിക്കുക. സിസ്റ്റം പ്രവർത്തനക്ഷമമായാൽ ഒരു സംശയാലുവിനെപ്പോലെ അതിനെ നിരീക്ഷിക്കുക. ഫ്രെയിംവർക്കുകൾ നിലവിലുണ്ട്. ബാക്കിയുള്ളത് അച്ചടക്കമാണ്.
AMLAS ഗൈഡൻസിന്റെ പൂർണ്ണമായ സാങ്കേതിക വിവരങ്ങൾക്കായി, യഥാർത്ഥ വിശദാംശങ്ങൾ ഇവിടെ വായിക്കുക: https://dev.to/paperium/guidance-on-the-assurance-of-machine-learning-in-autonomous-systems-amlas-f9
അഷ്വറൻസ് സ്ട്രാറ്റജികളെക്കുറിച്ച് ചർച്ച ചെയ്യാനും സമാനമായ പ്രശ്നങ്ങളിൽ പ്രവർത്തിക്കുന്ന ഒരു കമ്മ്യൂണിറ്റിയുമായി പ്രായോഗിക കുറിപ്പുകൾ കൈമാറാനും ആഗ്രഹിക്കുന്നുവെങ്കിൽ, ഇവിടെ സംഭാഷണത്തിൽ പങ്കുചേരുക: https://t.me/GyaanSetuAi