વિસરાયા વગર શીખતું AI
મેં એકવાર સર્ક્યુલર સપ્લાય ચેઇન (circular supply chain) મેનેજ કરવા માટે એક AI બનાવ્યું હતું. જ્યાં સુધી નવો કાર્બન ટેક્સ (carbon tax) અમલમાં આવ્યો ત્યાં સુધી તે સારી રીતે કામ કરતું હતું.
મોડેલ નિષ્ફળ ગયું. કાર્યક્ષમ રૂટિંગ (efficient routing) વિશે તેણે જે કંઈ શીખ્યું હતું તે બધું જ તે ભૂલી ગયું. મારે તેને ફરીથી શૂન્યથી તાલીમ આપવા માટે અઠવાડિયા સુધી મહેનત કરવી પડી.
આ નિષ્ફળતાએ મને એક મહત્વપાત્ર પાઠ શીખવ્યો. મેન્યુફેક્ચરિંગમાં AI એ માત્ર એકવાર શીખવા કરતાં વધુ કંઈક કરવાની જરૂર છે. તેણે જૂનું જ્ઞાન ગુમાવ્યા વિના નવા નિયમો સાથે સતત અનુકૂલન (adapt) સાધવું જોઈએ.
હું આ અભિગમને Meta-Optimized Continual Adaptation કહું છું.
તે બે મુખ્ય ખ્યાલોને જોડે છે:
• Meta-Learning: મોડેલને ઝડપથી કેવી રીતે શીખવું તે શીખવવું. આ તેને સેકન્ડોમાં નવા ટેક્સ સ્ટ્રક્ચર અથવા ઉત્સર્જન મર્યાદા (emission caps) મુજબ ગોઠવણ કરવાની મંજૂરી આપે છે. • Continual Learning: મોડેલ તેની જૂની કુશળતા જાળવી રાખે તેની ખાતરી કરવી. આ નિયમો બદલાય ત્યારે સિસ્ટમ બગડતી અટકાવે છે.
મેં આનું પરીક્ષણ હાઇબ્રિડ પદ્ધતિનો ઉપયોગ કરીને કર્યું. મેં Model-Agnostic Meta-Learning (MAML) ને Elastic Weight Consolidation (EWC) સાથે જોડ્યું.
પરિણામો સ્પષ્ટ હતા:
- નિયમો બદલાતા સ્ટાન્ડર્ડ મોડેલ્સની કામગીરીમાં 40% નો ઘટાડો થયો.
- મારા એડેપ્ટિવ (adaptive) મોડેલમાં કામગીરીમાં 5% થી ઓછો ઘટાડો થયો.
- હજારો રીટ્રેનિંગ સ્ટેપ્સને બદલે અનુકૂલન (adaptation) માત્ર 10 સ્ટેપ્સમાં પૂર્ણ થયું.
જો તમે બદલાતા નિયમો ધરાવતા ઉદ્યોગો માટે AI બનાવો છો, તો સ્ટેટિક મોડેલ્સ પર આધાર રાખશો નહીં. તમારે એવી સિસ્ટમ્સની જરૂર છે જે પોલિસીના લોજિકને તેના ચોક્કસ આંકડાઓથી અલગ કરે.
તમારા અમલીકરણ માટે ત્રણ ટિપ્સ:
- ફેરફાર માટે તૈયાર રહેવા માટે meta-learning નો ઉપયોગ કરો.
- ભૂલી જવાની સમસ્યા રોકવા માટે weight constraints નો ઉપયોગ કરો.
- તમારી ઓપ્ટિમાઇઝેશન લૂપમાં સીધા જ કન્સ્ટ્રેઇન્ટ્સ (constraints) ને ઇન્ટિગ્રેટ કરો.
નિષ્ફળતા ઘણીવાર શ્રેષ્ઠ શિક્ષક હોય છે. મારા મોડેલના કોલેપ્સ (collapse) એ મને બતાવ્યું કે સ્થિરતા (stability) બૌદ્ધિકતા જેટલી જ મહત્વપૂર્ણ છે.
વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi