એન્ટરપ્રાઇઝ AI માં વિશ્વાસની સમસ્યા
જ્યારે કંપનીઓ AI વિશ્વાસ વિશે વાત કરે છે, ત્યારે તેઓ ખોટી બાબત પર ધ્યાન કેન્દ્રિત કરે છે. તેઓ પૂછે છે કે મોડેલ સચોટ છે કે નહીં. તેઓ પૂછે છે કે તે ભ્રમ (hallucinate) પેદા કરે છે કે નહીં.
આ પ્રશ્નો વાસ્તવિક મુદ્દાને ચૂકી જાય છે.
કંપનીઓ AI નો ત્યાગ કરવાનું કારણ મોડેલ નથી. તે મોડેલની આસપાસની સિસ્ટમમાં વિશ્વાસનો અભાવ છે. પ્રોડક્શનમાં સફળ થવા માટે, તમારે ઓપરેશનલ કંટ્રોલની જરૂર છે.
તમારે ચાર પ્રશ્નોના જવાબ આપવા પડશે:
- શું તમે આઉટપુટ સમજાવી શકો છો? જો કોઈ ટીમ સમજાવી ન શકે કે AI એ ચોક્કસ પરિણામ કેમ આપ્યું, તો તેઓ માત્ર આશા પર કામ કરી રહ્યા છે. પ્રથમ ઘટના દરમિયાન આશા નિષ્ફળ જાય છે.
- શું તમે નિર્ણયોને પ્રમાણિત કરી શકો છો? તમારે વાસ્તવિક વ્યવસાયિક જરૂરિયાતો સામે AI આઉટપુટ તપાસવા માટે એક રીતની જરૂર છે.
- શું તમે હસ્તક્ષેપ કરી શકો છો? તમારે 'કિલ સ્વિચ' અથવા 'ફોલબેક પાથ' (વૈકલ્પિક માર્ગ) ની જરૂર છે. જો તમારી પાસે AI ને રોકવાનો કોઈ રસ્તો નથી, તો તમે કટોકટી દરમિયાન આ પાઠ શીખશો.
- શું તમે પરિણામોને ટ્રેસ કરી શકો છો? જો કોઈ નિર્ણયથી ખરાબ પરિણામ આવે, તો તમારે આખી સાંકળ ફરીથી બનાવવી પડશે. તમારે ઇનપુટ, આઉટપુટ અને સંદર્ભ જાણવાની જરૂર છે.
અસ્પષ્ટતા (Opacity) ડેમોમાં કામ કરે છે. તે પ્રોડક્શનમાં નિષ્ફળ જાય છે.
વાસ્તવિક પ્રોડક્શન વાતાવરણમાં ઓડિટર્સ, રેગ્યુલેટર્સ અને એન્જિનિયરો હોય છે. આ લોકોને જાણવાની જરૂર છે કે વસ્તુઓ શા માટે બની. તેઓ "AI એ કર્યું" ને જવાબ તરીકે સ્વીકારી શકતા નથી.
અસ્પષ્ટ સિસ્ટમ અનિશ્ચિતતા વધારે છે. અનિશ્ચિતતા સ્વીકૃતિ (adoption) ને અવરોધે છે.
જે ટીમો લાંબા ગાળા માટે AI નો ઉપયોગ કરે છે તેઓ આ ચાર વસ્તુઓ કરે છે:
- તેઓ આઉટપુટને સમજાવી શકાય તેવું બનાવે છે. ટીમનો કોઈ વ્યક્તિ હંમેશા જવાબ આપી શકે છે કે સિસ્ટમે શા માટે એવું કર્યું.
- તેઓ નિર્ણયોને ચકાસી શકાય તેવા બનાવે છે. AI અને અંતિમ ક્રિયા વચ્ચે એક વેરિફિકેશન લેયર હોય છે.
- તેઓ હસ્તક્ષેપ શક્ય બનાવે છે. એક ઓવરરાઈડ પાથ અસ્તિત્વ ધરાવે છે અને કામ કરે છે.
- તેઓ ટ્રેસેબિલિટી (traceability) બનાવે છે. લોગ્સ તમને દરેક ઘટનાને ફરીથી બનાવવાની મંજૂરી આપે છે.
મોડેલ્સ સુધી પહોંચ એ હવે પડકાર નથી. પડકાર એ છે કે જ્યારે AI તમારા વર્કફ્લોમાં પ્રવેશ કરે ત્યારે ઓપરેશનલ સ્પષ્ટતા જાળવી રાખવી.
જ્યારે સિસ્ટમ પારદર્શક અને ટ્રેસેબલ હોય ત્યારે સંસ્થાઓ ઝડપથી AI અપનાવે છે. મોડેલ પર વિશ્વાસ કરવો પૂરતો નથી. તમારે આખી સિસ્ટમ પર વિશ્વાસ કરવો જોઈએ.
તમારી ટીમ AI વિશ્વાસને કેવી રીતે સંભાળે છે? શું તે તમારા ડિઝાઇનમાં સામેલ છે અથવા તમે કંઈક તૂટી જાય તેની રાહ જુઓ છો?