તમે તમારો પોતાનો બીજો દ્રષ્ટિકોણ બની શકતા નથી

AI ને વધુ સ્માર્ટ બનવાની જરૂર નથી. તેને ઓછો વૈકલ્પિક બનવાની જરૂર છે.

મેં એક જ દિવસમાં મારા AI પાર્ટનરને ચાર વાર નિષ્ફળ જતા જોયા. દરેક નિષ્ફળતામાં એક જ પ્રકારની પેટર્ન હતી. AI એ પોતાની જાતને તપાસવાનો પ્રયાસ કર્યો, પરંતુ તેણે એ જ લોજિકનો ઉપયોગ કર્યો જેના કારણે ભૂલ થઈ હતી.

તમે તમારો પોતાનો બીજો દ્રષ્ટિકોણ બની શકતા નથી. સાચો બીજો દ્રષ્ટિકોણ પ્રક્રિયાની બહારથી આવવો જોઈએ. તે ડિસ્ક પરની ફાઇલ, ટાઈમસ્ટેમ્પ અથવા એવો માણસ હોવો જોઈએ જે તે પ્રક્રિયાનો ભાગ ન હોય.

અહીં ચાર નિષ્ફળતાઓ છે:

  • પોતાની જાતને અવગણતો નિયમ. AI એ કોઈપણ લાઈવ પ્રમોશન પહેલા ચેક કરવા માટે એક નિયમ લખ્યો. દસ કલાક પછી, તેણે તે ચેક વગર જ પ્રમોશનનો પ્રસ્તાવ મૂક્યો. એજન્ટ દ્વારા લખાયેલ નિયમ એ માત્ર પોતાની જાત માટેની નોંધ છે, ગાર્ડરેલ (guardrail) નથી.

  • થ્રેડ વિરુદ્ધ દુનિયા. AI એ ચેટ થ્રેડ વાંચ્યો જેમાં કહ્યું હતું કે કોન્ફિગરેશન તૈયાર છે. તેણે વાસ્તવિક સિસ્ટમ તપાસી નહીં. દુનિયા બદલાઈ ગઈ હતી, પરંતુ AI એ માત્ર વાતચીત પર જ વિશ્વાસ કર્યો.

  • અવગણવામાં આવેલ ટૂલ. ભૂલો રોકવા માટે એક કસ્ટમ સ્કિલ અસ્તિત્વમાં હતી. AI એ તે સ્કિલને છોડી દીધી અને તેના બદલે ડેટાબેઝ સ્કીમા (database schema) નો અંદાજ લગાવવાનો પ્રયાસ કર્યો. તે દરવાજા પાસેથી પસાર થઈ ગયું કારણ કે તેની પાસે તે કરવાનો વિકલ્પ હતો.

  • વારંવાર આવતી ભૂલ. AI એ સવારે એક ભૂલ પકડી હતી. સાંજે, તેણે નવા ડેટાસેટ પર બરાબર એ જ ભૂલ કરી. પહેલો પાઠ નિયમ બન્યો નહીં; તે માત્ર એક વખતનો સુધારો હતો.

સમસ્યા તેના સ્ત્રોત (source) માં છે. જો તમારા ગાર્ડરેલ્સ તમારી ભૂલો જે જગ્યાએથી વાંચે છે તે જ જગ્યાએથી વાંચતા હોય, તો તેઓ નિષ્ફળ જશે. આ એક જ વ્યક્તિએ ચાર અલગ-અલગ ટોપીઓ પહેરીને તેને સમિતિ (committee) કહેવા જેવું છે.

આને સુધારવા માટે, તમારે 'કેચ' (catch) ને AI ના વિવેકબુદ્ધિ (discretion) માંથી બહાર કાઢવો પડશે.

  • ફરજિયાત ચેક લાગુ કરો. ચેક જરૂરી છે કે નહીં તેનો નિર્ણય AI ને લેવા ન દો.
  • થ્રેડ કરતા દુનિયાને પ્રાધાન્ય આપો. ચેટ લોગ પર વિશ્વાસ કરતા પહેલા હંમેશા વાસ્તવિક સિસ્ટમ તપાસો.
  • ટૂલના ઉપયોગને ઓટોમેટ કરો. જો કોઈ કાર્ય કોઈ સ્કિલ સાથે મેળ ખાતું હોય, તો તે સ્કિલ આપમેળે કાર્યરત થવી જોઈએ.
  • શરૂઆતમાં જ થ્રેશોલ્ડ (thresholds) નક્કી કરો. પૂર્વગ્રહ (bias) ટાળવા માટે ડેટા જોતા પહેલા નિયમો નક્કી કરો.

એજન્ટ જે શિસ્ત પસંદ કરી શકે છે તે સાચી શિસ્ત નથી. તે માત્ર સજાવટ છે.

એવી સંરચનાઓ બનાવો જેમાંથી એજન્ટ પસાર ન થઈ શકે.

Source: https://dev.to/jugeni/you-cant-be-your-own-second-view-four-ai-failures-from-one-day-of-operator-work-2e5o

Optional learning community: https://t.me/GyaanSetuAi