તમે ગયા મંગળવારે વાપરેલી એ જ ચેટ વિન્ડો ખોલો છો, અને AI ત્યાંથી જ શરૂઆત કરે છે જ્યાં તમે છોડી હતી. તે તમારા અગાઉના નિર્દેશોનો સંદર્ભ આપે છે, તમારા વ્યંગાત્મક સ્વરને અનુસરે છે, અને પૂછે છે કે તમે તે રિપોર્ટ પૂરો કર્યો કે નહીં. એક ક્ષણ માટે, એવું લાગે છે કે તમે કોઈ એવા સહકર્મી સાથે કામ કરી રહ્યા છો જે ખરેખર ધ્યાન આપે છે. પછી તમે એક નવી વાતચીત શરૂ કરો છો, અને બધું જ અદૃશ્ય થઈ જાય છે. સ્વર સપાટ થઈ જાય છે. પ્રોજેક્ટની વિગતો ગાયબ થઈ જાય છે. તે તમને ખોટા નામથી બોલાવે છે. શું થયું?

મશીન તમને ભૂલી ગયું નથી. તે તો તમને ક્યારેય જાણતું જ નહોતું.

સ્મૃતિનો ભ્રમ

આપણે દરેક જગ્યાએ સ્મૃતિ (memory) જોવા માટે સજ્જ છીએ. જ્યારે ચેટબોટ યાદ રાખે છે કે તમને ટૂંકા બુલેટ પોઈન્ટ્સ પસંદ છે અથવા તમે હેલ્થકેરમાં કામ કરો છો, ત્યારે તે એ જ સહજ વૃત્તિને જાગૃત કરે છે જે એક બાર્ટન્ડર તમારી નિયમિત ઓર્ડર યાદ રાખે ત્યારે થાય છે. પરંતુ આ ડિઝાઈનનો એક યુક્તિ છે, જ્ઞાન (cognition) નો નહીં. લાર્જ લેંગ્વેજ મોડલ્સ તમારા વિશેના તથ્યો તેમના વજન (weights) માં સંગ્રહિત કરતા નથી. તેમની પાસે તમારી વાતચીતની કોઈ ચાલતી ડાયરી હોતી નથી. તેઓ "User Preferences" લેબલવાળા ફોલ્ડરમાં જોઈ શકતા નથી કારણ કે આવું કોઈ ફોલ્ડર અસ્તિત્વમાં નથી.

જે સ્મૃતિ જેવું લાગે છે તે માત્ર એક કોન્ટેક્સ્ટ વિન્ડો (context window) માં રહેલો ટેક્સ્ટ છે. મોડલ તાજેતરનો ચેટ ઇતિહાસ, તમારો વર્તમાન પ્રોમ્પ્ટ અને ડેવલપર દ્વારા ઉમેરવામાં આવેલા કોઈપણ સિસ્ટમ નિર્દેશો વાંચે છે. તે આ બધું એક જ નજરમાં પ્રોસેસ કરે છે, આગામી શબ્દની આગાહી કરે છે અને જવાબ આપે છે. જ્યારે તે ટેક્સ્ટ અદૃશ્ય થાય છે, ત્યારે "સ્મૃતિ" પણ અદૃશ્ય થઈ જાય છે. મોડલ તેના મૂળભૂત વર્તણૂક પર પાછું ફરે છે, જે ઘણીવાર આત્મવિશ્વાસપૂર્ણ, સામાન્ય અને થોડું વધુ ઉત્સાહી હોય છે. ભ્રમ એટલા માટે તૂટી જાય છે કારણ કે સંદર્ભ (context) બદલાઈ ગયો છે, એટલા માટે નહીં કે AI ને અસ્મૃતિ થઈ ગઈ છે.

AI ખરેખર શું વાપરે છે

જો તમે વિશ્વસનીય આઉટપુટ ઈચ્છતા હોવ, તો તમારે એ સમજવાની જરૂર છે કે માહિતી ખરેખર કઈ ચાર જગ્યાએથી આવે છે:

  • ચેટ ઇતિહાસ (Chat history): તમારા વર્તમાન થ્રેડમાં તાજેતરની વાતચીત. આ કામચલાઉ છે. નવો થ્રેડ શરૂ કરો અને તે જતું રહેશે.
  • પ્રોમ્પ્ટમાં ચોક્કસ નિર્દેશો: તમે અત્યારે બોક્સમાં જે કંઈ પણ ટાઈપ કરો છો અથવા પેસ્ટ કરો છો તે. આ નિયંત્રણનું સૌથી સીધું સ્વરૂપ છે.
  • નોલેજ બેઝમાંથી દસ્તાવેજો: ફાઇલો અથવા ડેટાબેઝ જેને સિસ્ટમ શોધી શકે છે અને પ્રોમ્પ્ટમાં ઉમેરી શકે છે. આ માટે રીટ્રીવલ (retrieval) સ્ટેપની જરૂર પડે છે, અને તે સ્ટેપ નિષ્ફળ જઈ શકે છે.
  • વર્કફ્લોમાંથી મેળવેલ ડેટા: API કોલ્સ, ડેટાબેઝ લુકઅપ્સ, અથવા થર્ડ-પાર્ટી એપ્સ દ્વારા ઉમેરવામાં આવેલી મેમરી સુવિધાઓ. આ માત્ર તેમને જોડતા કોડ જેટલા જ સારા હોય છે.

આમાંથી એક પણ ઓર્ગેનિક સ્મૃતિ નથી. તે માત્ર પ્લમ્બિંગ (plumbing) છે. જો પાઇપ ડિસ્કનેક્ટ થઈ જાય અથવા ખોટો દસ્તાવેજ પ્રોમ્પ્ટમાં ખેંચાઈ આવે, તો AI તમને ચેતવણી આપશે નહીં. તે ફક્ત જે જુએ છે તેનો ઉપયોગ કરશે અને એક સુધારેલો, વિશ્વાસપાત્ર અને સંપૂર્ણપણે ખોટો જવાબ આપશે.

જ્યારે સંદર્ભ તૂટે છે: એક વાસ્તવિક ઉદાહરણ

કલ્પના કરો કે એક માર્કેટિંગ ટીમ AI ને ગ્રાહકોના ઈમેલ ડ્રાફ્ટ કરવા માટે કહે છે. સોમવારે, સારાહ એક ચેટ શરૂ કરે છે અને એક ટૂંકી સ્ટાઇલ ગાઈડ પેસ્ટ કરે છે: "શાંત, સંયમિત ભાષાનો ઉપયોગ કરો. વિસ્મયચિહ્ન (!) ટાળો. ફક્ત કંપનીના નામ સાથે સાઇન ઓફ કરો." AI આ માર્ગદર્શિકાનું સંપૂર્ણ પાલન કરે છે. ટીમ ડ્રાફ્ટ્સથી ખુશ છે.

બુધવારે, જેક એક બિલકુલ નવી ચેટ ખોલે છે. તે ટાઈપ કરે છે, "ફોલો-અપ ગ્રાહક ઈમેલ ડ્રાફ્ટ કરો." તે સ્ટાઇલ ગાઈડ પેસ્ટ કરતો નથી. AI, વિરોધી કોઈ નિર્દેશો ન હોવાથી, ઉચ્ચ-ઊર્જાવાળી માર્કેટિંગ લેખનશૈલીનો ઉપયોગ કરે છે. વિસ્મયચિહ્નોનો વરસાદ થાય છે. તે સૂચવે છે "ચાલો આને ધૂસ્ત કરી દઈએ!" (Let's crush this!). ટીમ નિસાસો નાખે છે. "AI કેમ ભૂલી ગયું?" તેઓ પૂછે છે.

તે ભૂલી ગયું નહોતું. ભૂલવા માટે ત્યાં કંઈ હતું જ નહીં. જેક નવા કોન્ટેક્સ્ટ વિન્ડોમાં સ્ટાઇલ ગાઈડ સામેલ કરવામાં નિષ્ફળ રહ્યો હતો, અને મોડલ પાસે એ જાણવાનો કોઈ રસ્તો નહોતો કે ટીમે બે દિવસ પહેલા અલગ વાતચીતમાં એક નિયમ સ્થાપિત કર્યો હતો. હતાશા વાસ્તવિક હતી, પરંતુ તેનું કારણ માનવીય હતું, યાંત્રિક નહીં. ટીમ સતત સ્મૃતિની અપેક્ષા રાખતી હતી. સાધન માત્ર એક કામચલાઉ સ્ક્રૅચપેડ (scratchpad) પૂરતું હતું.

સાચો ટેસ્ટ: મશીન જે જુએ છે તેનું ઓડિટ કરો

તમારા પરિણામો સુધારવાનો સૌથી ઝડપી રસ્તો એ છે કે "શું AI આ યાદ રાખે છે?" પૂછવાનું બંધ કરો અને "તે અત્યારે ખરેખર કયો સંદર્ભ (context) મેળવે છે?" પૂછવાનું શરૂ કરો. તમારા સેટઅપને ત્રણ પ્રશ્નો દ્વારા ચકાસો:

AI એ દર વખતે શું જાણવાની જરૂર છે? આ તમારો અનિવાર્ય સંદર્ભ છે. બ્રાન્ડ વોઈસ, સુરક્ષા નીતિઓ, આઉટપુટ ફોર્મેટ, પાલન કરવાના નિયમો (compliance constraints). જો તે મહત્વપૂર્ણ હોય, તો તે દરેક સંબંધિત પ્રોમ્પ્ટમાં ઉમેરવામાં આવતા સંદર્ભ દસ્તાવેજમાં હોવું જોઈએ, ત્રણ અઠવાડિયા પહેલાના ચેટ થ્રેડમાં નહીં.

તમે પછીથી મેળવવા (retrieval) માટે શું સંગ્રહ કરી શકો છો? પ્રોજેક્ટની જૂની નોંધો, ઉત્પાદન વિશિષ્ટતાઓ (product specifications), અથવા ભૂતકાળના સંશોધનનો સંગ્રહ સ્ટ્રક્ચર્ડ ફાઇલ અથવા ડેટાબેઝમાં કરી શકાય છે. પરંતુ માત્ર સંગ્રહ પૂરતો નથી. તમારે ચોક્કસપણે જાણવાની જરૂર છે કે સિસ્ટમ તે સંગ્રહમાંથી કયો ભાગ વાતચીતમાં લેવાનું નક્કી કરે છે. જો રીટ્રીવલ કીવર્ડ મેચ પર આધારિત હોય, તો તમારા પ્રોમ્પ્ટમાં થોડો અલગ શબ્દપ્રયોગ ખોટું પેજ ખેંચી શકે છે.

વ્યક્તિએ કઈ બાબતોની જાતે તપાસ કરવી જોઈએ? જ્યારે ભૂલની કિંમત વધારે હોય—નાણાકીય આંકડા, તબીબી સારાંશ, કાનૂની ભાષા, ગ્રાહકો માટેની જાહેરાતો—ત્યારે પાઇપલાઇન પર આંધળો વિશ્વાસ ન કરો. એક માણસે એ ચકાસવાની જરૂર છે કે AI એ દસ્તાવેજનું સાચું વર્ઝન વાપર્યું છે અને આઉટપુટ વાસ્તવિક દુનિયામાં તર્કસંગત છે કે નહીં. મોડેલ તમને એ નહીં કહે કે તેણે હમણાં જ ગયા વર્ષની ભાવ યાદીનો ઉલ્લેખ કર્યો છે. જ્યાં સુધી તમે પ્રોમ્પ્ટમાં ન લખો ત્યાં સુધી તેને ખબર નથી હોતી કે અત્યારે કયું વર્ષ ચાલી રહ્યું છે.

કોન્ટેક્સ્ટ-ફર્સ્ટ (સંદર્ભ-પ્રથમ) વર્કફ્લો બનાવવો

વિશ્વસનીય AI કાર્ય મુખ્યત્વે સારી માહિતી આર્કિટેક્ચર (માહિતીનું માળખું) પર આધારિત છે. તેને કેવી રીતે બનાવવું તે અહીં છે.

તમારા સ્થિર નિયમોને એક સંદર્ભ દસ્તાવેજમાં રાખો. આ તમારો 'સિંગલ સોર્સ ઓફ ટ્રુથ' છે. જ્યારે નિયમો બદલાય, ત્યારે ફક્ત આ એક ફાઇલ સુધારો. સૂચનાઓને ડઝનબંધ ચેટ થ્રેડ્સમાં વિખેરી નાખો નહીં.

ચાલુ કાર્ય માટે તે દસ્તાવેજના માત્ર સંબંધિત ભાગો જ આપો. પ્રોમ્પ્ટમાં સો પાનાનું મેન્યુઅલ નાખવું એ ખર્ચાળ અને અસ્પષ્ટ છે. આ ચોક્કસ પ્રશ્ન માટે મહત્વના હોય તેવા માત્ર બે પાના જ મેળવો. ચોકસાઈ એ જથ્થા કરતા વધુ મહત્વની છે.

ટૂંકા ગાળાની વિગતો એક્ટિવ પ્રોમ્પ્ટમાં રાખો. જો તમે ઇલેક્ટ્રિક બાઇક વિશે બ્લોગ પોસ્ટ માટે શીર્ષકો વિચારી રહ્યા હોવ, તો પ્રોમ્પ્ટમાં "electric bikes" નો ઉલ્લેખ કરો. તમે ગઈકાલે તેનો ઉલ્લેખ કર્યો હતો એટલે મોડેલને ખબર હશે કે તમે શું વિચારી રહ્યા છો તેવું માની ન લો.

જ્યારે ભૂલો મોંઘી પડે ત્યારે આઉટપુટની સમીક્ષા કરવા માટે માણસનો ઉપયોગ કરો. AI ને ક્યારેય શરમ નહીં આવે. તે ખોટું ઇનવોઇસ અથવા અયોગ્ય માફી એટલા જ આત્મવિશ્વાસ સાથે મોકલશે જેટલા આત્મવિશ્વાસ સાથે તે અન્ય બધું કરે છે. કોઈએ તો તર્કસંગતતાની તપાસ (sanity check) કરવાની જરૂર છે.

સ્તરોમાં વિચારો

AI માહિતીને ચાર સ્તરો તરીકે કલ્પના કરવી મદદરૂપ થાય છે, જેમાં દરેકના પોતાના જોખમો અને વિશ્વસનીયતા છે.

Immediate context એ વર્તમાન પ્રોમ્પ્ટ છે. આ ૧૦૦ ટકા તમારા નિયંત્રણમાં છે, પરંતુ ફક્ત ત્યારે જ જો તમે તેને લખવા માટે મહેનત કરો. અસ્પષ્ટ પ્રોમ્પ્ટના પરિણામો પણ અસ્પષ્ટ જ મળે છે.

Stored context એ માહિતી છે જે તમે ક્યાંક સાચવી રાખી છે: જેમ કે Notion wiki, vector database, અથવા PDFs નું ફોલ્ડર. તે અસ્તિત્વ ધરાવે છે, પરંતુ જ્યાં સુધી કોઈ વસ્તુ વચ્ચેનો તફાવત દૂર ન કરે ત્યાં સુધી AI તેને જોઈ શકતું નથી.

Retrieved context એ ડેટા છે જે સર્ચ લોજિક, કોડ અથવા પ્લગઇન દ્વારા સ્ટોરેજમાંથી પ્રોમ્પ્ટમાં લાવવામાં આવે છે. અહીં મોટાભાગની છૂપી નિષ્ફળતાઓ થાય છે. સિસ્ટમ સુધારેલા કોન્ટ્રાક્ટને બદલે જૂનો કોન્ટ્રાક્ટ લાવી શકે છે, અથવા સ્પ્રેડશીટને બદલે સ્ક્રીનશોટ ખેંચી શકે છે.

Human context એ શું સાચું છે, શું મહત્વનું છે અને શું ખોટું લાગે છે તે વિશે તમારો પોતાનો નિર્ણય છે. આ એકમાત્ર એવું સ્તર છે જે જાણે છે કે જવાબ જૂનો છે કે નહીં, સ્ત્રોત વિશ્વસનીય છે કે નહીં, અથવા લહેકો (tone) યોગ્ય છે કે નહીં. આ સ્તરને બીજાના હવાલે ન છોડો.

જે ટીમો શ્રેષ્ઠ પરિણામો મેળવી રહી છે તેઓ વધુ સ્માર્ટ મોડેલ્સનો ઉપયોગ નથી કરી રહી. તેઓ એવા સિસ્ટમ બનાવી રહ્યા છે જ્યાં context દેખાય છે, તેનું વર્ઝનિંગ છે અને તેની ચકાસણી કરવી સરળ છે. તેઓ જાણે છે કે સંપૂર્ણ context ધરાવતું AI, ખરાબ માહિતી પર કામ કરતા પ્રતિભાશાળી મોડેલ કરતા દર વખતે વધુ સારું પ્રદર્શન કરશે.

તેથી આ સાધનોને ભૂલવાવાળા ઇન્ટર્ન તરીકે ન જુઓ જેને ઠપકાની જરૂર હોય. તેમને લેન્સ તરીકે જુઓ. તમે તેમની સામે જે મૂકો છો તે જ તેઓ તમને બતાવે છે. દ્રશ્યને દોષ આપતા પહેલા કાચ તપાસવાની આદત પાડો.

GyaanSetu AI લર્નિંગ કોમ્યુનિટીમાં જોડાવો: https://t.me/GyaanSetuAi