GraphRAG અને સતત સંદર્ભિત સ્મૃતિ (persistent contextual memory) ને હવે AI ચેટબોટ્સમાં એવી રીતે જોડી રહ્યા છે કે જેથી પેજ રિફ્રેશ કરવાથી અથવા નવા બ્રાઉઝર ટેબ ખોલવાથી વાતચીતનો અંત ન આવે. ડેવલપર્સનું કહેવું છે કે આ સંયોજન "tab-kill" ભૂલી જવાની સમસ્યાને દૂર કરે છે, જે મોટાભાગના વાતચીત કરતા સહાયકો (conversational assistants) ના વપરાશકર્તાઓને પરેશાન કરતી હતી.

જૂની પદ્ધતિ શા માટે અપૂરતી છે

મોટાભાગની ચેટ-આધારિત AI સિસ્ટમ્સ પ્રમાણભૂત Retrieval-Augmented Generation (RAG) પર આધારિત છે. આ પાઇપલાઇન વર્તમાન પ્રશ્ન સાથે મળતા આવતા ટેક્સ્ટના ટુકડાઓ મેળવે છે, તેને લેંગ્વેજ મોડેલમાં મોકલે છે, અને જવાબ પરત કરે છે. સિંગલ-ફેક્ટ લુકઅપ માટે—“ફ્રાન્સની રાજધાની કઈ છે?”—આ પદ્ધતિ સારી રીતે કામ કરે છે.

પરંતુ RAG દરેક યુઝર ઇનપુટને એક અલગ વિનંતી તરીકે ગણે છે. જ્યારે ફોલો-અપ વાતચીત થોડી મિનિટો પહેલા કહેવામાં આવેલી બાબત પર આધારિત હોય, ત્યારે મોડેલ પાસે તે સંદર્ભની કોઈ યાદશક્તિ હોતી નથી. પરિણામે, ચેટબોટ તમને તમારી વાત ફરીથી કહેવા માટે કહે છે અથવા એવી રીતે જવાબ આપે છે જે અગાઉની વિગતોને અવગણે છે. સમસ્યા બુદ્ધિની કમી નથી; તે સ્ટેટ (state) ના અભાવની છે.

GraphRAG: સપાટ ટેક્સ્ટને નેટવર્કમાં ફેરવવું

GraphRAG રિટ્રીવલ સ્ટેજને નવો આકાર આપે છે. અસંબંધિત ટેક્સ્ટના ટુકડાઓની યાદીને બદલે, તે એક ગ્રાફ બનાવે છે:

  • Nodes (નોડ્સ) એવા એન્ટિટીઝનું પ્રતિનિધિત્વ કરે છે જેમ કે લોકો, ઉત્પાદનો અથવા ઘટનાઓ.
  • Edges (એજિસ) તેમની વચ્ચેના સંબંધોને કેપ્ચર કરે છે—કોણ શું સપ્લાય કરે છે, કયો પ્રોજેક્ટ કયા ઘટક પર આધારિત છે, વગેરે.

કારણ કે ગ્રાફ જોડાણોને એન્કોડ કરે છે, સિસ્ટમ મલ્ટી-હોપ રીઝનિંગ (multi-hop reasoning) કરી શકે છે: તે સપાટ-ટેક્સ્ટ સર્ચમાં અટકી જાય તેવા પ્રશ્નનો જવાબ આપવા માટે કેટલાય દસ્તાવેજોમાં તથ્યોની સાંકળને અનુસરી શકે છે. તે સમગ્ર સબ-ગ્રાફ્સના સારાંશ પણ બનાવી શકે છે, જે વપરાશકર્તાઓને વિખરાયેલા અંશોના સંગ્રહને બદલે વિષયની સંક્ષિપ્ત ઝલક આપે છે.

સંદર્ભિત સ્મૃતિ: વાતચીત યાદ રાખવી

સતત સંદર્ભિત સ્મૃતિ (Persistent contextual memory) ગ્રાફ પર એક ટેમ્પોરલ લેયર ઉમેરે છે. તે ત્રણ ભાગોમાં વહેંચાયેલ છે:

  • Short-term memory (ટૂંકા ગાળાની સ્મૃતિ) વર્તમાન વાતચીતને જાળવી રાખે છે, જેથી વપરાશકર્તાએ થોડા વાક્યો પહેલા કહેલી વાત ફરીથી કહેવાની જરૂર પડતી નથી.
  • Long-term memory (લાંબા ગાળાની સ્મૃતિ) સેશન્સ દરમિયાન વપરાશકર્તા વિશેના પસંદગીયુક્ત તથ્યો રેકોર્ડ કરે છે—પસંદગીની ભાષા, વારંવાર આવતી સમસ્યાઓ અથવા અગાઉની ખરીદીઓ.
  • Selective memory (પસંદગીયુક્ત સ્મૃતિ) શું રાખવું તે નક્કી કરે છે, સ્ટોરેજ વધારવાનું ટાળવા માટે વધારાના શબ્દો અને બિનજરૂરી વાતોને દૂર કરે છે.

જ્યારે વપરાશકર્તા ટેબ બંધ કર્યા પછી પાછો આવે છે, ત્યારે લોંગ-ટર્મ સ્ટોર સંબંધિત પૃષ્ઠભૂમિને સામે લાવી શકે છે, જેનાથી ચેટબોટ છેલ્લી સેશન જ્યાં અટકી હતી ત્યાંથી વાતચીત આગળ વધારી શકે છે.

ક્યારે કયા સાધનનો ઉપયોગ કરવો

  • સાદી તથ્ય ચકાસણી માટે પ્રમાણભૂત RAG નો ઉપયોગ કરો જ્યાં જોડાણ ચૂકી જવાનો ખર્ચ ઓછો હોય.
  • GraphRAG નો ઉપયોગ ત્યારે કરો જ્યારે ખોટા જવાબનો ખર્ચ વધુ હોય, અથવા જ્યારે જવાબ માટે અનેક દસ્તાવેજોમાં ફેલાયેલી માહિતીને જોડવાની જરૂર હોય.
  • જો એપ્લિકેશન પાછા આવતા વપરાશકર્તાઓને ઓળખવા માંગતી હોય અથવા દિવસો કે અઠવાડિયા સુધી વ્યક્તિગત વાતચીત જાળવી રાખવા માંગતી હોય, તો સંદર્ભિત સ્મૃતિ ઉમેરો.

આ સ્તરો બનાવવું એ માત્ર પ્લગ-એન્ડ-પ્લે કવાયત નથી. સોર્સ ડેટા બદલાતા GraphRAG ઇન્ડેક્સને રિફ્રેશ કરવો આવશ્યક છે, અને મેમરી સ્ટોર માટે એવી નીતિઓની જરૂર છે જે સુસંગતતા અને સ્ટોરેજ ખર્ચ વચ્ચે સંતુલન જાળવે. વધુ પડતું સંગ્રહ કરવાથી—બોલાયેલા દરેક શબ્દને સંગ્રહિત કરવાથી—રિટ્રીવલ ઝડપથી ધીમું પડે છે અને મોડેલ બિનજરૂરી માહિતીમાં ડૂબી જાય છે.

વળતર (The trade-off)

સંદર્ભિત સ્મૃતિ ભૂલી જવાની સમસ્યાનો ઉકેલ લાવે છે. તેનો ગેરફાયદો ઓપરેશનલ છે: લાઈવ ગ્રાફ અને સિલેક્ટિવ મેમરી કેશ જાળવી રાખવા માટે સતત એન્જિનિયરિંગ પ્રયત્નોની જરૂર પડે છે.

આગળ શું જોવું

મુખ્ય મુદ્દો (Takeaway): GraphRAG રિલેશનલ બેકબોન પૂરો પાડે છે, જ્યારે સતત સંદર્ભિત સ્મૃતિ ટેમ્પોરલ ગ્લુ (સમયલક્ષી જોડાણ) પૂરો પાડે છે. સાથે મળીને તેઓ ચેટબોટ્સને ટેબ્સ અને સેશન્સમાં વાતચીતનો પ્રવાહ જીવંત રાખવામાં મદદ કરે છે, જે એક પરેશાન કરી દેતા રીસેટને એક સીમલેસ વાતચીતમાં ફેરવે છે.