मी AI मेमरीकडे केवळ सारांश म्हणून पाहणे थांबवले आहे

मी AI मेमरीकडे केवळ सारांश म्हणून पाहणे थांबवले आहे. आता मी त्याला 'हँडऑफ' (handoff) म्हणून पाहतो.

बहुतेक मेमरी सिस्टम्स सारांश तयार करण्यावर लक्ष केंद्रित करतात. त्या सत्राच्या शेवटी संभाषणाचे संकुचित स्वरूप तयार करतात. त्या नंतरच्या वापरासाठी महत्त्वाचे भाग जतन करतात.

ही एक चूक आहे. सारांश कोणा विशिष्ट व्यक्तीसाठी नसून सर्व गोष्टी संकुचित करण्याचा प्रयत्न करतो. त्यात स्पष्ट वाचकाचा अभाव असतो.

हँडऑफ वेगळा असतो. हँडऑफ पुढील संवाद तयार करतो. तो अशा भविष्यातील सत्रासाठी लिहिला जातो, ज्याला काम सुरू ठेवण्यासाठी तिथे आधीपासून उपस्थित असल्याचा आव आणण्याची गरज पडू नये.

जर तुम्ही AI मेमरी तयार करत असाल, तर तुम्ही चार विशिष्ट गोष्टींवर लक्ष केंद्रित केले पाहिजे:

  • फ्रेमिंग शिफ्ट्स (Framing shifts): सत्रादरम्यान वापरकर्त्याचा दृष्टिकोन कसा बदलला.
  • सीमा (Boundaries): "माझ्या वतीने हा निर्णय घेऊ नका" किंवा "हा विषय पुन्हा उघडण्यापूर्वी विचारा" यांसारखे नियम.
  • न सुटलेले पेच (Unresolved tensions): अशा गोष्टी ज्या वापरकर्त्याने जाणीवपूर्वक अपूर्ण सोडण्याचे ठरवले आहे.
  • वापरकर्त्याने केलेल्या सुधारणा (User corrections): जेव्हा सिस्टम अपयशी ठरते आणि वापरकर्ता त्यात सुधारणा करतो.

हँडऑफसाठी एका स्कीमाची (schema) आवश्यकता असते. पुढे काय नेले जावे आणि काय मागे सोडावे, हे त्याने वेगळे केले पाहिजे. वापरकर्त्याने डेटाला मान्यता दिली आहे की नाही, याचा मागोवा देखील त्याने घेतला पाहिजे.

उद्दिष्ट सर्व काही लक्षात ठेवणे हे नाही. उद्दिष्ट अशा काही गोष्टी जतन करणे आहे ज्यामुळे पुढील सत्र अधिक अचूक आणि कमी पुनरावृत्तीचे होईल.

सर्वात मोठा धोका म्हणजे मॉडेलला सर्व काही ठरवू देणे. जर मॉडेलने एकट्याने हँडऑफ लिहिला, तर ते वापरकर्त्याचे असे स्वरूप जतन करू शकते जे समजण्यास सोपे आहे पण सत्य नाही. ते तात्पुरत्या मूडला कायमस्वरूपी स्वभाव बनवू शकते.

याचे समाधान मध्यम मार्ग आहे: मॉडेल मसुदा (draft) तयार करते आणि वापरकर्ता त्याला मान्यता (ratify) देतो.

वापरकर्त्याकडे अधिकार असणे आवश्यक आहे. पुढे काय नेले जावे, हे ते पटकन ठेवू, हटवू किंवा संपादित करू शकले पाहिजेत. जर सिस्टमने चुकीची गोष्ट पुढे नेली, तर वापरकर्त्याचा ती गोष्ट सुधारण्यात वेळ वाया जातो.

मेमरी ही स्टोरेजची समस्या नाही. ती गव्हर्नन्सची (governance) समस्या आहे.

तुम्हाला ठरवावे लागेल:

  • काय लक्षात ठेवले जावे हे कोण ठरवेल?
  • त्यात सुधारणा कोण करू शकेल?
  • सिस्टमने कधी विसरण्याचा निर्णय घ्यावा?

AI मेमरी ही सारांशांचा ढीग नसावा. ती नियंत्रित हँडऑफ्सचा संच असावा.

Source: https://dev.to/woshiliyana/i-stopped-treating-ai-memory-as-summaries-i-now-think-in-handoffs-1gcb

Optional learning community: https://t.me/GyaanSetuAi