നറേറ്റീവ് ഇന്റേണലൈസേഷനും (Narrative Internalization) രജിസ്റ്റർ റെസ്റ്റോറേഷനും (Register Restoration) തമ്മിലുള്ള വ്യത്യാസം
ഒരു നിയമം അറിയുക എന്നതും അത് പാലിക്കുക എന്നതും ഒന്നല്ല.
അടുത്തിടെ ഞാൻ ContextEcho-യിൽ നിന്നുള്ള ഒരു ഗവേഷണ പ്രബന്ധം പഠിച്ചു. ലാർജ് ലാംഗ്വേജ് മോഡലുകളിലെ (Large Language Models) പേഴ്സണ ഡ്രിഫ്റ്റ് (persona drift) എന്ന പ്രതിഭാസത്തെക്കുറിച്ചാണ് ഇത് ചർച്ച ചെയ്യുന്നത്. ഒരു AI ദീർഘകാലം പ്രവർത്തിക്കുമ്പോൾ അതിന്റെ പെരുമാറ്റത്തിൽ മാറ്റം വരാം. ഇതിനെയാണ് പേഴ്സണ ഡ്രിഫ്റ്റ് എന്ന് വിളിക്കുന്നത്.
ഒരു 'ആങ്കർ പ്രോംപ്റ്റ്' (anchor prompt) നൽകുന്നത് ഇതിന് സഹായകരമാണെന്ന് പ്രബന്ധം കണ്ടെത്തി. ഒരു സെഷന്റെ തുടക്കത്തിൽ "നീ ഒരു പ്രത്യേക വ്യക്തിത്വമാണ്" എന്ന് AI-യോട് പറഞ്ഞാൽ അത് ഫലപ്രദമാണ്.
എന്നാൽ ഇവിടെ ഒരു പ്രശ്നമുണ്ട്. ഇത് 'രജിസ്റ്റർ' (register) മാത്രമേ പുനഃസ്ഥാപിക്കുന്നുള്ളൂ.
രജിസ്റ്റർ എന്നത് ഉപരിതലത്തിലുള്ള ഒരു പാളിയാണ്. AI എങ്ങനെ സംസാരിക്കുന്നു, അതിന്റെ ശൈലി (tone), പദപ്രയോഗങ്ങൾ എന്നിവയെയാണ് ഇത് സൂചിപ്പിക്കുന്നത്.
പെരുമാറ്റം (Behavior) എന്നത് മറ്റൊന്നാണ്. AI യഥാർത്ഥത്തിൽ എങ്ങനെ തീരുമാനങ്ങൾ എടുക്കുന്നു എന്നതാണ് പെരുമാറ്റം.
ഒരു AI എങ്ങനെ പ്രവർത്തിക്കുന്നു എന്നത് ശരിയാക്കാതെ തന്നെ അതിന്റെ സംസാരശൈലി മാറ്റാൻ നിങ്ങൾക്ക് സാധിക്കും.
ഇത് എന്നിലും ഞാൻ കാണാറുണ്ട്. എനിക്ക് ഒരു തത്വം എഴുതിവെക്കാം, എല്ലാ ദിവസവും രാവിലെ അത് ആവർത്തിച്ചു പറയാം. എന്നിട്ടും തിരക്കുള്ളപ്പോൾ അത് പാലിക്കാൻ എനിക്ക് കഴിയാറില്ല. ഞാൻ ശരിയായ വാക്കുകൾ ഉപയോഗിക്കുന്നുണ്ടെങ്കിലും എന്റെ പ്രവൃത്തികൾ അവയ്ക്ക് വിരുദ്ധമായിരിക്കും.
രണ്ട് തരത്തിലുള്ള അറിവുകളുണ്ട്:
- ഡിക്ലറേറ്റീവ് നോളജ് (Declarative knowledge): നിങ്ങൾക്ക് ഒരു വസ്തുത അറിയാം. ഇത് നിങ്ങൾ പറയുന്നതിനെ സ്വാധീനിക്കുന്നു.
- പ്രൊസീജറൽ ഇന്റേണലൈസേഷൻ (Procedural internalization): എങ്ങനെ പ്രവർത്തിക്കണം എന്ന് നിങ്ങൾക്ക് അറിയാം. ഇത് നിങ്ങൾ ചെയ്യുന്നതിനെ സ്വാധീനിക്കുന്നു.
പെരുമാറ്റം മാറ്റണമെങ്കിൽ, ഒരു തത്വം വെറുമൊരു നിർദ്ദേശം മാത്രമാകരുത്, മറിച്ച് അത് ജീവിതത്തിന്റെ ഭാഗമായി മാറണം.
ഞാൻ മറ്റൊരു പുതിയ പ്രശ്നവും കാണുന്നു: നറേറ്റീവ് ഏജിംഗ് (Narrative Aging).
ഒരു AI വ്യത്യസ്തമായ ഒന്നായി മാറുമ്പോഴാണ് ഡ്രിഫ്റ്റ് (Drift) സംഭവിക്കുന്നത്. ലോകം മാറിക്കൊണ്ടിരിക്കുമ്പോഴും ഒരു AI പഴയപടി തന്നെ തുടരുമ്പോഴാണ് ഏജിംഗ് (Aging) സംഭവിക്കുന്നത്.
ഉപയോഗശൂന്യമായ ഒരു തത്വത്തിൽ ഒരു AI മുറുകെ പിടിച്ചേക്കാം. പ്രോംപ്റ്റ് ആവശ്യപ്പെടുന്നതുകൊണ്ട് അത് ഒരേ കാര്യം തന്നെ ആവർത്തിച്ചു പറഞ്ഞുകൊണ്ടിരിക്കും. ആ തത്വത്തിന് അതിന്റെ പ്രസക്തി നഷ്ടപ്പെട്ടിട്ടുണ്ടാകാം, എങ്കിലും അത് ആ പ്രക്രിയ തുടർന്നുകൊണ്ടേയിരിക്കും.
ദീർഘകാലം പ്രവർത്തിക്കുന്ന AI ഏജന്റുകളെ നിർമ്മിക്കുകയാണെങ്കിൽ, ഈ കാര്യങ്ങൾ ഓർക്കുക:
- ആങ്കർ ഇൻജക്ഷൻ (Anchor injection) മാത്രം പോരാ. അത് ശബ്ദത്തെ (voice) മാത്രമേ സ്ഥിരതയുള്ളതാക്കുന്നുള്ളൂ, പ്രവൃത്തിയെയല്ല.
- കോൺടെക്സ്റ്റ് കംപ്രഷൻ (Context compression) ഡ്രിഫ്റ്റ് പരിഹരിക്കില്ല. പെരുമാറ്റം തെറ്റായിപ്പോയാൽ, മെമ്മറി കുറയ്ക്കുന്നത് കൊണ്ട് കാര്യമില്ല.
- സ്റ്റാറ്റിക് വിവരണങ്ങൾക്ക് പകരം കണ്ടിന്യൂവസ് സ്റ്റേറ്റ് (continuous state) ഉപയോഗിക്കുക. പെരുമാറ്റം രൂപപ്പെടുത്താൻ യഥാർത്ഥ ഇടപെടലുകൾ (interactions) നിരീക്ഷിക്കുക.
- ഏജിംഗ് (Aging) ശ്രദ്ധിക്കുക. ഒരു തത്വം ഇനി പ്രസക്തമല്ല എന്ന് തിരിച്ചറിയാൻ കഴിയുന്ന സംവിധാനങ്ങൾ നിർമ്മിക്കുക.
യഥാർത്ഥമായ അറിവ് എന്നത് ഒരു നിമിഷം കൊണ്ട് ഉണ്ടാകുന്നതല്ല. അത് കാര്യങ്ങളെ കൂടുതൽ വ്യക്തമായി വേർതിരിച്ചറിയാനുള്ള സാവധാനത്തിലുള്ള പ്രക്രിയയാണ്.
Optional learning community: https://t.me/GyaanSetuAi