Deep Interaction വഴി ഡെവലപ്പർമാർക്ക് ഒരു ലാംഗ്വേജ് മോഡലിന്റെ reasoning chain ഉടനടി എഡിറ്റ് ചെയ്യാൻ സാധിക്കും. ഇത് തിരുത്തലുകളുടെ വിജയശതമാനം 25%-ലധികം വർദ്ധിപ്പിക്കുകയും STEM വിഷയങ്ങളിലെ ടോക്കൺ ഉപയോഗം ഏകദേശം 40% കുറയ്ക്കുകയും ചെയ്യുന്നു.

നിലവിലുള്ള പരിഹാരങ്ങൾ എവിടെയാണ് പരാജയപ്പെടുന്നത്

Chain-of-thought prompting ഉപയോഗിക്കുന്ന ലാർജ് ലാംഗ്വേജ് മോഡലുകൾ (LLMs) സങ്കീർണ്ണമായ ചോദ്യങ്ങളെ യുക്തിപരമായ ഘട്ടങ്ങളായി വിഭജിക്കുന്നു. ഒരു ഘട്ടത്തിൽ തെറ്റ് സംഭവിക്കുമ്പോൾ, ഡെവലപ്പർമാർ സാധാരണയായി സംഭാഷണം വീണ്ടും തുടങ്ങുകയോ അല്ലെങ്കിൽ ഒരു തിരുത്തൽ പ്രോംപ്റ്റ് (corrective prompt) നൽകുകയോ ആണ് ചെയ്യുന്നത്. ഇവ രണ്ടും സമയം പാഴാക്കുന്നു: മോഡൽ പലപ്പോഴും ആ തെറ്റ് തന്നെ ആവർത്തിക്കുകയോ അല്ലെങ്കിൽ ഒന്നും പഠിക്കാതെ ഒരു പൊതുവായ മാപ്പ് നൽകുകയോ ചെയ്യുന്നു. മോഡലിനെ ശരിയായ പാതയിലേക്ക് കൊണ്ടുവരാൻ ഡെവലപ്പർമാർക്ക് ഡസൻ കണക്കിന് പ്രോംപ്റ്റുകൾ അയക്കേണ്ടി വരുന്നു, ഇത് ടോക്കൺ എണ്ണവും കമ്പ്യൂട്ട് ചിലവും വർദ്ധിപ്പിക്കുന്നു.

Deep Interaction എങ്ങനെ വ്യത്യസ്തമായി പ്രവർത്തിക്കുന്നു

ഈ പുതിയ സാങ്കേതികവിദ്യ മോഡലിന്റെ ഔട്ട്പുട്ടിനെ ഒരു 'ബ്ലാക്ക് ബോക്സ്' ഉത്തരമായി കാണുന്നതിന് പകരം എഡിറ്റ് ചെയ്യാവുന്ന ടെക്സ്റ്റ് ആയി പരിഗണിക്കുന്നു. ഇതിന്റെ പ്രവർത്തനരീതി ഇപ്രകാരമാണ്:

  1. തെറ്റ് കണ്ടെത്തുക – reasoning chain-ൽ തെറ്റായ കൃത്യമായ ഘട്ടം ഡെവലപ്പർ തിരിച്ചറിയുന്നു.
  2. അതേ സ്ഥാനത്ത് തന്നെ എഡിറ്റ് ചെയ്യുക – ചുറ്റുമുള്ള ശരിയായ ഘട്ടങ്ങൾ നിലനിർത്തിക്കൊണ്ട് ഡെവലപ്പർ ആ വരി തിരുത്തി എഴുതുന്നു.
  3. തിരുത്തൽ സംഗ്രഹിക്കുക (Distill the edit) – മനുഷ്യൻ വരുത്തിയ തിരുത്തലിനെ, ഉദ്ദേശിച്ച യുക്തി ഉൾക്കൊള്ളുന്ന ഒരു ലഘുവായ പ്രോംപ്റ്റായി സിസ്റ്റം മാറ്റുന്നു.
  4. മോഡലിനെ നയിക്കുക – ഈ സംഗ്രഹിച്ച പ്രോംപ്റ്റ് സ്വീകരിക്കുന്ന LLM, തിരുത്തിയ പോയിന്റിൽ നിന്ന് യുക്തിപരമായ ചിന്ത തുടരുന്നു.

മുഴുവൻ പ്രോംപ്റ്റും വീണ്ടും നൽകുന്നതിന് പകരം കൃത്യമായ ഒരു തിരുത്തൽ മാത്രം നൽകുന്നതിലൂടെ, ഉത്തരത്തിന്റെ നേരത്തെ വന്ന ശരിയായ ഭാഗങ്ങൾ വീണ്ടും നിർമ്മിക്കേണ്ടി വരുന്നില്ല.

അളക്കാവുന്ന നേട്ടങ്ങൾ

വിവിധ STEM ടാസ്ക്കുകളിലെ ബെഞ്ച്മാർക്കുകൾ ഇതിന്റെ സ്വാധീനം വ്യക്തമായി കാണിക്കുന്നു. ഡെവലപ്പർമാർ Deep Interaction ഉപയോഗിച്ചപ്പോൾ, സാധാരണ രീതിയിലുള്ള റീ-പ്രോംപ്റ്റിംഗുമായി താരതമ്യം ചെയ്യുമ്പോൾ വിജയകരമായി തിരുത്തിയ ഉത്തരങ്ങളുടെ അനുപാതം കാൽ ഭാഗത്തിലധികം വർദ്ധിച്ചു. അതേസമയം, ടോക്കൺ ഉപയോഗം ഏകദേശം 40% കുറഞ്ഞു, ഇത് ക്ലൗഡ് കമ്പ്യൂട്ടിംഗ് ബില്ലുകൾ കുറയ്ക്കാനും ഇന്ററാക്ടീവ് ആപ്ലിക്കേഷനുകളുടെ വേഗത വർദ്ധിപ്പിക്കാനും സഹായിച്ചു.

ആർക്കൊക്കെ പ്രയോജനം ലഭിക്കും

  • ഡെവലപ്പർമാർ – പ്രോംപ്റ്റ് ട്യൂണിംഗിനായി endless loops തയ്യാറാക്കേണ്ടതില്ല. ഒരു ചെറിയ എഡിറ്റിലൂടെ യുക്തിപരമായ പിശകുകൾ പരിഹരിക്കാം, ഇത് ഉയർന്ന തലത്തിലുള്ള ജോലികൾക്കായി സമയം ലാഭിക്കാൻ സഹായിക്കുന്നു.
  • ശാസ്ത്രീയമോ എഞ്ചിനീയറിംഗ് ഉപകരണങ്ങളോ നിർമ്മിക്കുന്ന സ്ഥാപനങ്ങൾ – കൂടുതൽ വിശ്വസനീയമായ യുക്തി (reasoning) ലഭിക്കുന്നതിലൂടെ സിമുലേഷനുകളിലോ, കണക്കുകൂട്ടലുകളിലോ, ഡാറ്റാ അനാലിസിസ് പൈപ്പ്‌ലൈനുകളിലോ ഉണ്ടാകാൻ സാധ്യതയുള്ള പിശകുകൾ കുറയുന്നു.
  • അന്തിമ ഉപഭോക്താക്കൾ – വേഗത്തിലുള്ള പ്രതികരണങ്ങളും കുറഞ്ഞ സേവന നിരക്കും AI അസിസ്റ്റന്റുകളുടെ മൊത്തത്തിലുള്ള അനുഭവം മെച്ചപ്പെടുത്തുന്നു.

പരിമിതികളും മറ്റ് വശങ്ങളും

ഡെവലപ്പർക്ക് കൃത്യമായ യുക്തിപരമായ പിശക് തിരിച്ചറിയാനും അത് വ്യക്തമാക്കാനും കഴിയുമെന്ന അനുമാനത്തിലാണ് Deep Interaction പ്രവർത്തിക്കുന്നത്. പിശകുകൾ വളരെ സൂക്ഷ്മമായതോ അല്ലെങ്കിൽ യുക്തി മനസ്സിലാക്കാൻ പ്രയാസമുള്ളതോ ആയ മേഖലകളിൽ മാനുവൽ എഡിറ്റിംഗ് പ്രായോഗികമാകണമെന്നില്ല. കൂടാതെ, റിപ്പോർട്ട് ചെയ്യപ്പെട്ട നേട്ടങ്ങൾ നിയന്ത്രിത STEM ബെഞ്ച്മാർക്കുകളിൽ നിന്നുള്ളതാണ്.

ചുരുക്കത്തിൽ

Deep Interaction ഒരു ഡെവലപ്പറെ വെറുമൊരു ഉപയോക്താവിൽ നിന്ന് സജീവമായ ഒരു അധ്യാപകനാക്കി മാറ്റുന്നു, ഇത് LLM-ന്റെ യുക്തിപരമായ ചിന്തകളിൽ കൃത്യവും കുറഞ്ഞ ചിലവുള്ളതുമായ തിരുത്തലുകൾ സാധ്യമാക്കുന്നു.