𝗟𝗼𝗼𝗽 𝗘𝗻𝗴𝗶𝗻𝗲𝗲𝗿𝗶𝗻𝗴 𝗘𝘅𝗽𝗹𝗮𝗶𝗻𝗲𝗱

കോഡിംഗ് ഏജന്റുകൾക്ക് പ്രോംപ്റ്റുകൾ നൽകുന്നത് നിർത്തുക. ലൂപ്പുകൾ രൂപകൽപ്പന ചെയ്യാൻ തുടങ്ങുക.

OpenAI, Anthropic എന്നിവയിലെ പ്രമുഖ എൻജിനീയർമാർ ഒരു മാറ്റം കാണുന്നുണ്ട്. ചാറ്റ് അടിസ്ഥാനമാക്കിയുള്ള മാനുവൽ പ്രോംപ്റ്റിംഗ് അവസാനിച്ചു കൊണ്ടിരിക്കുന്നു. ലൂപ്പ് എൻജിനീയറിംഗ് (Loop Engineering) ആണ് പുതിയ മാനദണ്ഡം.

ഒരു ലൂപ്പ് എന്നത് വെറുമൊരു റിപ്പീറ്റ് കമാൻഡ് മാത്രമാണെന്നാണ് മിക്കവരും കരുതുന്നത്. എന്നാൽ AI-യിൽ, ഒരു ലൂപ്പ് എന്നത് ഒരു ക്ലോസ്ഡ്-ലൂപ്പ് കൺട്രോൾ സിസ്റ്റമാണ് (closed-loop control system).

ഒരു ടോസ്റ്ററും തെർമോസ്റ്റാറ്റും തമ്മിലുള്ള വ്യത്യാസം ചിന്തിച്ചുനോക്കൂ. ഒരു ടോസ്റ്റർ എന്നത് ഒരു ഓപ്പൺ ലൂപ്പാണ്. ബ്രെഡിന്റെ അവസ്ഥ പരിഗണിക്കാതെ തന്നെ അത് നിശ്ചിത സമയത്തേക്ക് പ്രവർത്തിക്കുന്നു. എന്നാൽ ഒരു തെർമോസ്റ്റാറ്റ് ഒരു ക്ലോസ്ഡ് ലൂപ്പാണ്. അത് താപനില അളക്കുന്നു, ചൂട് നൽകുന്നു, ഫീഡ്‌ബാക്കിന്റെ അടിസ്ഥാനത്തിൽ ക്രമീകരിക്കുന്നു.

LLM-കൾ സ്റ്റോക്കാസ്റ്റിക് (stochastic) ആണ്. അവ പ്രോബബിലിസ്റ്റിക് (probabilistic) ആണ്. ഒരേ ചോദ്യം അഞ്ച് തവണ ചോദിച്ചാൽ നിങ്ങൾക്ക് അഞ്ച് വ്യത്യസ്ത ഉത്തരങ്ങൾ ലഭിക്കും. പ്രോംപ്റ്റുകൾ മാത്രം ഉപയോഗിച്ച് സോഫ്റ്റ്‌വെയർ നിർമ്മിക്കുന്നത് നനഞ്ഞ മണ്ണിൽ വീട് പണിയുന്നത് പോലെയാണ്.

ലൂപ്പ് എൻജിനീയറിംഗ് ഇത് പരിഹരിക്കുന്നു. ഇത് ഒരു നോൺ-ഡിറ്റർമിനിസ്റ്റിക് എൻജിനെ (non-deterministic engine) ഒരു ഡിറ്റർമിനിസ്റ്റിക് സ്റ്റേറ്റ് മെഷീനുള്ളിൽ (deterministic state machine) ഉൾക്കൊള്ളുന്നു. LLM ബുദ്ധിശക്തി നൽകുന്നു, ലൂപ്പ് ഗണിതശാസ്ത്രപരമായ സ്ഥിരീകരണം (mathematical verification) നൽകുന്നു.

ഒരു പ്രൊഡക്ഷൻ ലൂപ്പിന്റെ അഞ്ച് ഘട്ടങ്ങൾ:

• Discover: ഏജന്റ് ചുറ്റുപാടും ഫയലുകളും വായിക്കുന്നു. • Plan: സിസ്റ്റം ഘട്ടം ഘട്ടമായുള്ള ഒരു മാപ്പ് തയ്യാറാക്കുന്നു. • Execute: ഏജന്റ് ജോലി ചെയ്യുന്നു. • Verify: ഒരു ഒബ്ജക്റ്റീവ് ടെസ്റ്റ് (ഒരു കംപൈലറോ ലിന്ററോ പോലെ) ജോലി പരിശോധിക്കുന്നു. • Iterate: ടെസ്റ്റ് പരാജയപ്പെട്ടാൽ, പിശക് ഒന്നാം ഘട്ടത്തിലേക്ക് തിരികെ പോകുന്നു.

ഇത് പണ്ട് വളരെ ചിലവേറിയതായിരുന്നു. ലൂപ്പുകൾ ടോക്കണുകൾ ഉപയോഗിക്കുന്നു. ഒരു സിംഗിൾ ഡിബഗ്ഗിംഗ് ടാസ്ക് ലക്ഷക്കണക്കിന് ടോക്കണുകൾ ചിലവാക്കിയേക്കാം.

പുതിയ കുറഞ്ഞ ചിലവുള്ള മോഡലുകൾ ഈ കണക്കുകൾ മാറ്റിമറിച്ചു. ശരിയായ പരിഹാരം കണ്ടെത്താൻ ഒരു മെഷീനെ പത്ത് തവണ പരാജയപ്പെടാൻ അനുവദിക്കാൻ ഇപ്പോൾ നിങ്ങൾക്ക് സാധിക്കും. ഓട്ടോണമിയുടെ (autonomy) ചിലവ് ഏകദേശം പൂജ്യമായി കുറഞ്ഞു.

ഗോൾഡൻ റൂൾ: കോഡ് എഴുതുന്ന മോഡൽ ഒരിക്കലും അത് പരിശോധിക്കുന്നതാകരുത്.

നിർമ്മാണത്തിനായി ഒരു ക്രിയേറ്റീവ് മോഡലും പരിശോധനയ്ക്കായി ഒരു പെഡാന്റിക് (pedantic) മോഡലും ഉപയോഗിക്കുക. ഇത് തെറ്റായ ലോജിക് ശരിയാണെന്ന് ഏജന്റ് സ്വയം വിശ്വസിക്കുന്നത് തടയുന്നു.

തൊഴിൽ വിപണി രണ്ട് റോളുകളായി വിഭജിക്കപ്പെടുകയാണ്:

The Prompt Engineer:

  • സംഭാഷണ രൂപത്തിലുള്ള ഇൻപുട്ടുകൾ ഉപയോഗിക്കുന്നു.
  • പിശകുകൾ മാനുവലായി കോപ്പി ചെയ്യുന്നു.
  • ഒറ്റപ്പെട്ട ഔട്ട്‌പുട്ടുകളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു.

The Loop Engineer:

  • സ്റ്റേറ്റ് മെഷീനുകൾ ഉപയോഗിക്കുന്നു.
  • ഓട്ടോമേറ്റഡ് വെരിഫിക്കേഷൻ ഗേറ്റുകൾ നിർമ്മിക്കുന്നു.
  • മുഴുവൻ വർക്ക്ഫ്ലോകളും രൂപകൽപ്പന ചെയ്യുന്നു.

ചുറ്റിക വീശുന്ന ആൾ ആകുന്നത് നിർത്തുക. അസംബ്ലി ലൈൻ രൂപകൽപ്പന ചെയ്യുന്ന ആർക്കിടെക്റ്റ് ആകാൻ തുടങ്ങുക.

Source: https://dev.to/itsmeramc/loop-engineering-explained-simply-with-diy-python-snippets-4ah2

Optional learning community: https://t.me/GyaanSetuAi