𝗔𝗜 ਏਜੰਟਾਂ ਨੂੰ ਵਧੇਰੇ ਮੈਮੋਰੀ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ। ਉਹਨਾਂ ਨੂੰ ਗਵਰਨਡ ਰੀਕਾਲ (Governed Recall) ਦੀ ਲੋੜ ਹੈ।

ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਸੋਚਦੇ ਹਨ ਕਿ AI ਏਜੰਟਾਂ ਨੂੰ ਬਿਹਤਰ ਕੰਮ ਕਰਨ ਲਈ ਵਧੇਰੇ ਮੈਮੋਰੀ ਦੀ ਲੋੜ ਹੈ। ਉਹ ਵਧੇਰੇ ਚੈਟ ਹਿਸਟਰੀ ਦਾ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ। ਉਹ ਵੱਡੇ ਕੰਟੈਕਸਟ ਵਿੰਡੋਜ਼ (context windows) ਦਾ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ। ਉਹ ਵਧੇਰੇ ਵੈਕਟਰ ਸਟੋਰੇਜ ਦਾ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ।

ਪਰ ਵਧੇਰੇ ਮੈਮੋਰੀ ਅਕਸਰ ਏਜੰਟਾਂ ਨੂੰ ਘੱਟ ਭਰੋਸੇਯੋਗ ਬਣਾ ਦਿੰਦੀ ਹੈ। ਏਜੰਟ ਪੁਰਾਣੀਆਂ ਧਾਰਨਾਵਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਲੱਗ ਜਾਂਦਾ ਹੈ। ਇਹ ਪੁਰਾਣੇ ਕੰਟੈਕਸਟ ਨੂੰ ਮੌਜੂਦਾ ਤੱਥਾਂ ਵਜੋਂ ਮੰਨ ਲੈਂਦਾ ਹੈ। ਇਹ ਉਪਭੋਗਤਾ ਦੀਆਂ ਪਸੰਦਾਂ ਨੂੰ ਪੱਕੇ ਸਬੂਤਾਂ ਨਾਲ ਮਿਲਾ ਦਿੰਦਾ ਹੈ।

ਸਮੱਸਿਆ ਇਹ ਨਹੀਂ ਹੈ ਕਿ ਇੱਕ ਏਜੰਟ ਕਿੰਨਾ ਯਾਦ ਰੱਖਦਾ ਹੈ। ਸਮੱਸਿਆ ਇਹ ਫੈਸਲਾ ਕਰਨ ਵਿੱਚ ਹੈ ਕਿ ਇੱਕ ਏਜੰਟ ਨੂੰ ਕੀ ਯਾਦ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਹੈ।

ਇਹ ਸਿਸਟਮ ਇੰਜੀਨੀਅਰਿੰਗ ਦੀ ਸਮੱਸਿਆ ਹੈ, ਬੁੱਧੀ (intelligence) ਦੀ ਨਹੀਂ।

ਰੀਟ੍ਰੀਵਲ (Retrieval) ਗਵਰਨੈਂਸ ਨਹੀਂ ਹੈ। ਇੱਕ ਰੀਟ੍ਰੀਵਲ ਸਿਸਟਮ ਅਜਿਹੀ ਜਾਣਕਾਰੀ ਲੱਭਦਾ ਹੈ ਜੋ ਕੁਐਰੀ (query) ਦੇ ਸਮਾਨ ਲੱਗਦੀ ਹੈ। ਇੱਕ ਗਵਰਨਡ ਰੀਕਾਲ ਸਿਸਟਮ ਇਹ ਫੈਸਲਾ ਕਰਦਾ ਹੈ ਕਿ ਕੀ ਉਹ ਜਾਣਕਾਰੀ ਵਰਤਣ ਲਈ ਸੁਰੱਖਿਅਤ ਹੈ।

ਇੱਕ ਚੰਗੀ ਰੀਕਾਲ ਪਾਲਿਸੀ ਇਹ ਸਵਾਲ ਪੁੱਛਦੀ ਹੈ:

  • ਕੀ ਇਹ ਜਾਣਕਾਰੀ ਅਜੇ ਵੀ ਤਾਜ਼ਾ ਹੈ?
  • ਇਸਨੂੰ ਦੇਖਣ ਦੀ ਇਜਾਜ਼ਤ ਕਿਸ ਨੂੰ ਹੈ?
  • ਕੀ ਨਵੇਂ ਸਬੂਤ ਇਸ ਪੁਰਾਣੇ ਡੇਟਾ ਨੂੰ ਰੱਦ ਕਰਦੇ ਹਨ?
  • ਇਸ ਜਾਣਕਾਰੀ ਦਾ ਸਰੋਤ ਕੀ ਹੈ?

ਸਾਰੀ ਮੈਮੋਰੀ ਦਾ ਅਧਿਕਾਰ ਇੱਕੋ ਜਿਹਾ ਨਹੀਂ ਹੁੰਦਾ। ਇੱਕ ਟੂਲ ਦਾ ਨਤੀਜਾ ਇੱਕ ਤੱਥ ਹੈ। ਇੱਕ ਮਾਡਲ ਦਾ ਸਾਰ (summary) ਇੱਕ ਧਾਰਨਾ ਹੈ। ਇੱਕ ਉਪਭੋਗਤਾ ਦੀ ਪਸੰਦ ਇੱਕ ਮਾਰਗਦਰਸ਼ਕ ਹੈ।

ਜੇਕਰ ਤੁਸੀਂ ਇਹਨਾਂ ਸਾਰਿਆਂ ਨੂੰ ਇੱਕ ਪ੍ਰੋਂਪਟ (prompt) ਵਿੱਚ ਬਰਾਬਰ ਦੇ ਤੱਥਾਂ ਵਜੋਂ ਪਾ ਦਿੰਦੇ ਹੋ, ਤਾਂ ਏਜੰਟ ਅਸਫਲ ਹੋ ਜਾਵੇਗਾ। ਸਿਸਟਮ ਨੂੰ ਸਬੂਤਾਂ ਅਤੇ ਦਾਅਵਿਆਂ ਵਿਚਕਾਰ ਅੰਤਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਰਨਟਾਈਮ (Runtime) ਸਬੂਤ ਹਮੇਸ਼ਾ ਮਾਡਲ ਦੀਆਂ ਧਾਰਨਾਵਾਂ ਨਾਲੋਂ ਉੱਪਰ ਹੋਣੇ ਚਾਹੀਦੇ ਹਨ।

ਮੈਮੋਰੀ ਨੂੰ ਸਕੋਪ (scope) ਅਤੇ ਸਰੋਤ (provenance) ਦੀ ਵੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਇੱਕ ਏਜੰਟ ਨੂੰ ਤੁਹਾਡੀ ਕੰਪਨੀ ਦੇ ਹਰ ਡੇਟਾ ਨੂੰ ਨਹੀਂ ਦੇਖਣਾ ਚਾਹੀਦਾ। ਮੈਮੋਰੀ ਨੂੰ ਭੂਮਿਕਾਵਾਂ (roles), ਕੰਮਾਂ ਅਤੇ ਇਜਾਜ਼ਤਾਂ ਦੇ ਅਧਾਰ 'ਤੇ ਸੀਮਾਵਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਤੁਹਾਨੂੰ ਇਹ ਵੀ ਜਾਣਨ ਦੀ ਲੋੜ ਹੈ ਕਿ ਮੈਮੋਰੀ ਕਿੱਥੋਂ ਆਈ ਹੈ। ਇੱਕ ਮਨੁੱਖੀ ਟਿੱਪਣੀ ਮਾਡਲ ਦੇ ਅੰਦਾਜ਼ੇ ਨਾਲੋਂ ਵਧੇਰੇ ਮਹੱਤਵ ਰੱਖਦੀ ਹੈ।

ਏਜੰਟਾਂ ਨੂੰ ਵੱਡੇ ਦਿਮਾਗ ਦੇਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਨਾ ਬੰਦ ਕਰੋ। ਉਹ ਕੀ ਯਾਦ ਰੱਖ ਸਕਦੇ ਹਨ, ਇਸ ਲਈ ਬਿਹਤਰ ਨਿਯਮ ਬਣਾਉਣਾ ਸ਼ੁਰੂ ਕਰੋ। ਰਨਟਾਈਮ ਨੂੰ ਮਾਡਲ ਤੱਕ ਪਹੁੰਚਣ ਤੋਂ ਪਹਿਲਾਂ ਕੰਟੈਕਸਟ (context) ਨੂੰ ਸੰਗਠਿਤ (curate) ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।

ਅਸਲੀ ਸਵਾਲ ਇਹ ਨਹੀਂ ਹੈ ਕਿ ਇੱਕ ਏਜੰਟ ਕਿੰਨਾ ਯਾਦ ਰੱਖ ਸਕਦਾ ਹੈ। ਅਸਲੀ ਸਵਾਲ ਇਹ ਹੈ ਕਿ ਕੀ ਤੁਸੀਂ ਉਸ ਚੀਜ਼ 'ਤੇ ਭਰੋਸਾ ਕਰ ਸਕਦੇ ਹੋ ਜੋ ਏਜੰਟ ਯਾਦ ਕਰਦਾ ਹੈ।

Source: https://dev.to/glendel/ai-agents-dont-need-more-memory-they-need-governed-recall-3p73

Optional learning community: https://t.me/GyaanSetuAi