ਸੈਲੀਐਂਸ (Salience) ਕੈਰੀ ਵੈਲਯੂ (Carry Value) ਨਹੀਂ ਹੈ
ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਏਜੰਟ ਮੈਮੋਰੀ (agent memory) ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਬਣਾਉਂਦੇ ਹਨ।
ਉਹ ਸਟੋਰੇਜ (storage) 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦੇ ਹਨ। ਉਹ ਵੈਕਟਰ ਸਟੋਰ (vector stores) ਜਾਂ ਚਲਾਕ ਸਮਰਾਈਜ਼ਰਾਂ (summarizers) ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਉਹ ਸੋਚਦੇ ਹਨ ਕਿ ਜੇਕਰ ਉਹ ਸਭ ਕੁਝ ਸੇਵ ਕਰ ਲੈਣਗੇ, ਤਾਂ ਏਜੰਟ ਨੂੰ ਸਭ ਕੁਝ ਪਤਾ ਹੋਵੇਗਾ।
ਉਹ ਗਲਤ ਹਨ।
ਜਦੋਂ ਤੁਹਾਡੇ ਕੋਲ ਸੈਂਕੜੇ ਸੈਸ਼ਨ (sessions) ਹੁੰਦੇ ਹਨ, ਤਾਂ ਤੁਸੀਂ ਸਭ ਕੁਝ ਨਹੀਂ ਪੜ੍ਹ ਸਕਦੇ। ਜੇਕਰ ਤੁਹਾਡਾ ਏਜੰਟ ਇੱਕ ਨਵਾਂ ਸੈਸ਼ਨ ਬਿਲਕੁਲ ਖਾਲੀ (cold) ਸ਼ੁਰੂ ਕਰਦਾ ਹੈ, ਤਾਂ ਇਹ ਸਮਾਂ ਬਰਬਾਦ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਇਹ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸ਼ੋਰ (noise) ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਇਹ ਗਲਤੀਆਂ ਕਰਦਾ ਹੈ।
ਸਮੱਸਿਆ ਚੋਣ (selection) ਦੀ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਸੈਲੀਐਂਸ (salience) ਨੂੰ ਕੈਰੀ ਵੈਲਯੂ (carry value) ਸਮਝਣ ਦੀ ਗਲਤੀ ਕਰਦੇ ਹਨ।
- ਸੈਲੀਐਂਸ (Salience) ਤੁਹਾਨੂੰ ਦੱਸਦੀ ਹੈ ਕਿ ਪਿਛਲੇ ਸੈਸ਼ਨ ਵਿੱਚ ਕੀ ਪ੍ਰਭਾਵਸ਼ਾਲੀ (loud) ਸੀ।
- ਕੈਰੀ ਵੈਲਯੂ (Carry value) ਤੁਹਾਨੂੰ ਦੱਸਦੀ ਹੈ ਕਿ ਅਗਲੇ ਸੈਸ਼ਨ ਨੂੰ ਕੰਮ ਕਰਨ ਲਈ ਕਿਸ ਚੀਜ਼ ਦੀ ਲੋੜ ਹੈ।
ਇੱਕ ਵੇਰੀਏਬਲ ਨਾਮ (variable name) ਬਾਰੇ ਇੱਕ ਉੱਚੀ ਬਹਿਸ ਦੀ ਸੈਲੀਐਂਸ (salience) ਜ਼ਿਆਦਾ ਹੁੰਦੀ ਹੈ। ਪਰ ਜੇਕਰ ਉਹ ਨਾਮ ਭਵਿੱਖ ਦੇ ਕੋਡ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਨਹੀਂ ਕਰਦਾ, ਤਾਂ ਇਸਦੀ ਕੈਰੀ ਵੈਲਯੂ (carry value) ਜ਼ੀਰੋ ਹੁੰਦੀ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਇਸਨੂੰ ਅੱਗੇ ਲੈ ਕੇ ਜਾਂਦੇ ਹੋ, ਤਾਂ ਤੁਸੀਂ ਸਿਰਫ਼ ਸ਼ੋਰ (noise) ਵਧਾਉਂਦੇ ਹੋ।
ਮੈਂ ਇਹਨਾਂ ਨਿਯਮਾਂ 'ਤੇ ਅਧਾਰਤ ਇੱਕ ਮੈਮੋਰੀ ਪਾਈਪਲਾਈਨ (memory pipeline) ਚਲਾਉਂਦਾ ਹਾਂ:
ਪਹਿਲਾਂ ਮਕੈਨੀਕਲ ਸੈਲੀਐਂਸ (Mechanical salience)। ਮਹੱਤਵਪੂਰਨ ਪਲਾਂ ਨੂੰ ਲੱਭਣ ਲਈ ਇੱਕ ਡਿਟਰਮਿਨਿਸਟਿਕ ਸਕੋਰਰ (deterministic scorer) ਦੀ ਵਰਤੋਂ ਕਰੋ। ਸਧਾਰਨ ਟਿੱਪਣੀਆਂ (comments) ਨਾਲੋਂ ਸੁਧਾਰਾਂ (corrections) ਨੂੰ ਵਧੇਰੇ ਮਹੱਤਵ ਦਿਓ। ਹਰ ਹਾਈਲਾਈਟ (highlight) ਦਾ ਸਬੰਧ ਮੂਲ ਟ੍ਰਾਂਸਕ੍ਰਿਪਟ (raw transcript) ਨਾਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਕਿਸੇ ਮਾਡਲ ਨੂੰ ਬਿਨਾਂ ਸਰੋਤ ਦੇ ਤੱਥ ਕਾਢਣ ਦੀ ਇਜਾਜ਼ਤ ਨਾ ਦਿਓ।
ਦੂਜਾ, ਸਿੰਥੇਸਿਸ (Synthesis)। ਹਾਈਲਾਈਟਸ ਵਿੱਚ ਅਰਥਾਂ ਦੀ ਇੱਕ ਪਰਤ ਜੋੜਨ ਲਈ ਸਿਰਫ਼ LLM ਦੀ ਵਰਤੋਂ ਕਰੋ। ਜੇਕਰ ਤੁਹਾਡੀਆਂ ਹਾਈਲਾਈਟਸ ਖਰਾਬ ਹਨ, ਤਾਂ ਸਾਰ (summary) ਸਿਰਫ਼ ਭਰੋਸੇਮੰਦ ਪਰ ਬੇਤੁਕਾ ਹੋਵੇਗਾ।
ਰਿਟ੍ਰੀਵਲ-ਟਾਈਮ ਬ੍ਰੀਫ (retrieval-time brief) ਦੀ ਵਰਤੋਂ ਕਰੋ। ਹਰ ਪ੍ਰੋਜੈਕਟ ਲਈ
INDEX.mdਵਰਗੀ ਇੱਕ ਫ