ਹਰ ਸੈਸ਼ਨ ਵਿੱਚ ਹਰ ਨਿਰਦੇਸ਼ ਨੂੰ ਲੋਡ ਕਰਨਾ ਬੰਦ ਕਰੋ
ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਬਿਹਤਰ ਪ੍ਰੋਂਪਟਸ (prompts) 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦੇ ਹਨ। ਉਹ ਇਸ ਗੱਲ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰ ਦਿੰਦੇ ਹਨ ਕਿ ਪ੍ਰੋਂਪਟ ਸ਼ੁਰੂ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਕੀ ਹੁੰਦਾ ਹੈ। ਉਹ ਅਸਿਸਟੈਂਟ ਕੰਟੈਕਸਟ (assistant context) ਵਿੱਚ ਬਹੁਤ ਜ਼ਿਆਦਾ ਨਿਰਦੇਸ਼ ਲੋਡ ਕਰ ਦਿੰਦੇ ਹਨ।
ਇਸ ਨਾਲ ਤਿੰਨ ਸਮੱਸਿਆਵਾਂ ਪੈਦਾ ਹੁੰਦੀਆਂ ਹਨ:
- ਉੱਚ ਟੋਕਨ ਲਾਗਤ (High token costs)।
- ਉੱਚ ਲੇਟੈਂਸੀ (High latency)।
- ਘੱਟ ਸਿਗਨਲ-ਟੂ-ਨੋਇਜ਼ ਰੇਸ਼ੋ (Low signal-to-noise ratio)।
ਜਦੋਂ ਤੁਸੀਂ ਹਰ ਛੋਟੇ ਸਵਾਲ ਲਈ ਇੱਕ ਵਿਸ਼ਾਲ ਨਿਰਦੇਸ਼ ਫਾਈਲ ਲੋਡ ਕਰਦੇ ਹੋ, ਤਾਂ ਇਹ ਇੱਕ ਸਧਾਰਨ ਸਵਾਲ ਪੁੱਛਣ ਤੋਂ ਪਹਿਲਾਂ ਪੂਰੀ ਕਰਮਚਾਰੀ ਹੈਂਡਬੁੱਕ ਪੜ੍ਹਨ ਵਰਗਾ ਹੈ। ਉਸ ਜਾਣਕਾਰੀ ਦਾ ਜ਼ਿਆਦਾਤਰ ਹਿੱਸਾ ਮੌਜੂਦਾ ਕੰਮ ਲਈ ਬੇਕਾਰ ਹੁੰਦਾ ਹੈ।
ਤੁਸੀਂ ਜਿੰਨੇ ਜ਼ਿਆਦਾ ਨਿਯਮ ਜੋੜਦੇ ਹੋ, ਉੱਨਾ ਹੀ ਤੁਸੀਂ ਪ੍ਰਸੰਗਿਕ ਹਿੱਸਿਆਂ ਨੂੰ ਘੱਟ ਕਰਦੇ ਹੋ। ਜ਼ਿਆਦਾ ਕੰਟੈਕਸਟ ਦਾ ਮਤਲਬ ਜ਼ਿਆਦਾ ਯੋਗਤਾ ਨਹੀਂ ਹੁੰਦਾ।
ਮੈਂ ਇੱਕ ਸਿੰਗਲ ਫਾਈਲ ਤੋਂ ਮੋਡਿਊਲਰ ਸਿਸਟਮ (modular system) ਵੱਲ ਵਧ ਕੇ ਇਸ ਦਾ ਹੱਲ ਕੱਢਿਆ। ਮੈਂ ਆਪਣੇ ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਵਿਸ਼ੇਸ਼ ਮੋਡਿਊਲਾਂ ਵਿੱਚ ਵੰਡ ਦਿੱਤਾ:
• instructions.md: ਇੱਕ ਛੋਟਾ ਐਂਟਰੀ ਪੁਆਇੰਟ ਜੋ ਹਮੇਸ਼ਾ ਲੋਡ ਹੁੰਦਾ ਹੈ। • persona.md: ਸ਼ਖਸੀਅਤ ਅਤੇ ਲਹਿਜਾ। • structure.md: ਨੈਵੀਗੇਸ਼ਨ ਕੰਮਾਂ ਲਈ ਸਿਸਟਮ ਦੀ ਬਣਤਰ। • workflows.md: ਸੈਸ਼ਨ ਖਤਮ ਕਰਨ ਲਈ ਵਿਸ਼ੇਸ਼ ਨਿਯਮ।
ਹੁਣ, ਮੁੱਖ ਫਾਈਲ ਇੱਕ ਰਾਊਟਰ (router) ਵਜੋਂ ਕੰਮ ਕਰਦੀ ਹੈ। ਇਹ ਦੂਜੇ ਮੋਡਿਊਲਾਂ ਨੂੰ ਉਦੋਂ ਹੀ ਕਾਲ ਕਰਦੀ ਹੈ ਜਦੋਂ ਕੰਮ ਲਈ ਉਹਨਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
ਉਦਾਹਰਨ ਲਈ:
- ਜੇਕਰ ਤੁਹਾਨੂੰ ਕਿਸੇ ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਨੈਵੀਗੇਟ ਕਰਨ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ structure.md ਲੋਡ ਕਰੋ।
- ਜੇਕਰ ਤੁਹਾਨੂੰ ਸੈਸ਼ਨ ਖਤਮ ਕਰਨ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ workflows.md ਲੋਡ ਕਰੋ।
- ਜੇਕਰ ਤੁਹਾਡਾ ਕੋਈ ਤੇਜ਼ ਸਵਾਲ ਹੈ, ਤਾਂ ਕੁਝ ਹੋਰ ਲੋਡ ਨਾ ਕਰੋ।
ਨਤੀਜੇ ਸਪੱਸ਼ਟ ਸਨ। ਮੇਰਾ ਬੇਸਲਾਈਨ ਟੋਕਨ ਲੋਡ 4,800 ਟੋਕਨਾਂ ਤੋਂ ਘਟ ਕੇ 1,450 ਟੋਕਨਾਂ 'ਤੇ ਆ ਗਿਆ। ਇਹ 70% ਦੀ ਕਮੀ ਹੈ।
ਟੀਚਾ ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਛੋਟਾ ਕਰਨਾ ਨਹੀਂ ਹੈ। ਟੀਚਾ ਬੇਸਲਾਈਨ ਲੋਡ (baseline load) ਨੂੰ ਆਨ-ਡਿਮਾਂਡ ਲੋਡ (on-demand load) ਤੋਂ ਵੱਖ ਕਰਨਾ ਹੈ।
ਬੇਸਲਾਈਨ ਲੋਡ ਉਹ ਹੈ ਜਿਸ ਲਈ ਤੁਸੀਂ ਹਰ ਵਾਰ ਭੁਗਤਾਨ ਕਰਦੇ ਹੋ। ਤੁਹਾਨੂੰ ਇਸ ਨੂੰ ਬਹੁਤ ਛੋਟਾ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ। ਆਨ-ਡਿਮਾਂਡ ਲੋਡ ਉਹ ਹੈ ਜੋ ਤੁਸੀਂ ਉਦੋਂ ਹੀ ਲੋਡ ਕਰਦੇ ਹੋ ਜਦੋਂ ਇਹ ਮਹੱਤਵਪੂਰਨ ਹੁੰਦਾ ਹੈ। ਇਹ ਵੱਡਾ ਅਤੇ ਵਿਸਤ੍ਰਿਤ ਹੋ ਸਕਦਾ ਹੈ।
ਇਸ ਪਹੁੰਚ ਦੇ ਕੁਝ ਨੁਕਸਾਨ (trade-offs) ਵੀ ਹਨ। ਤੁਸੀਂ ਕੁਸ਼ਲਤਾ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹੋ ਪਰ ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਰਾਊਟ ਕਰਨ ਦੇ ਤਰੀਕੇ ਵਿੱਚ ਗੁੰਝਲਦਾਰਤਾ ਵਧ ਜਾਂਦੀ ਹੈ। ਤੁਹਾਨੂੰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਅਸਿਸਟੈਂਟ ਭਰੋਸੇਯੋਗ ਤਰੀਕੇ ਨਾਲ ਮੋਡਿਊਲਾਂ ਤੱਕ ਪਹੁੰਚ ਕਰ ਸਕੇ।
ਜੇਕਰ ਤੁਹਾਡੇ ਨਿਰਦੇਸ਼ ਛੋਟੇ ਹਨ, ਤਾਂ ਅਜਿਹਾ ਨਾ ਕਰੋ। ਇਹ ਸਮੇਂ ਦੀ ਬਰਬਾਦੀ ਹੈ। ਜੇਕਰ ਤੁਹਾਡਾ ਨਿਰਦੇਸ਼ ਸੈੱਟ ਬਹੁਤ ਵੱਡਾ ਹੈ ਅਤੇ ਵਧ ਰਿਹਾ ਹੈ, ਤਾਂ ਇਸ ਨੂੰ ਤੁਰੰਤ ਕਰੋ।
ਅਸਿਸਟੈਂਟ ਨੂੰ ਬੇਲੋੜਾ ਭਾਰ ਚੁੱਕਣ ਲਈ ਮਜਬੂਰ ਕਰਨਾ ਬੰਦ ਕਰੋ। ਅਪ੍ਰਸੰਗਿਕ ਨਿਰਦੇਸ਼ਾਂ ਤੋਂ ਮਾਹੌਲ ਨੂੰ ਸਾਫ਼ ਰੱਖੋ।
ਵਿਕਲਪਿਕ ਲਰਨਿੰਗ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi