ਆਊਟਰ ਏਜੰਟ ਲੂਪ: 2026 ਵਿੱਚ AI ਸਿਸਟਮ ਬਣਾਉਣਾ
ਸਾਫਟਵੇਅਰ ਇੰਜੀਨੀਅਰਿੰਗ ਬਦਲ ਰਹੀ ਹੈ।
ਸਭ ਤੋਂ ਉਤਪਾਦਕ ਇੰਜੀਨੀਅਰ ਹੁਣ ਮਾਡਲਾਂ ਨੂੰ ਮੈਨੂਅਲੀ ਪ੍ਰੋਂਪਟ ਨਹੀਂ ਕਰਦੇ। ਉਹ ਅਜਿਹੇ ਸਿਸਟਮ ਡਿਜ਼ਾਈਨ ਕਰਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਲਈ ਮਾਡਲਾਂ ਨੂੰ ਪ੍ਰੋਂਪਟ ਕਰਦੇ ਹਨ। ਉਹ ਹਾਰਨੈਸ (harnesses) ਬਣਾਉਂਦੇ ਹਨ। ਉਹ ਲੂਪਸ (loops) ਲਿਖਦੇ ਹਨ।
ਪ੍ਰੋਡਕਸ਼ਨ AI ਬਣਾਉਣ ਲਈ, ਤੁਹਾਨੂੰ ਦੋ ਲੂਪਸ ਵਿਚਕਾਰਲੇ ਅੰਤਰ ਨੂੰ ਸਮਝਣਾ ਚਾਹੀਦਾ ਹੈ:
ਇਨਰ ਲੂਪ (The Inner Loop)
ਇਹ ਮਾਡਲ ਕੰਟੈਕਸਟ (model context) ਦੇ ਅੰਦਰ ਹੁੰਦਾ ਹੈ। LLM ਇੱਕ ਟੂਲ ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ, ਨਤੀਜਾ ਪ੍ਰਾਪਤ ਕਰਦਾ ਹੈ, ਅਤੇ ਉਦੋਂ ਤੱਕ ਦੁਹਰਾਉਂਦਾ ਰਹਿੰਦਾ ਹੈ ਜਦੋਂ ਤੱਕ ਉਸਨੂੰ ਨਹੀਂ ਲੱਗਦਾ ਕਿ ਕੰਮ ਪੂਰਾ ਹੋ ਗਿਆ ਹੈ। ਇਹ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹੈ ਪਰ ਕੰਟੈਕਸਟ ਵਿੰਡੋਜ਼ (context windows) ਅਤੇ ਅਟੈਂਸ਼ਨ ਡ੍ਰਿਫਟ (attention drift) ਦੁਆਰਾ ਸੀਮਤ ਹੈ।
ਆਊਟਰ ਲੂਪ (The Outer Loop)
ਇਹ ਹਾਰਨੈਸ (harness) ਹੈ। ਇਹ ਮਾਡਲ ਕੰਟੈਕਸਟ ਤੋਂ ਬਾਹਰ ਹੁੰਦਾ ਹੈ। ਇਹ ਉਹ ਕੋਡ ਹੈ ਜੋ ਤੁਸੀਂ LLM ਨੂੰ ਲਪੇਟਣ (wrap) ਲਈ ਲਿਖਦੇ ਹੋ। ਇਹ ਫੈਸਲਾ ਕਰਦਾ ਹੈ ਕਿ ਕੰਮ ਵਧੀਆ ਹੈ ਜਾਂ ਨਹੀਂ, ਕੀ ਇਸਨੂੰ ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ (retry) ਦੀ ਲੋੜ ਹੈ, ਜਾਂ ਕੀ ਕਿਸੇ ਇਨਸਾਨ ਨੂੰ ਦਖਲ ਦੇਣਾ ਚਾਹੀਦਾ ਹੈ।
ਇੱਕ ਪ੍ਰੋਡਕਸ਼ਨ-ਗ੍ਰੇਡ ਆਊਟਰ ਲੂਪ ਲਈ ਇਹਨਾਂ ਛੇ ਕੰਪੋਨੈਂਟਸ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ:
- ਟਾਸਕ ਕਿਊਜ਼ (Task Queues): ਕੰਮ ਦੇ ਪ੍ਰਬੰਧਨ ਲਈ Redis ਜਾਂ SQS ਦੀ ਵਰਤੋਂ ਕਰੋ। ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਕ੍ਰੈਸ਼ ਹੋਣ 'ਤੇ ਵੀ ਟਾਸਕ ਬਚੇ ਰਹਿਣ ਅਤੇ ਰੇਟ ਲਿਮਿਟਿੰਗ (rate limiting) ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ।
- ਕੰਟੈਕਸਟ ਬਿਲਡਰਜ਼ (Context Builders): ਇਹ ਸਿਸਟਮ ਪ੍ਰੋਂਪਟ ਅਤੇ ਪਾਬੰਦੀਆਂ (constraints) ਤਿਆਰ ਕਰਦੇ ਹਨ। ਮਾੜਾ ਕੰਟੈਕਸਟ ਮਾੜੇ ਇਟਰੇਸ਼ਨਾਂ (iterations) ਵੱਲ ਲੈ ਜਾਂਦਾ ਹੈ।
- ਸੈਸ਼ਨ ਮੈਨੇਜਮੈਂਟ (Session Management): ਇਹ ਗੱਲਬਾਤ ਦੇ ਇਤਿਹਾਸ ਨੂੰ ਟ੍ਰੈਕ ਕਰਦਾ ਹੈ ਤਾਂ ਜੋ ਏਜੰਟ ਆਪਣੀ ਜਗ੍ਹਾ ਨਾ ਗੁਆਵੇ।
- ਕੰਪਲੀਸ਼ਨ ਸਿਗਨਲਜ਼ (Completion Signals): ਤੁਹਾਨੂੰ ਇਹ ਜਾਣਨ ਲਈ ਇੱਕ ਤਰੀਕੇ ਦੀ ਲੋੜ ਹੈ ਕਿ ਕਦੋਂ ਰੁਕਣਾ ਹੈ। ਮਕੈਨੀਕਲ ਟੈਸਟ, JSON ਪਾਰਸਿੰਗ, ਜਾਂ LLM-as-judge ਦੀ ਵਰਤੋਂ ਕਰੋ।
- ਬਜਟ ਇਨਫੋਰਸਰਜ਼ (Budget Enforcers): ਪੈਸੇ ਬਰਬਾਦ ਕਰਨ ਵਾਲੇ ਅਨੰਤ ਲੂਪਸ (infinite loops) ਤੋਂ ਬਚਣ ਲਈ ਇਟਰੇਸ਼ਨਾਂ ਅਤੇ ਟੋਕਨਾਂ 'ਤੇ ਸਖ਼ਤ ਸੀਮਾਵਾਂ ਸੈੱਟ ਕਰੋ।
- ਕਮਿਟਰਜ਼ (Committers): ਇਹ ਉਹ ਸੀਮਾ ਹੈ ਜੋ ਅੰਤਿਮ ਆਉਟਪੁੱਟ ਨੂੰ ਫਾਈਲ ਜਾਂ ਪੁੱਲ ਰਿਕਵੈਸਟ (pull request) ਵਿੱਚ ਲਿਖਦੀ ਹੈ।
ਉਹਨਾਂ ਕੰਮਾਂ ਲਈ LLM-as-judge ਦੀ ਵਰਤੋਂ ਕਰੋ ਜਿਨ੍ਹਾਂ ਨੂੰ ਟੈਸਟ ਨਹੀਂ ਫੜ ਸਕਦੇ। ਆਪਣੇ ਮਹਿੰਗੇ, ਰੀਜ਼ਨਿੰਗ ਮਾਡਲ ਦੇ ਆਉਟਪੁੱਟ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਇੱਕ ਤੇਜ਼, ਸਸਤਾ ਮਾਡਲ ਵਰਤੋ। ਇਹ ਕੁਸ਼ਲ ਕੰਪਿਊਟ ਅਲੋਕੇਸ਼ਨ (efficient compute allocation) ਹੈ।
ਆਰਕੀਟੈਕਚਰ ਡੈਬਟ ਟ੍ਰੈਪ (architecture debt trap) ਤੋਂ ਸਾਵਧਾਨ ਰਹੋ।
LLMs ਅਕਸਰ try/except ਬਲਾਕਸ ਵਰਗਾ ਡਿਫੈਂਸਿਵ ਕੋਡ ਜੋੜ ਕੇ ਗਲਤੀਆਂ ਨੂੰ ਸੁਧਾਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੇ ਹਨ। ਜੇਕਰ ਕੋਈ ਲੂਪ ਕਈ ਵਾਰ ਚੱਲਦਾ ਹੈ, ਤਾਂ ਇਹ ਤੁਹਾਡੇ ਕੋਡਬੇਸ ਨੂੰ ਮੈਸੀ ਫਾਲਬੈਕਸ (messy fallbacks) ਨਾਲ ਭਰ ਸਕਦਾ ਹੈ। ਇਸ ਦੀ ਬਜਾਏ, ਆਪਣੇ ਏਜੰਟ ਨੂੰ ਮੂਲ ਕਾਰਨ (root cause) ਨੂੰ ਸੁਧਾਰਨ ਅਤੇ ਸਿਸਟਮ ਇਨਵੈਰੀਐਂਟਸ (system invariants) ਨੂੰ ਬਣਾਈ ਰੱਖਣ ਲਈ ਨਿਰਦੇਸ਼ ਦਿਓ।
ਟੀਚਾ ਵੱਧ ਤੋਂ ਵੱਧ ਖੁਦਮੁਖਤਿਆਰੀ (autonomy) ਨਹੀਂ ਹੈ। ਟੀਚਾ ਅਜਿਹੇ ਲੂਪਸ ਬਣਾਉਣਾ ਹੈ ਜੋ ਇਨਸਾਨਾਂ ਦੁਆਰਾ ਰੱਖ-ਰਖਾਅਯੋਗ (maintainable) ਅਤੇ ਸਮਝਣਯੋਗ ਰਹਿਣ।
ਆਪਣੇ ਲੂਪਸ ਨੂੰ ਜਾਣਬੁੱਝ ਕੇ ਬਣਾਓ।
ਵਿਕਲਪਿਕ ਲਰਨਿੰਗ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi