ਤੁਹਾਡੀ ਟੀਮ ਨੂੰ ਇਸ ਹਫ਼ਤੇ ਕਿਸੇ ਬਿਹਤਰ AI ਮਾਡਲ ਦੀ ਲੋੜ ਨਹੀਂ ਹੈ
ਨਵੇਂ AI ਮਾਡਲਾਂ ਦੀ ਖਰੀਦਦਾਰੀ ਕਰਨਾ ਬੰਦ ਕਰੋ। ਤੁਹਾਨੂੰ ਜਿਸ ਅਸਲ ਅੱਪਗ੍ਰੇਡ ਦੀ ਲੋੜ ਹੈ, ਉਹ ਤੁਹਾਡਾ ਵਰਕਫਲੋ (workflow) ਹੈ।
ਜ਼ਿਆਦਾਤਰ ਟੀਮਾਂ ਇਸ ਗੱਲ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦੀਆਂ ਹਨ ਕਿ ਕਿਹੜਾ ਮਾਡਲ ਜ਼ਿਆਦਾ ਸਮਾਰਟ ਲੱਗਦਾ ਹੈ। ਉਹ ਨਵੇਂ ਰਿਲੀਜ਼ਾਂ ਦਾ ਬੈਂਚਮਾਰਕ ਕਰਦੇ ਹਨ ਅਤੇ ਬੁੱਧੀਮਾਨਤਾ ਬਾਰੇ ਬਹਿਸ ਕਰਦੇ ਹਨ। ਪਰ ਜੇਕਰ ਤੁਸੀਂ LLMs ਨਾਲ ਬਿਲਡ ਕਰਦੇ ਹੋ, ਤਾਂ ਤੁਸੀਂ ਅਸਲ ਦਰਦ ਜਾਣਦੇ ਹੋ। ਸਮੱਸਿਆ ਖਰਾਬ ਕੋਡ ਦੀ ਨਹੀਂ ਹੈ। ਸਮੱਸਿਆ ਖਰਾਬ ਐਗਜ਼ੀਕਿਊਸ਼ਨ (execution) ਦੀ ਹੈ।
ਤੁਸੀਂ ਇਹਨਾਂ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਦੇਖਦੇ ਹੋ:
- ਏਜੰਟ ਲੂਪਸ (Agent loops) ਜੋ ਕਿਸੇ ਕੰਮ ਦੇ ਅੱਧ ਵਿਚਕਾਰ ਹੀ ਰੁਕ ਜਾਂਦੇ ਹਨ।
- ਅਪਰੂਵਲ ਪ੍ਰੋਂਪਟਸ (Approval prompts) ਜੋ ਲੋਕਾਂ ਨੂੰ ਉਲਝਣ ਵਿੱਚ ਪਾ ਦਿੰਦੇ ਹਨ।
- ਕੰਟੈਕਸ ਚੇਨਾਂ (Context chains) ਜੋ ਰੀਟ੍ਰਾਈਜ਼ (retries) ਦੌਰਾਨ ਟੁੱਟ ਜਾਂਦੀਆਂ ਹਨ।
- ਮਨੁੱਖਾਂ ਦੁਆਰਾ ਸਫਾਈ ਕਰਨਾ ਕਿਉਂਕਿ ਆਟੋਮੇਸ਼ਨ ਨੇ ਆਪਣੀ ਸਟੇਟ (state) ਗੁਆ ਦਿੱਤੀ।
ਬੁੱਧੀਮਾਨਤਾ ਵਧ ਰਹੀ ਹੈ, ਪਰ ਕਾਰਜਸ਼ੀਲ ਕੰਟਰੋਲ (operational control) ਪਿੱਛੇ ਰਹਿ ਗਿਆ ਹੈ। ਅਸੀਂ 'ਆਰਕੈਸਟ੍ਰੇਸ਼ਨ ਟੈਕਸ' (orchestration tax) ਦੇ ਯੁੱਗ ਵਿੱਚ ਪ੍ਰਵੇਸ਼ ਕਰ ਰਹੇ ਹਾਂ। ਜੇਕਰ ਤੁਸੀਂ ਇਸ ਦੀ ਯੋਜਨਾ ਨਹੀਂ ਬਣਾਉਂਦੇ, ਤਾਂ ਤੁਸੀਂ ਇਸ ਦੀ ਕੀਮਤ ਆਊਟੇਜਾਂ (outages) ਅਤੇ ਚੁੱਪਚਾਪ ਹੋਣ ਵਾਲੀਆਂ ਅਸਫਲਤਾਵਾਂ ਨਾਲ ਚੁਕਾਉਂਦੇ ਹੋ।
AI ਆਊਟਪੁੱਟ ਸ਼ਾਇਦ ਹੀ ਅੰਤਿਮ ਉਤਪਾਦ ਹੁੰਦਾ ਹੈ। ਇਹ ਇੱਕ ਵੱਡੇ ਸਿਸਟਮ ਵਿੱਚ ਇੱਕ ਵਿਚਕਾਰਲਾ ਕਦਮ ਹੈ। ਤੁਹਾਨੂੰ ਇਹਨਾਂ ਸਵਾਲਾਂ ਨੂੰ ਹੱਲ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ:
- ਕੀ ਟਾਈਮਆਊਟ ਤੋਂ ਬਾਅਦ ਕੰਮ ਨੂੰ ਦੁਬਾਰਾ ਸ਼ੁਰੂ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ?
- ਕੀ ਅਸੀਂ ਹਰ ਅਪਰੂਵਲ ਦੀ ਆਡਿਟ ਕਰ ਸਕਦੇ ਹਾਂ?
- ਕੀ ਅਸੀਂ ਡੁਪਲੀਕੇਟ ਐਕਸ਼ਨਾਂ ਤੋਂ ਬਿਨਾਂ ਕਦਮਾਂ ਨੂੰ ਦੁਬਾਰਾ ਚਲਾ ਸਕਦੇ ਹਾਂ?
- ਕੀ ਕੋਈ ਮਨੁੱਖ ਕੰਮ ਦੇ ਵਿਚਕਾਰ ਕੰਟਰੋਲ ਸੰਭਾਲ ਸਕਦਾ ਹੈ?
ਸੀਨੀਅਰ ਇੰਜੀਨੀਅਰਾਂ ਨੇ ਇਹਨਾਂ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਸਾਲਾਂ ਪਹਿਲਾਂ ਪੇਮੈਂਟਸ ਅਤੇ ਬੈਕਗ੍ਰਾਊਂਡ ਜੌਬਸ ਵਿੱਚ ਹੱਲ ਕਰ ਲਿਆ ਸੀ। ਅਸੀਂ idempotency keys, checkpoints, ਅਤੇ transaction logs ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਸੀ। AI ਨੇ ਇਹਨਾਂ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਜਨਮ ਨਹੀਂ ਦਿੱਤਾ। ਇਸ ਨੇ ਸਿਰਫ ਇਹਨਾਂ ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਵਾਪਰਨ ਵਿੱਚ ਮਦਦ ਕੀਤੀ ਹੈ।
ਆਪਣਾ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਕੰਟਰੈਕਟ (execution contract) ਚੁਣਨ ਤੋਂ ਪਹਿਲਾਂ ਮਾਡਲ ਨਾ ਚੁਣੋ। ਇਹ ਬਿਨਾਂ ਬ੍ਰੇਕ ਵਾਲੀ ਕਾਰ ਲਈ ਰੇਸਿੰਗ ਇੰਜਣ ਚੁਣਨ ਵਰਗਾ ਹੈ।
ਇਹਨਾਂ ਕਦਮਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਇੱਕ ਭਰੋਸੇਯੋਗ ਵਰਕਫਲੋ ਬਣਾਓ:
AI ਕੰਮ ਨੂੰ ਛੋਟੇ ਕਦਮਾਂ ਵਿੱਚ ਵੰਡੋ ਇੱਕ ਵਿਸ਼ਾਲ ਪ੍ਰੋਂਪਟ ਦੀ ਵਰਤੋਂ ਨਾ ਕਰੋ। ਇਸ ਨੂੰ ਵੰਡੋ: ਕੰਟੈਕਸ ਇਕੱਠਾ ਕਰਨਾ, ਤਬਦੀਲੀ ਦਾ ਪ੍ਰਸਤਾਵ ਦੇਣਾ, ਚੈੱਕ ਕਰਨਾ, ਅਪਰੂਵਲ ਦੀ ਬੇਨਤੀ ਕਰਨਾ, ਅਤੇ ਤਬਦੀਲੀ ਲਾਗੂ ਕਰਨਾ।
ਟਿਕਾਊ ਸਟੋਰੇਜ (durable storage) ਦੀ ਵਰਤੋਂ ਕਰੋ ਸਟੇਟਸ, ਕਦਮਾਂ ਅਤੇ ਕੋਸ਼ਿਸ਼ਾਂ ਦੀ ਗਿਣਤੀ ਨੂੰ ਟ੍ਰੈਕ ਕਰਨ ਲਈ ਡਾਟਾਬੇਸ ਦੀ ਵਰਤੋਂ ਕਰੋ। ਜੇਕਰ ਕੋਈ ਵਰਕਰ ਕ੍ਰੈਸ਼ ਹੋ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਮੈਮੋਰੀ ਦੀ ਬਜਾਏ ਸਟੇਟ ਤੋਂ ਰਿਕਵਰ ਕਰਦੇ ਹੋ।
Idempotency ਨੂੰ ਲਾਗੂ ਕਰੋ ਹਰ ਉਹ ਐਕਸ਼ਨ ਜੋ ਡਾਟਾ ਨੂੰ ਬਦਲਦਾ ਹੈ, ਉਸ ਨੂੰ ਇੱਕ ਸਥਿਰ ਕੀ (key) ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਜੇਕਰ ਕੋਈ ਕਦਮ ਦੋ ਵਾਰ ਚੱਲਦਾ ਹੈ, ਤਾਂ ਨਤੀਜਾ ਉਹੀ ਰਹਿਣਾ ਚਾਹੀਦਾ ਹੈ।
ਟਾਇਰਾਂ (tiers) ਨਾਲ ਇਜਾਜ਼ਤਾਂ ਦਾ ਪ੍ਰਬੰਧਨ ਕਰੋ ਲਗਾਤਾਰ ਅਪਰੂਵਲ ਮੰਗਣਾ ਬੰਦ ਕਰੋ। ਟਾਇਰ ਬਣਾਓ:
- Tier 0: ਸਿਰਫ਼ ਪੜ੍ਹਨ ਵਾਲੇ ਕੰਮ (auto-approved)।
- Tier 1: ਘੱਟ ਜੋਖਮ ਵਾਲੇ ਲਿਖਣ ਦੇ ਕੰਮ (batched approval)।
- Tier 2: ਉੱਚ-ਪ੍ਰਭਾਵ ਵਾਲੇ ਕੰਮ (human checkpoint)।
- ਕਾਰਜਸ਼ੀਲ ਮੈਟ੍ਰਿਕਸ (operational metrics) ਨੂੰ ਟ੍ਰੈਕ ਕਰੋ ਸਿਰਫ਼ ਲੇਟੈਂਸੀ (latency) ਅਤੇ ਲਾਗਤ ਨੂੰ ਦੇਖਣਾ ਬੰਦ ਕਰੋ। ਟਾਈਮਆਊਟ ਰੇਟ, ਰੀਟ੍ਰਾਈ ਸਫਲਤਾ, ਅਤੇ ਰੋਲਬੈਕ ਫ੍ਰੀਕੁਐਂਸੀ ਨੂੰ ਟ੍ਰੈਕ ਕਰੋ।
ਵਧੀਆ AI ਟੀਮਾਂ ਜਾਦੂਈ ਪ੍ਰੋਂਪਟਸ ਬਾਰੇ ਸ਼ਾਨ ਨਹੀਂ ਮਾਰਨਗੀਆਂ। ਉਹ ਬੋਰਿੰਗ, ਟਿਕਾਊ ਅਤੇ ਅਨੁਸਾਰਣਯੋਗ (observable) ਪਾਈਪਲਾਈਨਾਂ ਚਲਾਉਣਗੀਆਂ। ਉਹਨਾਂ ਦੀ ਤਾਕਤ ਮਾਡਲ ਨਹੀਂ ਹੈ। ਉਹਨਾਂ ਦੀ ਤਾਕਤ ਅਨੁਸ਼ਾਸਿਤ ਸਿਸਟਮ ਇੰਜੀਨੀਅਰਿੰਗ ਹੈ।
Source: https://dev.to/chrisbuildsonline/your-team-doesnt-need-a-better-ai-model-this-week-29l4
Optional learning community: https://t.me/GyaanSetuAi