ਪ੍ਰੋਡਕਸ਼ਨ ਵਿੱਚ AI Agents ਚਲਾਉਣ ਵੇਲੇ ਮੈਂ ਕੀ ਸਿੱਖਿਆ

ਮੈਂ AI ਸਿਸਟਮ ਬਣਾਉਂਦਾ ਹਾਂ। ਮੈਂ ਉਨ੍ਹਾਂ ਇੰਜੀਨੀਅਰਾਂ ਨਾਲ ਗੱਲ ਕਰਦਾ ਹਾਂ ਜੋ ਕੋਡ ਸ਼ਿਪ ਕਰਦੇ ਹਨ। ਚਮਕਦਾਰ ਡੈਮੋਜ਼ ਅਤੇ ਅਸਲ ਪ੍ਰੋਡਕਸ਼ਨ ਸਿਸਟਮਾਂ ਵਿਚਕਾਰ ਇੱਕ ਪਾੜਾ ਹੈ।

ਲੋਕ ਹੁਣ ਹਰ ਚੀਜ਼ ਨੂੰ ਏਜੰਟ ਕਹਿੰਦੇ ਹਨ। ਇੱਕ ਲੂਪ ਵਾਲਾ ਸਕ੍ਰਿਪਟ ਇੱਕ ਏਜੰਟ ਹੈ। ਮੈਮੋਰੀ ਵਾਲਾ ਚੈਟਬੋਟ ਇੱਕ ਏਜੰਟ ਹੈ। ਇਹ ਗਲਤੀ ਮਾੜੀ ਇੰਜੀਨੀਅਰਿੰਗ ਵੱਲ ਲੈ ਜਾਂਦੀ ਹੈ।

ਟੀਮਾਂ ਸਧਾਰਨ ਕੰਮਾਂ ਲਈ ਬਹੁਤ ਜ਼ਿਆਦਾ ਇੰਜੀਨੀਅਰਿੰਗ (over-engineer) ਕਰਦੀਆਂ ਹਨ। ਉਹ ਅਜਿਹੇ ਵਰਕਫਲੋਜ਼ ਵਿੱਚ ਗੁੰਝਲਦਾਰ ਆਰਕੈਸਟ੍ਰੇਸ਼ਨ ਜੋੜ ਦਿੰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਸਿਰਫ਼ ਇੱਕ ਚੰਗੇ ਪ੍ਰੋਂਪਟ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਇੱਕ ਏਜੰਟ ਦਾ ਇੱਕ ਉਦੇਸ਼ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ, ਨਾ ਕਿ ਸਿਰਫ਼ ਇੱਕ ਨਿਰਦੇਸ਼। ਇਸ ਨੂੰ ਫੈਸਲਾ ਲੈਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਅੱਗੇ ਕੀ ਕਰਨਾ ਹੈ। ਇਸ ਨੂੰ ਅਸਫਲਤਾ ਨੂੰ ਸੰਭਾਲਣਾ ਚਾਹੀਦਾ ਹੈ। ਇਸ ਨੂੰ ਪਤਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਇਹ ਕਦੋਂ ਖਤਮ ਹੋ ਗਿਆ ਹੈ।

ਬਾਕੀ ਸਭ ਕੁਝ ਸਿਰਫ਼ ਇੱਕ ਫੰਕਸ਼ਨ ਕਾਲ ਹੈ।

• ਜੇਕਰ ਇੱਕ ਇਨਸਾਨ ਨੂੰ ਹਰ ਕਦਮ 'ਤੇ ਮਾਰਗਦਰਸ਼ਨ ਕਰਨਾ ਪਵੇ, ਤਾਂ ਇਹ ਇੱਕ ਚੈਟ ਇੰਟਰਫੇਸ ਹੈ। • ਜੇਕਰ ਕੋਈ ਸਿਸਟਮ ਫੇਲ ਹੋਏ ਟੂਲ ਕਾਲ ਤੋਂ ਉਭਰਦਾ ਹੈ, ਤਾਂ ਇਹ ਇੱਕ ਏਜੰਟ ਹੈ। • ਜੇਕਰ ਕੋਈ ਸਿਸਟਮ ਕਿਸੇ ਟੀਚੇ ਨੂੰ ਉਪ-ਕੰਮਾਂ (subtasks) ਵਿੱਚ ਵੰਡਦਾ ਹੈ, ਤਾਂ ਇਹ ਇੱਕ ਅਸਲੀ ਏਜੰਟ ਹੈ।

ਅਸਲੀ ਏਜੰਟ ਡਿਪਲੋਇਮੈਂਟਸ ਸੀਮਤ ਹੁੰਦੇ ਹਨ। ਉਹ ਇੱਕ ਕੰਮ ਚੰਗੀ ਤਰ੍ਹਾਂ ਕਰਦੇ ਹਨ ਜਿਵੇਂ ਕਿ ਡਾਕੂਮੈਂਟ ਐਕਸਟਰੈਕਸ਼ਨ ਜਾਂ ਕੋਡ ਰਿਵਿਊ। ਉਹ ਆਮ ਰੀਜ਼ਨਿੰਗ ਇੰਜਣ ਨਹੀਂ ਹਨ।

ਸਫਲ ਟੀਮਾਂ ਤਿੰਨ ਚੀਜ਼ਾਂ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦੀਆਂ ਹਨ:

  • ਟੂਲ ਡਿਜ਼ਾਈਨ: ਉਹਨਾਂ ਚੀਜ਼ਾਂ ਲਈ ਸਾਫ਼ ਇੰਟਰਫੇਸ ਜੋ ਏਜੰਟ ਕਾਲ ਕਰਦਾ ਹੈ।
  • ਫੇਲ੍ਹਰ ਹੈਂਡਲਿੰਗ: ਜਦੋਂ ਕੋਈ ਟੂਲ ਕੁਝ ਵੀ ਵਾਪਸ ਨਹੀਂ ਦਿੰਦਾ ਤਾਂ ਕੀ ਹੁੰਦਾ ਹੈ।
  • ਅਬਜ਼ਰਵੇਬਿਲਟੀ (Observability): ਇਸ ਗੱਲ ਦਾ ਪਤਾ ਲਗਾਉਣਾ ਕਿ ਏਜੰਟ ਨੇ ਕੋਈ ਖਾਸ ਫੈਸਲਾ ਕਿਉਂ ਲਿਆ।

LangChain ਜਾਂ CrewAI ਵਰਗੇ ਫਰੇਮਵਰਕ ਹਰ ਮਹੀਨੇ ਬਦਲਦੇ ਹਨ। ਫਰੇਮਵਰਕ ਨਾਲੋਂ ਪੈਟਰਨ ਜ਼ਿਆਦਾ ਮਹੱਤਵਪੂਰਨ ਹਨ।

ਸਫਲ ਹੋਣ ਲਈ ਇਹਨਾਂ ਪੈਟਰਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰੋ:

  • ਪਹਿਲਾਂ ਯੋਜਨਾ ਬਣਾਓ ਫਿਰ ਲਾਗੂ ਕਰੋ: ਯੋਜਨਾਬੰਦੀ ਲਈ ਇੱਕ ਕਦਮ ਅਤੇ ਲਾਗੂ ਕਰਨ ਲਈ ਇੱਕ ਵੱਖਰਾ ਕਦਮ ਵਰਤੋ।
  • ਰਿਟ੍ਰੀਵਲ (retrieval) ਨੂੰ ਰੀਜ਼ਨਿੰਗ (reasoning) ਤੋਂ ਵੱਖ ਕਰੋ: ਕੰਟੈਕਸਟ ਪ੍ਰਾਪਤ ਕਰਨਾ ਅਤੇ ਕੰਟੈਕਸਟ ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਵੱਖ-ਵੱਖ ਕੰਮ ਹਨ।
  • ਸਪਸ਼ਟ ਹੈਂਡਆਫ (handoffs): ਜਦੋਂ ਇੱਕ ਏਜੰਟ ਦੂਜੇ ਨੂੰ ਕੰਮ ਸੌਂਪਦਾ ਹੈ ਤਾਂ ਸਟ੍ਰਕਚਰਡ ਲੌਗਸ ਦੀ ਵਰਤੋਂ ਕਰੋ।

RAG ਇੱਕ ਮਿਆਰਤ ਹੈ, ਪਰ ਜ਼ਿਆਦਾਤਰ ਲੋਕ ਚੰਕਿੰਗ (chunking) ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ। ਜੇਕਰ ਤੁਸੀਂ ਟੈਕਸਟ ਨੂੰ ਮਾੜੇ ਤਰੀਕੇ ਨਾਲ ਵੰਡਦੇ ਹੋ, ਤਾਂ ਮਾਡਲ ਕੰਟੈਕਸਟ ਗੁਆ ਲੈਂਦਾ ਹੈ। ਜੇਕਰ ਤੁਹਾਡੇ RAG ਨਤੀਜੇ ਬੇਕਾਰ ਹਨ, ਤਾਂ ਮਾਡਲ ਨੂੰ ਦੋਸ਼ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ ਆਪਣੀ ਮੈਟਾਡਾਟਾ ਅਤੇ ਚੰਕਿੰਗ ਰਣਨੀਤੀ ਦੀ ਜਾਂਚ ਕਰੋ।

ਮਾਡਲ ਬਿਹਤਰ ਅਤੇ ਸਸਤੇ ਹੁੰਦੇ ਜਾਣਗੇ। ਇਹ ਮੁੱਖ ਇੰਜੀਨੀਅਰਿੰਗ ਚੁਣੌਤੀ ਨੂੰ ਨਹੀਂ ਬਦਲਦਾ। ਤੁਹਾਨੂੰ ਅਜਿਹੇ ਸਿਸਟਮ ਬਣਾਉਣੇ ਚਾਹੀਦੇ ਹਨ ਜੋ ਤੁਹਾਡੇ ਦੇਖਣ ਵੇਲੇ ਨਾ ਹੋਣ 'ਤੇ ਵੀ ਸਹੀ ਤਰ੍ਹਾਂ ਕੰਮ ਕਰਨ।

ਗਵਰਨੈਂਸ ਅਤੇ ਅਬਜ਼ਰਵੇਬਿਲਟੀ 'ਤੇ ਧਿਆਨ ਦਿਓ। ਉਹ ਇੰਜੀਨੀਅਰ ਮਹੱਤਵਪੂਰਨ ਹੋਣਗੇ ਜੋ ਅਜਿਹੇ ਸਿਸਟਮ ਬਣਾਉਂਦੇ ਹਨ ਜਿਨ੍ਹਾਂ 'ਤੇ ਦੂਸਰੇ ਭਰੋਸਾ ਕਰ ਸਕਣ। ਇਹ ਸਿਸਟਮ ਡਿਜ਼ਾਈਨ ਹੈ, ਮਾਡਲ ਰਿਸਰਚ ਨਹੀਂ।

ਸਰੋਤ: https://dev.to/aibughunter/what-i-learned-after-running-ai-agents-in-production-for-a-year-49n