ਇੱਕ ਆਟੋਨੋਮਸ AI ਏਜੰਟ ਨੇ ਲਗਭਗ ਵੀਹ ਮਿੰਟਾਂ ਵਿੱਚ ਇੱਕ ਮੁਕੰਮਲ Retrieval-Augmented Generation (RAG) ਸਟੈਕ ਤਿਆਰ ਕੀਤਾ ਅਤੇ ਮਨੁੱਖੀ ਕੋਡ ਦੀ ਇੱਕ ਵੀ ਲਾਈਨ ਲਿਖੇ ਬਿਨਾਂ ਇੱਕ ਡਰਾਫਟ ਪੁੱਲ ਰਿਕਵੈਸਟ (pull request) ਖੋਲ੍ਹ ਦਿੱਤੀ।

“ਲੂਪ” (loop) ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਇੱਕ RAG ਸਟੈਕ ਬਣਾਉਣ ਦਾ ਮਤਲਬ ਆਮ ਤੌਰ 'ਤੇ ਇੱਕ ਸਰਚ ਇੰਜਣ, ਇੱਕ ਐਂਬੈਡਿੰਗ ਮਾਡਲ, ਇੱਕ ਲੈਂਗੂਏਜ ਮਾਡਲ ਅਤੇ ਗਲੂ ਕੋਡ (glue code) ਨੂੰ ਆਪਸ ਵਿੱਚ ਜੋੜਨਾ ਹੁੰਦਾ ਹੈ। ਡਿਵੈਲਪਰ Helm ਚਾਰਟਾਂ ਨੂੰ ਠੀਕ ਕਰਨ, ਅਥੈਂਟੀਕੇਸ਼ਨ (auth) ਦੀਆਂ ਖਾਮੀਆਂ ਨੂੰ ਸੁਧਾਰਨ ਅਤੇ ਗਲਤ ਮਾਡਲ ਨਾਮਾਂ ਨੂੰ ਲੱਭਣ ਵਿੱਚ ਘੰਟਿਆਂ ਬਰਬਾਦ ਕਰਦੇ ਹਨ। ਇਸ ਟੈਸਟ ਵਿੱਚ, ਆਟੋਨੋਮਸ ਏਜੰਟ ਨੇ ਪੰਜ-ਪੜਾਵੀ ਲੂਪ ਦੀ ਪਾਲਣਾ ਕੀਤੀ ਜੋ ਕੋਡ ਲਿਖਣ ਤੋਂ ਪਹਿਲਾਂ ਮਨੁੱਖ-ਏਜੰਟ ਸਮਝੌਤੇ (agreement) ਨੂੰ ਲਾਜ਼ਮੀ ਬਣਾਉਂਦਾ ਹੈ।

ਪੜਾਅ ਕੀ ਹੁੰਦਾ ਹੈ
ਪ੍ਰਸਤਾਵ (Proposal) ਏਜੰਟ ਪ੍ਰੋਂਪਟ ਪੜ੍ਹਦਾ ਹੈ ਅਤੇ ਇੱਕ ਵਿਸ਼ੇਸ਼ ਯੋਜਨਾ ਤਿਆਰ ਕਰਦਾ ਹੈ, ਪਰ ਅਜੇ ਕੋਡ ਨਹੀਂ ਬਣਾਉਂਦਾ।
ਸਮਝੌਤਾ (Agreement) ਉਪਭੋਗਤਾ ਯੋਜਨਾ ਦੀ ਸਮੀਖਿਆ ਕਰਦਾ ਹੈ, ਇਸ ਨੂੰ ਪ੍ਰਵਾਨ ਕਰਦਾ ਹੈ ਜਾਂ ਬਦਲਾਅ ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ।
ਲਾਗੂ ਕਰਨਾ (Implementation) ਏਜੰਟ ਇੱਕ ਨਵੀਂ ਬ੍ਰਾਂਚ 'ਤੇ ਫੀਚਰ ਬਣਾਉਂਦਾ ਹੈ।
ਡਰਾਫਟ ਗੇਟ (Draft Gate) ਏਜੰਟ ਆਪਣੀ ਲਿੰਟਿੰਗ (linting) ਅਤੇ ਟੈਸਟ ਸੂਟ ਚਲਾਉਂਦਾ ਹੈ, ਅਤੇ ਲੱਭੀਆਂ ਗਈਆਂ ਗਲਤੀਆਂ ਨੂੰ ਸੁਧਾਰਦਾ ਹੈ।
ਡਰਾਫਟ PR (Draft PR) ਕੋਡ ਨੂੰ ਪੁਸ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਅਤੇ ਅੰਤਿਮ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਲਈ ਇੱਕ ਪੁੱਲ ਰਿਕਵੈਸਟ ਖੋਲ੍ਹੀ ਜਾਂਦੀ ਹੈ।

ਜ਼ਿਆਦਾਤਰ AI-ਸਹਾਇਤਾ ਪ੍ਰਾਪਤ ਕੋਡਿੰਗ ਟੂਲ ਸਿੱਧੇ ਲਾਗੂ ਕਰਨ (implementation) ਵੱਲ ਵਧਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਅਕਸਰ ਅਜਿਹਾ ਕੋਡ ਬਣਦਾ ਹੈ ਜੋ ਉਦੇਸ਼ ਤੋਂ ਭਟਕ ਜਾਂਦਾ ਹੈ। ਇੱਕ ਸਪਸ਼ਟ ਸਮਝੌਤੇ ਦੇ ਪੜਾਅ ਨੂੰ ਜੋੜ ਕੇ, ਇਹ ਲੂਪ ਅੰਨ੍ਹੇਵਾਹ ਕਾਰਵਾਈ ਨੂੰ ਰੋਕਦਾ ਹੈ ਅਤੇ ਕਿਸੇ ਵੀ ਕਮਿਟ (commit) ਤੋਂ ਪਹਿਲਾਂ ਉਪਭੋਗਤਾ ਨੂੰ ਪ੍ਰੋਜੈਕਟ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ।

ਤਿਆਰ ਹੋਇਆ ਸਟੈਕ

ਵੀਹ ਮਿੰਟਾਂ ਵਿੱਚ, ਏਜੰਟ ਨੇ ਇੱਕ ਪ੍ਰੋਡਕਸ਼ਨ-ਰੈਡੀ RAG ਪਾਈਪਲਾਈਨ ਤਿਆਰ ਕੀਤੀ:

  • OpenSearch 3.7 ਹਾਈਬ੍ਰਿਡ ਸਰਚ (vector + keyword) ਲਈ ਕੌਂਫਿਗਰ ਕੀਤਾ ਗਿਆ।
  • Local Ollama LLM ਜੋ ਰਿਟ੍ਰੀਵਲ-ਅਗਮੈਂਟਡ (retrieval-augmented) ਜਵਾਬਾਂ ਲਈ ਜਨਰੇਟਿਵ ਇੰਜਣ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਹੈ।
  • FastMCP server ਜੋ ਲੈਂਗੂਏਜ ਮਾਡਲ ਨੂੰ ਚਾਰ ਕਸਟਮ ਟੂਲ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ।
  • Skaffold ਅਤੇ Helm ਸਕ੍ਰਿਪਟਾਂ ਜੋ ਕੰਟੇਨਰ ਬਿਲਡ, Kubernetes ਮੈਨੀਫੈਸਟ ਅਤੇ ਸਰਵਿਸ ਡਿਪਲਾਈਮੈਂਟ ਨੂੰ ਆਟੋਮੇਟ ਕਰਦੀਆਂ ਹਨ।

ਪਾਈਪਲਾਈਨ ਵਿੱਚ ਤੀਹ ਆਰਟੀਕਲ ਪਾਏ ਗਏ ਸਨ, ਜਿਸ ਨਾਲ ਐਂਡ-ਟੂ-ਐਂਡ ਰਿਟ੍ਰੀਵਲ ਅਤੇ ਜਨਰੇਸ਼ਨ ਦੀ ਤੁਰੰਤ ਜਾਂਚ ਕੀਤੀ ਜਾ ਸਕੀ। ਇੱਕ ਡਿਵੈਲਪਰ ਨੂੰ ਆਮ ਤੌਰ 'ਤੇ ਹਰੇਕ ਕੰਪੋਨੈਂਟ ਨੂੰ ਕੌਂਫਿਗਰ ਕਰਨ ਵਿੱਚ ਪੂਰਾ ਦਿਨ ਲੱਗ ਜਾਂਦਾ ਹੈ; ਇਹ ਰਫ਼ਤਾਰ ਹੈਰਾਨੀਜਨਕ ਹੈ।

ਉਹ ਬੱਗ (bugs) ਜਿਨ੍ਹਾਂ ਨੇ ਇਸਨੂੰ ਲਗਭਗ ਵਿਗਾੜ ਦਿੱਤਾ ਸੀ

ਏਜੰਟ ਦੇ ਆਤਮ-ਵਿਸ਼ਵਾਸ ਦੀ ਪਰਖ ਪੰਜ ਵੱਖ-ਵੱਖ ਅਸਫਲਤਾਵਾਂ ਦੁਆਰਾ ਕੀਤੀ ਗਈ, ਜੋ ਆਮ ਤੌਰ 'ਤੇ ਮਨੁੱਖ ਦੁਆਰਾ ਚਲਾਏ ਜਾ ਰਹੇ ਡਿਪਲਾਈਮੈਂਟ ਨੂੰ ਰੋਕ ਸਕਦੀਆਂ ਹਨ:

  1. OpenSearch ਕ੍ਰੈਡੈਂਸ਼ੀਅਲ ਗਲਤੀਆਂ – ਏਜੰਟ ਨੇ ਗਲਤ ਸੀਕਰੇਟ ਕੀ (secret key) ਦਿੱਤੀ, ਜਿਸ ਕਾਰਨ ਕਲੱਸਟਰ ਨੇ ਕਨੈਕਸ਼ਨਾਂ ਨੂੰ ਰੱਦ ਕਰ ਦਿੱਤਾ।
  2. URL ਵਿੱਚ Regex ਟਾਈਪੋ – ਇੱਕ ਗਲਤ ਅੱਖਰ ਨੇ ਇੱਕ ਵੈਧ ਐਂਡਪੁਆਇੰਟ ਨੂੰ ਇੱਕ ਡੈੱਡ ਲਿੰਕ ਵਿੱਚ ਬਦਲ ਦਿੱਤਾ, ਜਿਸ ਨਾਲ ਡਾਟਾ ਲੋਡਰ ਖਰਾਬ ਹੋ ਗਿਆ।
  3. ਮਾਡਲ ਦੇ ਨਾਮ ਵਿੱਚ ਗਲਤੀ – ਕਨੈਕਟਰ ਇੱਕ ਵੱਖਰੇ Ollama ਮਾਡਲ ਆਈਡੈਂਟੀਫਾਇਰ ਦੀ ਉਮੀਦ ਕਰ ਰਿਹਾ ਸੀ, ਜਿਸ ਨਾਲ “model not found” ਦੀਆਂ ਗਲਤੀਆਂ ਆਈਆਂ।
  4. JVM ਮੈਮੋਰੀ ਸੀਮਾਵਾਂ – ਬਲਕ ਇੰਡੈਕਸਿੰਗ ਨੇ Java heap ਨੂੰ ਖਤਮ ਕਰ ਦਿੱਤਾ, ਜਿਸ ਨਾਲ out-of-memory ਕ੍ਰੈਸ਼ ਹੋ ਗਏ।
  5. ਮਾਡਲ ਚੰਕਸ (chunks) ਦਾ ਅਚਾਨਕ ਡਿਲੀਟ ਹੋਣਾ – ਇੱਕ ਕਲੀਨਅੱਪ ਸਕ੍ਰਿਪਟ ਨੇ ਜ਼ਰੂਰੀ ਫਾਈਲਾਂ ਨੂੰ ਡੁਪਲੀਕੇਟ ਸਮਝ ਕੇ ਡਿਲੀਟ ਕਰ ਦਿੱਤਾ, ਜਿਸ ਨਾਲ ਪੂਰੀ ਪਾਈਪਲਾਈਨ ਨੂੰ ਖਤਰਾ ਪੈਦਾ ਹੋ ਗਿਆ।

ਜਦੋਂ ਏਜੰਟ ਫਸ ਗਿਆ, ਤਾਂ “loop-police” ਨੇ ਕੰਮ ਸੰਭਾਲਿਆ

loop-police ਨਾਮ ਦਾ ਇੱਕ ਸਾਥੀ ਵਾਚਡੌਗ (watchdog) ਲੂਪ ਦੀ ਸਿਹਤ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦਾ ਹੈ। ਜਦੋਂ ਡਿਲੀਸ਼ਨ ਬੱਗ ਦੌਰਾਨ ਏਜੰਟ ਇੱਕ ਅਣ-ਸਮਾਪਤ ਚੱਕਰ (non-terminating cycle) ਵਿੱਚ ਫਸ ਗਿਆ, ਤਾਂ loop-police ਨੇ ਰੁਕਾਵਟ ਦਾ ਪਤਾ ਲਗਾਇਆ, ਮੌਜੂਦਾ ਬ੍ਰਾਂਚ ਨੂੰ ਰੱਦ ਕਰ ਦਿੱਤਾ, ਅਤੇ ਵਾਪਸ ਸਮਝੌਤੇ (Agreement) ਦੇ ਪੜਾਅ ਵੱਲ ਜਾਣ ਲਈ ਮਜਬੂਰ ਕੀਤਾ। ਫਿਰ ਏਜੰਟ ਨੇ ਆਪਣੀ ਗਲਤੀ ਨੂੰ ਮੰਨਿਆ, ਖਰਾਬ ਹੋਈ ਸਥਿਤੀ ਨੂੰ ਸਾਫ਼ ਕੀਤਾ, ਅਤੇ ਪਾਈਪਲਾਈਨ ਨੂੰ ਸ਼ੁਰੂ ਤੋਂ ਮੁੜ ਬਣਾਇਆ। ਇਹ ਸਵੈ-ਸੁਧਾਰ ਚੱਕਰ (self-healing cycle) ਸ਼ੁਰੂਆਤੀ ਯੋਜਨਾ ਦੀ ਪ੍ਰਵਾਨਗੀ ਤੋਂ ਇਲਾਵਾ ਕਿਸੇ ਵੀ ਮਨੁੱਖੀ ਦਖਲਅੰਦਾਜ਼ੀ ਤੋਂ ਬਿਨਾਂ ਪੂਰਾ ਹੋ ਗਿਆ।

ਡਿਵੈਲਪਰਾਂ ਲਈ ਇਸਦਾ ਕੀ ਮਤਲਬ ਹੈ

  • ਕੰਟਰੋਲ ਨੂੰ ਕੁਰਬਾਨ ਕੀਤੇ ਬਿਨਾਂ ਰਫ਼ਤਾਰ। ਲੂਪ ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ ਆਪਣਾ ਇਰਾਦਾ ਦੱਸਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ, ਅਤੇ ਫਿਰ ਕਾਰਜਵਿਧੀਆਂ ਨੂੰ ਇੱਕ ਆਟੋਨੋਮਸ ਸਿਸਟਮ ਨੂੰ ਸੌਂਪ ਦਿੰਦਾ ਹੈ ਜੋ ਅਜੇ ਵੀ ਮਨੁੱਖ ਦੁਆਰਾ ਪ੍ਰਵਾਨਿਤ ਨਕਸ਼ੇ (blueprint) ਦੀ ਪਾਲਣਾ ਕਰਦਾ ਹੈ।
  • ਇਨ-ਬਿਲਟ ਸੁਰੱਖਿਆ ਜਾਲ। ਆਟੋਮੇਟਡ ਲਿੰਟਿੰਗ, ਟੈਸਟਿੰਗ, ਅਤੇ ਇੱਕ ਵਾਚਡੌਗ ਜੋ ਲਗਾਤਾਰ ਚੱਲ ਰਹੇ ਲੂਪ ਨੂੰ ਰੋਕ ਸਕਦਾ ਹੈ, ਚੁੱਪਚਾਪ ਹੋਣ ਵਾਲੀਆਂ ਅਸਫਲਤਾਵਾਂ ਦੇ ਜੋਖਮ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ।
  • ਸ਼ੁਰੂਆਤ ਕਰਨ ਵਿੱਚ ਆਸਾਨੀ। ਉਹ ਟੀਮਾਂ ਜਿਨ੍ਹਾਂ ਕੋਲ Helm, Kubernetes, ਜਾਂ ਵੈਕਟਰ-ਸਰਚ ਦੀ ਡੂੰਘੀ ਮੁਹਾਰਤ ਨਹੀਂ ਹੈ, ਉਹ ਸਧਾਰਨ ਭਾਸ਼ਾ ਵਿੱਚ ਆਪਣੀ ਲੋੜ ਦੱਸ ਕੇ ਇੱਕ ਕਾਰਜਸ਼ੀਲ ਸਟੈਕ ਤਿਆਰ ਕਰ ਸਕਦੀਆਂ ਹਨ