ਇਹ ਵਾਅਦਾ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

AI agents ਨੂੰ ਚੈਟਬੋਟਸ ਤੋਂ ਅਗਲੇ ਕਦਮ ਵਜੋਂ ਵੇਚਿਆ ਜਾਂਦਾ ਹੈ: ਇੱਕ ਅਜਿਹੀ ਪ੍ਰਣਾਲੀ ਜੋ ਵੈੱਬ ਸਰੋਥ ਸਕਦੀ ਹੈ, ਅੰਕੜੇ ਕੱਢ ਸਕਦੀ ਹੈ, ਇੱਕ API ਨੂੰ ਕਾਲ ਕਰ ਸਕਦੀ ਹੈ, ਅਤੇ ਇਨਸਾਨਾਂ ਤੋਂ ਬਿਨਾਂ ਫੈਸਲਾ ਲੈ ਸਕਦੀ ਹੈ। ਟ੍ਰੇਡਰ, ਵਿਸ਼ਲੇਸ਼ਕ, SaaS ਪਲੇਟਫਾਰਮ ਸਭ ਨੂੰ ਇਹ ਆਕਰਸ਼ਕ ਲੱਗਦਾ ਹੈ। ਅਸਲ ਵਿੱਚ, ਅੱਜ ਦੇ agents "smart automation" ਵਾਂਗ ਕੰਮ ਕਰਦੇ ਹਨ ਜੋ ਰਸਤੇ 'ਤੇ ਰਹਿਣ ਲਈ ਅਜੇ ਵੀ ਡਿਵੈਲਪਰਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ।

ਇੱਕ “agent” ਦੇ ਪਿੱਛੇ ਇੰਜੀਨੀਅਰਿੰਗ ਸਟੈਕ

ਇੱਕ ਕਾਰਜਸ਼ੀਲ agent ਬਣਾਉਣ ਦਾ ਮਤਲਬ ਹੈ ਕਈ ਹਿੱਸਿਆਂ ਨੂੰ ਆਪਸ ਵਿੱਚ ਜੋੜਨਾ:

  • Large Language Model (LLM) – ਤਰਕ ਕਰਨ ਵਾਲਾ ਮੁੱਖ ਹਿੱਸਾ ਜੋ prompts ਨੂੰ ਪੜ੍ਹਦਾ ਹੈ ਅਤੇ ਅਗਲੇ ਕਦਮ ਦੀ ਚੋਣ ਕਰਦਾ ਹੈ।
  • Memory layer – ਮੌਜੂਦਾ ਕੰਮ ਲਈ ਥੋੜ੍ਹੇ ਸਮੇਂ ਦਾ ਸੰਦਰਭ (context) ਅਤੇ ਇੱਕ ਲੰਬੇ ਸਮੇਂ ਦਾ vector database ਜੋ ਬਾਅਦ ਵਿੱਚ ਵਰਤੋਂ ਲਈ embeddings ਨੂੰ ਸੰਭਾਲਦਾ ਹੈ।
  • Planner – ਇੱਕ ਨਿਯਮ-ਅਧਾਰਤ ਜਾਂ ਸਿੱਖਿਆ ਪ੍ਰਾਪਤ ਮੋਡਿਊਲ ਜੋ LLM ਦੇ ਆਉਟਪੁੱਟ ਤੋਂ ਅਗਲੇ ਕਾਰਜ ਦੀ ਚੋਣ ਕਰਦਾ ਹੈ।
  • Tools – APIs, web scrapers, code interpreters, ਜਾਂ ਕੋਈ ਵੀ ਬਾਹਰੀ ਸੇਵਾ ਜਿਸ ਨੂੰ agent ਨੂੰ ਵਰਤਣਾ ਪਵੇ।
  • Feedback loop – ਇੱਕ ਚੈੱਕ ਜੋ ਹਰੇਕ ਕਦਮ ਦੇ ਨਤੀਜੇ ਦਾ ਮੁਲਾਂਕਣ ਕਰਦਾ ਹੈ ਅਤੇ planner ਨੂੰ ਅੱਗੇ ਵਧਣ ਜਾਂ ਪਿੱਛੇ ਮੁੜਨ ਲਈ ਕਹਿੰਦਾ ਹੈ।

ਹਰ ਹਿੱਸਾ ਕੰਮ ਕਰਦਾ ਹੈ, ਪਰ ਇੰਟੀਗ੍ਰੇਸ਼ਨ ਪੁਆਇੰਟ ਨਾਜ਼ੁਕ ਹੁੰਦੇ ਹਨ। ਪ੍ਰਯੋਗ ਵਿੱਚ, ਡਿਵੈਲਪਰ ਨੇ LLM ਨੂੰ ਰਸਤੇ 'ਤੇ ਰੱਖਣ ਲਈ ਘੰਟਿਆਂ ਬੱਧੀ debugging ਕੀਤੀ ਅਤੇ ਲਗਾਤਾਰ prompts ਨੂੰ re-engineer ਕੀਤਾ।

ਲੁਕੀਆਂ ਹੋਈਆਂ ਚੁਣੌਤੀਆਂ

Hallucinations

LLMs ਅਜਿਹੇ ਤੱਥ ਘੜ ਸਕਦੇ ਹਨ ਜੋ ਸਹੀ ਲੱਗਦੇ ਹਨ।

Infinite loops

ਸਪੱਸ਼ਟ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਤੋਂ ਬਿਨਾਂ, ਇੱਕ agent ਇੱਕ ਅਸਫਲ ਕਦਮ ਨੂੰ ਹਮੇਸ਼ਾ ਲਈ ਦੁਹਰਾ ਸਕਦਾ ਹੈ—ਜਿਵੇਂ ਕਿ, ਲਗਾਤਾਰ “retry fetching page X” ਕਰਨਾ। ਡਿਵੈਲਪਰ ਨੇ retries 'ਤੇ ਨਿਯਮ-ਅਧਾਰਤ ਸੀਮਾਵਾਂ ਲਗਾ ਕੇ ਇਸ ਨੂੰ ਰੋਕਿਆ, ਜਿਸ ਨਾਲ ਇੱਕ ਹੋਰ ਕਸਟਮ ਕੰਪੋਨੈਂਟ ਸ਼ਾਮਲ ਹੋ ਗਿਆ।

Cost control

LLM calls ਟੋਕਨ (token) ਅਨੁਸਾਰ ਬਿੱਲ ਕੀਤੇ ਜਾਂਦੇ ਹਨ। ਇੱਕ ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਚੱਲਣ ਵਾਲਾ ਕੰਮ ਜੋ ਵਾਰ-ਵਾਰ ਉੱਚ-ਸਮਰੱਥਾ ਵਾਲੇ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ, ਇੱਕ ਸੀਮਤ ਬਜਟ ਨੂੰ ਖਤਮ ਕਰ ਸਕਦਾ ਹੈ। ਪ੍ਰਯੋਗ ਵਿੱਚ ਇੱਕ ਹਾਈਬ੍ਰਿਡ ਪਹੁੰਚ ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਗਈ: ਰੁਟੀਨ ਕਦਮਾਂ ਲਈ ਸਸਤੇ ਮਾਡਲ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ, ਫਿਰ ਸਿਰਫ ਉਦੋਂ ਹੀ ਵਧੇਰੇ ਸਮਰੱਥ (ਅਤੇ ਮਹਿੰਗੇ) ਮਾਡਲ 'ਤੇ ਜਾਓ ਜਦੋਂ ਤਰਕ (reasoning) ਗੁੰਝਲਦਾਰ ਹੋ ਜਾਵੇ। ਇਹ ਖਰਚੇ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ ਪਰ ਆਰਕੀਟੈਕਚਰਲ ਗੁੰਝਲਦਾਰਤਾ ਵਧਾਉਂਦਾ ਹੈ।

Security exposure

ਇੱਕ agent ਨੂੰ API keys ਜਾਂ write access ਦੇਣ ਨਾਲ ਹਮਲੇ ਦਾ ਖ਼ਤਰਾ ਵਧ ਜਾਂਦਾ ਹੈ। ਇੱਕ ਕੰਪ੍ਰੋਮਾਈਜ਼ਡ agent ਡਾਟਾ ਚੋਰੀ ਕਰ ਸਕਦਾ ਹੈ ਜਾਂ ਅਣਅਧਿਕਾਰਤ ਲੈਣ-ਦੇਣ ਕਰ ਸਕਦਾ ਹੈ। ਡਿਵੈਲਪਰ ਨੇ “least privilege” ਸਿਧਾਂਤ ਲਾਗੂ ਕੀਤਾ, ਜਿੱਥੇ ਸੰਭਵ ਹੋਵੇ ਉੱਥੇ agent ਨੂੰ ਸਿਰਫ read-only access ਤੱਕ ਸੀਮਤ ਰੱਖਿਆ, ਜਿਸ ਨਾਲ ਉਹ ਜੋ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ ਉਹ ਵੀ ਸੀਮਤ ਹੋ ਜਾਂਦੇ ਹਨ।

ਸਿੱਖਿਆ

AI agents ਵਾਰ-ਵਾਰ ਹੋਣ ਵਾਲੇ ਡਾਟਾ-ਗੈਥਰਿੰਗ ਨੂੰ ਆਟੋਮੇਟ ਕਰ ਸਕਦੇ ਹਨ, ਪਰ ਉਹ plug-and-play ਨਹੀਂ ਹਨ। ਇੱਕ ਸੱਚਮੁੱਚ ਖੁਦਮੁਖਤਿਆਰ (autonomous) ਪ੍ਰਣਾਲੀ ਬਣਾਉਣ ਲਈ ਅਜੇ ਵੀ ਇੱਕ ਪੂਰੇ ਇੰਜੀਨੀਅਰਿੰਗ ਸਟੈਕ, ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਅਭਿਆਸਾਂ ਅਤੇ ਸਰਗਰਮ ਲਾਗਤ ਪ੍ਰਬੰਧਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਜਦੋਂ ਤੱਕ ਉਹ ਲੁਕੀਆਂ ਹੋਈਆਂ ਪਰਤਾਂ ਨੂੰ ਸੁਚਾਰੂ ਨਹੀਂ ਬਣਾਇਆ ਜਾਂਦਾ, ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਕਿਸੇ ਵੀ “autonomous” AI ਵਰਕਫਲੋ ਵਿੱਚ ਨਿਰਣਾਇਕ ਕਾਰਕ ਬਣੀ ਰਹੇਗੀ।