AI Chatbox ਨੂੰ ਤੋੜਨਾ

ਜ਼ਿਆਦਾਤਰ AI ਡੈਮੋ ਇੱਕੋ ਜਿਹੇ ਲੱਗਦੇ ਹਨ। ਤੁਸੀਂ ਇੱਕ ਚੈਟ ਵਿੰਡੋ ਦੇਖਦੇ ਹੋ। ਤੁਸੀਂ ਇੱਕ ਪ੍ਰੋਂਪਟ ਟਾਈਪ ਕਰਦੇ ਹੋ। ਤੁਸੀਂ ਟੈਕਸਟ ਨੂੰ ਆਉਂਦੇ ਹੋਏ ਦੇਖਦੇ ਹੋ। ਇਹ ਇੰਟਰਫੇਸ ਇੱਕ ਜਾਲ ਹੈ। ਇਹ ਤੁਹਾਨੂੰ ਹੱਲ ਬਣਾਉਣ ਦੀ ਬਜਾਏ ਸਵਾਲ ਪੁੱਛਣ ਦੀ ਆਦਤ ਪਾਉਂਦਾ ਹੈ।

Berkeley CS ਦੇ ਵਿਦਿਆਰਥੀਆਂ ਨੇ ਇੱਕ ਬਿਹਤਰ ਤਰੀਕਾ ਲੱਭ ਲਿਆ ਹੈ। ਉਨ੍ਹਾਂ ਨੇ ਆਪਣੇ ਐਲਗੋਰਿਦਮ ਹੋਮਵਰਕ ਲਈ ਚੈਟ ਬਾਕਸ ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਬੰਦ ਕਰ ਦਿੱਤਾ। ਇਸ ਦੀ ਬਜਾਏ, ਉਨ੍ਹਾਂ ਨੇ ਆਟੋਨੋਮਸ ਏਜੰਟ (autonomous agents) ਬਣਾਏ। ਇਹ ਏਜੰਟ ਗੱਲਾਂ ਨਹੀਂ ਕਰਦੇ। ਉਹ ਯੋਜਨਾ ਬਣਾਉਂਦੇ ਹਨ, ਕੋਡ ਚਲਾਉਂਦੇ ਹਨ, ਅਤੇ ਨਤੀਜੇ ਈਮੇਲ ਕਰਦੇ ਹਨ।

ਸਿਸਟਮ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ:

• Task Planner: ਇੱਕ ਹਲਕਾ LLM ਇੱਕ ਟੀਚੇ ਨੂੰ subtasks ਦੀ ਇੱਕ JSON ਲਿਸਟ ਵਿੱਚ ਬਦਲ ਦਿੰਦਾ ਹੈ। ਹਰੇਕ ਟਾਸਕ ਦਾ ਇੱਕ ਸਪੱਸ਼ਟ ਸਫਲਤਾ ਨਿਯਮ ਹੁੰਦਾ ਹੈ। • Code Executor: ਇੱਕ ਵੱਖਰਾ LLM ਹਰੇਕ ਟਾਸਕ ਲਈ Python ਸਕ੍ਰਿਪਟ ਲਿਖਦਾ ਹੈ। ਇਹ ਸਕ੍ਰਿਪਟਾਂ ਇੱਕ Docker sandbox ਵਿੱਚ ਚੱਲਦੀਆਂ ਹਨ। ਇਹ ਤੁਹਾਡੇ ਕੰਪਿਊਟਰ ਨੂੰ ਸੁਰੱਖਿਅਤ ਰੱਖਦਾ ਹੈ। ਜੇਕਰ ਕੋਡ ਫੇਲ ਹੋ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਏਜੰਟ ਗਲਤੀ ਦੇ ਸੁਨੇਹੇ (error message) ਦੇ ਨਾਲ ਦੁਬਾਰਾ ਕੋਸ਼ਿਸ਼ ਕਰਦਾ ਹੈ। • SQLite Store: ਇਹ ਏਜੰਟ ਦੀ ਯਾਦਦਾਸ਼ਤ ਹੈ। ਇੱਕ ਵਿਸ਼ਾਲ ਚੈਟ ਹਿਸਟਰੀ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਬਜਾਏ, ਏਜੰਟ ਇੱਕ ਸਥਾਨਕ ਡੇਟਾਬੇਸ ਵਿੱਚ ਡੇਟਾ ਪੜ੍ਹਦਾ ਅਤੇ ਲਿਖਦਾ ਹੈ। ਇਹ ਲਾਗਤ ਨੂੰ ਘੱਟ ਰੱਖਦਾ ਹੈ ਅਤੇ ਗਲਤੀਆਂ ਨੂੰ ਰੋਕਦਾ ਹੈ। • Email Aggregator: ਤੁਸੀਂ ਏਜੰਟ ਨੂੰ ਕੰਮ ਕਰਦੇ ਹੋਏ ਨਹੀਂ ਦੇਖਦੇ। ਜਦੋਂ ਕੰਮ ਖਤਮ ਹੋ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਏਜੰਟ ਤੁਹਾਨੂੰ ਨਤੀਜਿਆਂ ਅਤੇ ਵਰਤੇ ਗਏ ਕੋਡ ਦੇ ਨਾਲ ਇੱਕ ਪੂਰੀ ਰਿਪੋਰਟ ਈਮੇਲ ਕਰਦਾ ਹੈ।

ਇਹ ChatGPT ਤੋਂ ਬਿਹਤਰ ਕਿਉਂ ਹੈ:

  • Cost: OpenRouter ਰਾਹੀਂ ਛੋਟੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਲਾਗਤ ਸੈਂਟਾਂ ਵਿੱਚ ਆਉਂਦੀ ਹੈ, ਡਾਲਰਾਂ ਵਿੱਚ ਨਹੀਂ।
  • Memory: Context window ਦੀ ਬਜਾਏ ਡੇਟਾਬੇਸ ਦੀ ਵਰਤੋਂ ਕਰਨ ਨਾਲ ਏਜੰਟ ਨੂੰ ਉਲਝਣ ਤੋਂ ਬਚਾਇਆ ਜਾਂਦਾ ਹੈ।
  • Reliability: ਏਜੰਟ ਨਤੀਜਿਆਂ ਦੀ ਪੁਸ਼ਟੀ ਕਰਨ ਲਈ ਕੋਡ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਤੁਹਾਨੂੰ ਸਿਰਫ਼ ਟੈਕਸਟ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਗਣਿਤ ਅਤੇ ਤਰਕ (logic) ਮਿਲਦਾ ਹੈ।
  • Security: Sandbox ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦਾ ਹੈ ਕਿ ਏਜੰਟ ਤੁਹਾਡੀਆਂ ਨਿੱਜੀ ਫਾਈਲਾਂ ਨੂੰ ਛੂਹ ਨਾ ਸਕੇ।

ਇਹ ਆਰਕੀਟੈਕਚਰ ਡੇਟਾ ਵਿਸ਼ਲੇਸ਼ਣ (data analysis), ਫਾਈਲ ਪ੍ਰੋਸੈਸਿੰਗ ਅਤੇ ਗਣਿਤ ਲਈ ਕੰਮ ਕਰਦਾ ਹੈ। ਇਹ ਰਚਨਾਤਮਕ ਲਿਖਣ ਜਾਂ ਵਿਅਕਤੀਗਤ (subjective) ਕੰਮਾਂ ਲਈ ਕੰਮ ਨਹੀਂ ਕਰਦਾ। ਉਹਨਾਂ ਲਈ ਅਜੇ ਵੀ ਮਨੁੱਖ ਦੀ ਲੋੜ ਹੈ।

ਵਾਰ-ਵਾਰ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਕੰਮਾਂ ਲਈ ਚੈਟ ਦੀ ਵਰਤੋਂ ਕਰਨਾ ਬੰਦ ਕਰੋ। ਇੱਕ ਅਜਿਹਾ ਏਜੰਟ ਬਣਾਓ ਜੋ ਤੁਹਾਡੇ ਸੌਣ ਵੇਲੇ ਤੁਹਾਡੇ ਲਈ ਕੰਮ ਕਰੇ।

Source: https://dev.to/youngones/breaking-the-ai-chatbox-how-berkeley-students-built-real-autonomous-agents-270c

Optional learning community: https://t.me/GyaanSetuAi