𝗜𝗻𝘁𝗿𝗼 𝘁𝗼 𝗚𝗲𝗻 𝗔𝗜 𝗳𝗼𝗿 𝗣𝘆𝘁𝗵𝗼𝗻 𝗕𝗲𝗴𝗶𝗻𝗻𝗲𝗿𝘀

𝗜𝗻𝘁𝗿𝗼 𝘁𝗼 𝗚𝗲𝗻 𝗔𝗜 𝗳𝗼𝗿 𝗣𝘆𝘁𝗵𝗼𝗻 𝗕𝗲𝗴𝗶𝗻𝗻𝗲𝗿𝘀

ਜ਼ਿਆਦਾਤਰ ਡਿਵੈਲਪਰ ਨਿਸ਼ਚਿਤ ਨਿਯਮਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਕੋਡ ਲਿਖਦੇ ਹਨ। ਤੁਸੀਂ ਇਨਪੁਟ ਲੈਂਦੇ ਹੋ, if/else ਸਟੇਟਮੈਂਟਾਂ ਜਾਂ ਲੂਪਸ ਲਗਾਉਂਦੇ ਹੋ, ਅਤੇ ਇੱਕ ਅਨੁਮਾਨਿਤ ਨਤੀਜਾ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹੋ। ਇਹ JSON ਜਾਂ CSV ਵਰਗੇ ਸੰਰਚਿਤ (structured) ਡੇਟਾ ਲਈ ਕੰਮ ਕਰਦਾ ਹੈ।

ਪਰ ਗੁੰਝਲਦਾਰ ਕੰਮਾਂ ਦਾ ਕੀ?

• 100 ਸਪੋਰਟ ਟਿਕਟਾਂ ਦਾ ਸਾਰ (summarize) ਕਰਨਾ।
• ਫੀਚਰਾਂ ਦੀ ਸੂਚੀ ਨੂੰ ਈਮੇਲ ਵਿੱਚ ਬਦਲਣਾ।
• ਬਲੌਗ ਪੋਸਟਾਂ ਤੋਂ ਫਾਇਦੇ ਅਤੇ ਨੁਕਸਾਨਾਂ ਦੀ ਤੁਲਨਾ ਕਰਨਾ।

ਤੁਸੀਂ regex ਜਾਂ ਗੁੰਝਲਦਾਰ ਟੈਂਪਲੇਟਾਂ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦੇ ਹੋ, ਪਰ ਉਹ ਕਮਜ਼ੋਰ ਹੁੰਦੇ ਹਨ। Generative AI ਇਸ ਅਸਪਸ਼ਟ (fuzzy) ਕੰਮ ਨੂੰ ਆਸਾਨੀ ਨਾਲ ਸੰਭਾਲ ਲੈਂਦਾ ਹੈ।

How it works

ਇੱਕ generative ਮਾਡਲ ਇੱਕ ਸਧਾਰਨ ਲੂਪ ਦੀ ਪਾਲਣਾ ਕਰਦਾ ਹੈ:

• ਇਹ ਤੁਹਾਡੇ prompt ਅਤੇ ਪਿਛਲੇ ਟੈਕਸਟ ਨੂੰ ਦੇਖਦਾ ਹੈ।
• ਇਹ ਟੈਕਸਟ ਦੇ ਅਗਲੇ ਛੋਟੇ ਹਿੱਸੇ ਦੀ ਭਵਿੱਖਬਾਣੀ ਕਰਦਾ ਹੈ।
• ਇਹ ਉਸ ਹਿੱਸੇ ਨੂੰ ਟੈਕਸਟ ਵਿੱਚ ਜੋੜ ਦਿੰਦਾ ਹੈ।
• ਇਹ ਉਦੋਂ ਤੱਕ ਦੁਹਰਾਉਂਦਾ ਰਹਿੰਦਾ ਹੈ ਜਦੋਂ ਤੱਕ ਕੰਮ ਪੂਰਾ ਨਹੀਂ ਹੋ ਜਾਂਦਾ।

Large Language Models (LLMs) ਇੱਕ architecture ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ ਜਿਸ ਨੂੰ transformer ਕਿਹਾ ਜਾਂਦਾ ਹੈ। ਖੱਬੇ ਤੋਂ ਸੱਜੇ ਪੜ੍ਹਨ ਦੀ ਬਜਾਏ, ਮਾਡਲ ਤੁਹਾਡੇ ਇਨਪੁਟ ਦੇ ਸਾਰੇ ਹਿੱਸਿਆਂ ਨੂੰ ਇੱਕੋ ਸਮੇਂ ਦੇਖਦਾ ਹੈ। ਇਹ ਫੈਸਲਾ ਕਰਦਾ ਹੈ ਕਿ ਅਗਲੀ ਭਵਿੱਖਬਾਣੀ ਲਈ ਕਿਹੜੇ ਸ਼ਬਦ ਸਭ ਤੋਂ ਵੱਧ ਮਹੱਤਵਪੂਰਨ ਹਨ।

Python ਡਿਵੈਲਪਰਾਂ ਲਈ ਦੋ ਚੀਜ਼ਾਂ ਮਹੱਤਵਪੂਰਨ ਹਨ: tokens ਅਤੇ context windows।

Tokens ਮਾਡਲ raw strings ਨਹੀਂ ਪੜ੍ਹਦੇ। ਉਹ ਟੈਕਸਟ ਨੂੰ tokens ਵਿੱਚ ਤੋੜ ਦਿੰਦੇ ਹਨ। ਇੱਕ token ਸ਼ਬਦ ਦਾ ਇੱਕ ਛੋਟਾ ਹਿੱਸਾ ਹੁੰਦਾ ਹੈ। API ਦੀ ਕੀਮਤ ਅਤੇ ਸੀਮਾਵਾਂ ਵਿੱਚ characters ਦੀ ਬਜਾਏ tokens ਦੀ ਵਰਤੋਂ ਕੀਤੀ ਜਾਂਦੀ ਹੈ।

Context Window ਇਹ ਟੈਕਸਟ ਦੀ ਉਹ ਮਾਤਰਾ ਹੈ ਜੋ ਮਾਡਲ ਇੱਕ ਸਮੇਂ ਵਿੱਚ ਦੇਖਦਾ ਹੈ। ਇਸ ਵਿੱਚ ਤੁਹਾਡਾ prompt, ਚੈਟ ਇਤਿਹਾਸ, ਅਤੇ ਮਾਡਲ ਦਾ ਆਉਟਪੁੱਟ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਇਸ ਸੀਮਾ ਤੋਂ ਵੱਧ ਜਾਂਦੇ ਹੋ, ਤਾਂ ਮਾਡਲ ਗੱਲਬਾਤ ਦੇ ਸਭ ਤੋਂ ਪੁਰਾਣੇ ਹਿੱਸੇ ਭੁੱਲ ਜਾਂਦਾ ਹੈ।

Moving from prompts to agents

ਮਾਡਲ ਨੂੰ ਇੱਕ ਸਿੰਗਲ prompt ਭੇਜਣਾ ਇੱਕ ਸ਼ੁਰੂਆਤ ਹੈ। ਤੁਸੀਂ ਟੈਕਸਟ ਦਾ ਸਾਰ ਕੱਢ ਸਕਦੇ ਹੋ ਜਾਂ ਗਲਤੀਆਂ (errors) ਦੀ ਵਿਆਖਿਆ ਕਰ ਸਕਦੇ ਹੋ। ਹਾਲਾਂਕਿ, ਇੱਕ ਬੇਸਿਕ LLM ਦੀਆਂ ਸੀਮਾਵਾਂ ਹਨ:

• ਇਹ ਤੁਹਾਡੇ databases ਜਾਂ APIs ਨੂੰ ਕਾਲ ਨਹੀਂ ਕਰ ਸਕਦਾ।
• ਇਹ ਰਿਕਵੈਸਟਾਂ (requests) ਦੇ ਵਿਚਕਾਰ ਚੀਜ਼ਾਂ ਨੂੰ ਯਾਦ ਨਹੀਂ ਰੱਖਦਾ।
• ਇਹ ਗਲਤ ਤੱਥ (facts) ਬਣਾ ਸਕਦਾ ਹੈ।

ਅਸਲੀ ਉਤਪਾਦ ਬਣਾਉਣ ਲਈ, ਤੁਹਾਨੂੰ agents ਦੀ ਲੋੜ ਹੈ। ਇੱਕ agent LLM ਵਿੱਚ ਤਿੰਨ ਚੀਜ਼ਾਂ ਜੋੜਦਾ ਹੈ:

• Tools: ਵੈੱਬ ਸਰਚ ਜਾਂ ਕੈਲਕੂਲੇਟਰ ਵਰਗੇ ਫੰਕਸ਼ਨ।
• Memory: ਪਿਛਲੀਆਂ ਗੱਲਬਾਤਾਂ ਅਤੇ ਯੂਜ਼ਰ ਡੇਟਾ ਲਈ ਸਟੋਰੇਜ।
• Orchestration: ਇਹ ਫੈਸਲਾ ਕਰਨ ਲਈ ਲੌਜਿਕ ਕਿ ਕਿਹੜੇ ਟੂਲ ਦੀ ਵਰਤੋਂ ਕਰਨੀ ਹੈ ਅਤੇ ਕਦੋਂ ਰੁਕਣਾ ਹੈ।

ਇੱਕ ਸਾਧਾਰਨ LLM ਇੱਕ ਜਵਾਬ ਦਿੰਦਾ ਹੈ। ਇੱਕ agent ਇੱਕ ਟੀਚਾ (goal) ਲੈਂਦਾ ਹੈ ਅਤੇ ਭਰੋਸੇਯੋਗ ਨਤੀਜੇ ਤੱਕ ਪਹੁੰਚਣ ਲਈ tools ਅਤੇ memory ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ।

Source: https://dev.to/raunaklallala/intro-to-gen-ai-for-python-beginners-stop-just-chatgpt-ing-and-start-using-chatgpt-582p

Optional learning community: https://t.me/GyaanSetuAi