Enterprise AI projects have a pattern. A team builds a prototype. The demo looks impressive. Then, three months later, t

ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਪ੍ਰੋਜੈਕਟਾਂ ਦਾ ਇੱਕ ਖਾਸ ਪੈਟਰਨ ਹੁੰਦਾ ਹੈ। ਇੱਕ ਟੀਮ ਇੱਕ ਪ੍ਰੋਟੋਟਾਈਪ ਬਣਾਉਂਦੀ ਹੈ। ਡੈਮੋ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਲੱਗਦਾ ਹੈ। ਫਿਰ, ਤਿੰਨ ਮਹੀਨਿਆਂ ਬਾਅਦ, ਸਿਸਟਮ ਟੁੱਟਣਾ ਸ਼ੁਰੂ ਹੋ ਜਾਂਦਾ ਹੈ। ਜਵਾਬ ਭਟਕਣ ਲੱਗਦੇ ਹਨ। ਲਾਗਤਾਂ ਵਧਦੀਆਂ ਹਨ। ਇੱਕ ਕੰਪਲਾਇੰਸ ਅਫਸਰ ਪੁੱਛਦਾ ਹੈ ਕਿ ਇੱਕ ਖਾਸ ਜਵਾਬ ਕਿੱਥੋਂ ਆਇਆ, ਅਤੇ ਕਮਰੇ ਵਿੱਚ ਕੋਈ ਵੀ ਨਹੀਂ ਦੱਸ ਸਕਦਾ।

ਇਹ ਪਤਨ ਸ਼ਾਇਦ ਹੀ ਕਦੇ ਮਾੜੇ ਕੋਡ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ। ਇਹ ਇੱਕ ਅਜਿਹੇ ਆਰਕੀਟੈਕਚਰਲ ਚੋਣ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ ਜਿਸ ਨੂੰ ਲੋਕਪ੍ਰਿਯਤਾ ਦੇ ਮੁਕਾਬਲੇ ਵਾਂਗ ਲਿਆ ਜਾਂਦਾ ਹੈ: Retrieval-Augmented Generation ਬਨਾਮ fine-tuning।

RAG ਅਤੇ fine-tuning ਇੱਕੋ ਉਤਪਾਦ ਦੇ ਦੋ ਵੱਖ-ਵੱਖ ਰੂਪ ਨਹੀਂ ਹਨ। ਉਹ ਮੂਲ ਰੂਪ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਸੰਦ ਹਨ। ਇੱਕ ਇਹ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ ਕਿ ਮਾਡਲ ਕੀ ਦੇਖ ਸਕਦਾ ਹੈ। ਦੂਜਾ ਇਹ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ ਕਿ ਮਾਡਲ ਕਿਵੇਂ ਵਿਵਹਾਰ ਕਰਦਾ ਹੈ। ਕੰਮ ਲਈ ਗਲਤ ਚੋਣ ਇੱਕ ਪ੍ਰੋਟੋਟਾਈਪ ਵਿੱਚ ਸਾਹਮਣੇ ਨਹੀਂ ਆਵੇਗੀ। ਇਹ ਬਾਅਦ ਵਿੱਚ ਸਾਹਮਣੇ ਆਉਂਦੀ ਹੈ, ਜਦੋਂ ਕਾਰੋਬਾਰ ਇਸ ਦੇ ਆਧਾਰ 'ਤੇ ਚੱਲ ਰਿਹਾ ਹੁੰਦਾ ਹੈ।

ਡੈਮੋ ਦਾ ਜਾਲ

ਜਨਰੇਟਿਵ AI ਫੀਚਰ ਨੂੰ ਲਾਂਚ ਕਰਨ ਦਾ ਦਬਾਅ ਬਹੁਤ ਜ਼ਿਆਦਾ ਹੁੰਦਾ ਹੈ। ਟੀਮਾਂ ਅਕਸਰ ਇੱਕ ਵਿਧੀ ਇਸ ਲਈ ਚੁਣਦੀਆਂ ਹਨ ਕਿਉਂਕਿ ਉਨ੍ਹਾਂ ਨੇ ਇਸਨੂੰ ਕਿਸੇ ਵਧੀਆ ਟਿਊਟੋਰਿਅਲ ਵਿੱਚ ਦੇਖਿਆ ਹੁੰਦਾ ਹੈ ਜਾਂ ਕਿਸੇ ਵੈਂਡਰ ਦੇ ਸਲਾਈਡ ਡੈਕ ਨੇ ਇਸਨੂੰ ਆਸਾਨ ਬਣਾ ਕੇ ਦਿਖਾਇਆ ਹੁੰਦਾ ਹੈ। ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦੇ ਫੈਸਲੇ ਲੈਣ ਦਾ ਇਹ ਇੱਕ ਬਹੁਤ ਹੀ ਮਾੜਾ ਤਰੀਕਾ ਹੈ।

ਇੱਕ fine-tuned ਮਾਡਲ ਇੱਕ ਕੰਟਰੋਲਡ ਡੈਮੋ ਵਿੱਚ ਜਾਦੂਈ ਲੱਗ ਸਕਦਾ ਹੈ। ਇਹ ਤੁਹਾਡੀ ਕੰਪਨੀ ਦੀ ਆਵਾਜ਼ ਵਿੱਚ ਬੋਲਦਾ ਹੈ ਅਤੇ ਤੁਹਾਡੇ ਉਤਪਾਦਾਂ ਦੇ ਨਾਮ ਪਛਾਣਦਾ ਹੈ। ਇੱਕ RAG ਪਾਈਪਲਾਈਨ ਵੀ ਜਾਦੂਈ ਲੱਗ ਸਕਦੀ ਹੈ। ਇਹ ਉਸ ਦਸਤਾਵੇਜ਼ ਬਾਰੇ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਦਿੰਦੀ ਹੈ ਜਿਸ 'ਤੇ ਇਸਨੂੰ ਕਦੇ ਟ੍ਰੇਨ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਸੀ। ਪਰ ਡੈਮੋ ਕਾਰਜਸ਼ੀਲ ਅਸਲੀਅਤ ਨੂੰ ਛੁਪਾ ਲੈਂਦਾ ਹੈ। ਜੇਕਰ ਤੁਹਾਡਾ ਕੀਮਤ ਦਾ ਡੇਟਾ ਹਰ ਹਫ਼ਤੇ ਬਦਲਦਾ ਹੈ ਅਤੇ ਤੁਸੀਂ ਪਿਛਲੀ ਤਿਮਾਹੀ ਦੇ ਅੰਕੜਿਆਂ 'ਤੇ fine-tuning ਕੀਤੀ ਹੈ, ਤਾਂ ਮਾਡਲ ਭਰੋਸੇ ਨਾਲ ਪੁਰਾਣੇ ਅੰਕੜੇ ਦੱਸੇਗਾ। ਜੇਕਰ ਤੁਹਾਡੀ ਸਪੋਰਟ ਟੀਮ ਨੂੰ ਹਰ ਜਵਾਬ ਕਿਸੇ ਖਾਸ ਪਾਲਿਸੀ PDF ਨਾਲ ਜੋੜਨ ਦੀ ਲੋੜ ਹੈ, ਤਾਂ ਇੱਕ fine-tuned ਮਾਡਲ ਤੁਹਾਨੂੰ ਕੋਈ ਫੁੱਟਨੋਟ ਨਹੀਂ ਦਿੰਦਾ। ਇਹ ਸਿਰਫ਼ ਤੁਹਾਨੂੰ ਟੈਕਸਟ ਦਿੰਦਾ ਹੈ।

RAG ਦਾ ਅਸਲ ਮਤਲਬ ਕੀ ਹੈ

RAG ਦਾ ਮਤਲਬ Retrieval-Augmented Generation ਹੈ, ਪਰ ਇਹ ਨਾਮ ਇਸਨੂੰ ਅਸਲ ਨਾਲੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਗੁੰਝਲਦਾਰ ਬਣਾਉਂਦਾ ਹੈ। ਇਸਦੇ ਮੂਲ ਵਿੱਚ, RAG ਇੱਕ ਹੀ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦਿੰਦਾ ਹੈ: ਮਾਡਲ ਨੂੰ ਇਸ ਸਮੇਂ ਕਿਸ ਚੀਜ਼ ਨੂੰ ਲੱਭਣ ਦੀ ਲੋੜ ਹੈ?

ਇੱਕ ਕਸਟਮਰ ਸਰਵਿਸ ਏਜੰਟ ਦੀ ਕਲਪਨਾ ਕਰੋ ਜਿਸਨੂੰ ਟਿਕਟ ਦਾ ਜਵਾਬ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ ਕੰਪਨੀ ਦੀ ਵਿਕੀ (wiki) ਖੋਜਣ ਦੀ ਇਜਾਜ਼ਤ ਹੈ। RAG ਬਿਲਕੁਲ ਇਹੀ ਕਰਦਾ ਹੈ, ਪਰ ਆਪਣੇ ਆਪ (automatically)। ਜਦੋਂ ਕੋਈ ਯੂਜ਼ਰ ਸਵਾਲ ਪੁੱਛਦਾ ਹੈ, ਤਾਂ ਸਿਸਟਮ ਪ੍ਰਸੰਗਿਕ ਟੈਕ