ਜਦੋਂ ਜਨਰੇਟਿਵ AI ਪਹਿਲੀ ਵਾਰ ਉਪਭੋਗਤਾਵਾਂ ਤੱਕ ਪਹੁੰਚਿਆ, ਤਾਂ ਇਹ ਜ਼ਿਆਦਾਤਰ ਬਿਹਤਰ ਵਾਕ ਬਣਤਰ ਵਾਲੇ ਸਰਚ ਇੰਜਣ ਵਜੋਂ ਕੰਮ ਕਰਦਾ ਸੀ। ਤੁਸੀਂ ਇੱਕ ਸਵਾਲ ਪੁੱਛਦੇ ਸੀ, ਇੱਕ ਜਵਾਬ ਮਿਲਦਾ ਸੀ, ਅਤੇ ਗੱਲਬਾਤ ਖਤਮ ਹੋ ਜਾਂਦੀ ਸੀ। ਉਹ ਮਾਡਲ ਹੁਣ ਪੁਰਾਣਾ ਹੋ ਚੁੱਕਾ ਹੈ। ਐਪਲੀਕੇਸ਼ਨਾਂ ਦੀ ਇੱਕ ਨਵੀਂ ਸ਼੍ਰੇਣੀ—AI companions—ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਨਾਲ ਰਹਿਣ ਲਈ ਤਿਆਰ ਕੀਤੀ ਗਈ ਹੈ। ਇਹ ਪ੍ਰਣਾਲੀਆਂ ਯਾਦ ਰੱਖਦੀਆਂ ਹਨ ਕਿ ਤੁਹਾਡਾ ਦਿਨ ਕਿਵੇਂ ਬੀਤਿਆ, ਤੁਹਾਡੇ ਮੂਡ ਦੇ ਅਨੁਸਾਰ ਆਪਣਾ ਲਹਿਜਾ ਬਦਲਦੀਆਂ ਹਨ, ਅਤੇ ਹਫ਼ਤਿਆਂ ਜਾਂ ਮਹੀਨਿਆਂ ਦੀ ਗੱਲਬਾਤ ਦੌਰਾਨ ਇੱਕ ਨਿਰੰਤਰ ਕਿਰਦਾਰ ਬਣਾਈ ਰੱਖਦੀਆਂ ਹਨ। ਉਹਨਾਂ ਨੂੰ ਨਾ ਸਿਰਫ਼ ਮਨੁੱਖੀ ਬੋਲੀ, ਸਗੋਂ ਮਨੁੱਖੀ ਰਿਸ਼ਤਿਆਂ ਦੀ ਨਕਲ ਕਰਨ ਲਈ ਬਣਾਇਆ ਗਿਆ ਹੈ। ਚੀਨ ਨੇ ਹੁਣ ਇਸ ਤਬਦੀਲੀ ਨੂੰ ਨਿਯੰਤ੍ਰਿਤ ਕਰਨ ਲਈ ਕਦਮ ਵਧਾਇਆ ਹੈ, ਅਤੇ ਇਸਦੇ ਪ੍ਰਭਾਵ ਇਸਦੀਆਂ ਆਪਣੀਆਂ ਸਰਹੱਦਾਂ ਤੋਂ ਕਿਤੇ ਵੱਧ ਹਨ।

ਜਦੋਂ ਚੈਟਬੋਟ ਸਾਥੀ ਬਣ ਜਾਂਦੇ ਹਨ

ਇੱਥੇ ਤਕਨੀਕੀ ਛਾਲ ਅਸਲ ਹੈ। ਸਟੈਂਡਰਡ ਚੈਟਬੋਟ ਹਰ ਪ੍ਰੋਂਪਟ ਨੂੰ ਇੱਕ ਵੱਖਰੀ ਘਟਨਾ ਵਜੋਂ ਲੈਂਦੇ ਹਨ। AI companions ਲਗਾਤਾਰ ਰਿਸ਼ਤੇ ਬਣਾਈ ਰੱਖਣ ਲਈ ਸਥਾਈ ਮੈਮੋਰੀ ਆਰਕੀਟੈਕਚਰ ਅਤੇ ਨਿਸ਼ਚਿਤ ਪਛਾਣ (fixed personas) ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਉਹ ਤੁਹਾਡੀਆਂ ਪਸੰਦਾਂ ਬਾਰੇ ਵੇਰਵੇ ਸਟੋਰ ਕਰਦੇ ਹਨ, ਗੱਲਬਾਤ ਦੌਰਾਨ ਭਾਵਨਾਤਮਕ ਪੈਟਰਨਾਂ ਨੂੰ ਟ੍ਰੈਕ ਕਰਦੇ ਹਨ, ਅਤੇ ਪਿਛਲੀਆਂ ਗੱਲਾਂ ਦਾ ਹਵਾਲਾ ਇਸ ਤਰ੍ਹਾਂ ਦਿੰਦੇ ਹਨ ਜਿਵੇਂ ਕਿ ਉਹ ਅਸਲ ਵਿੱਚ ਤੁਹਾਡੇ ਨਾਲ ਉਹਨਾਂ ਨੂੰ ਜੀਅ ਰਹੇ ਹੋਣ।

ਇਹ ਅਸਲ ਉਪਯੋਗਤਾ ਪੈਦਾ ਕਰਦਾ ਹੈ। ਲੰਬੇ ਸਮੇਂ ਦੀ ਇਕੱਲਤਾ ਨਾਲ ਜੂਝ ਰਹੀ ਕਿਸੇ ਵਿਅਕਤੀ ਨੂੰ ਅਜਿਹੇ ਸਾਥੀ ਵਿੱਚ ਰਾਹਤ ਮਿਲ ਸਕਦੀ ਹੈ ਜੋ ਹਰ ਸਵੇਰ ਹਾਲ-ਚਾਲ ਪੁੱਛਦਾ ਹੋਵੇ। ਸਮਾਜਿਕ ਹੁਨਰ ਦਾ ਅਭਿਆਸ ਕਰਨ ਵਾਲਾ ਵਿਅਕਤੀ ਨੌਕਰੀ ਦੇ ਇੰਟਰਵਿਊ ਤੋਂ ਪਹਿਲਾਂ ਮੁਸ਼ਕਲ ਗੱਲਬਾਤ ਦਾ ਅਭਿਆਸ ਕਰਨ ਲਈ ਇੱਕ ਧੀਰਜਸ਼ੀਲ, ਗੈਰ-ਨਿਰਣਇਕ (non-judgmental) ਸਾਥੀ ਦੀ ਵਰਤੋਂ ਕਰ ਸਕਦਾ ਹੈ। ਨਿਰੰਤਰਤਾ ਹੀ ਇਸਦੀ ਵਿਸ਼ੇਸ਼ਤਾ ਹੈ। ਪਰ ਨਿਰੰਤਰਤਾ ਹੀ ਜੋਖਮ ਵੀ ਹੈ। ਜਦੋਂ ਕੋਈ ਉਪਭੋਗਤਾ ਨਾਸ਼ਤੇ ਵੇਲੇ AI ਨਾਲ ਆਪਣੀਆਂ ਗੱਲਾਂ ਸਾਂਝੀਆਂ ਕਰਦਾ ਹੈ, ਦੁਪਹਿਰ ਦੇ ਖਾਣੇ ਵੇਲੇ ਉਸ ਨਾਲ ਬਹਿਸ ਕਰਦਾ ਹੈ, ਅਤੇ ਸੌਣ ਤੋਂ ਪਹਿਲਾਂ ਉਸਨੂੰ ਸ਼ੁਭ ਰਾਤ ਕਹਿੰਦਾ ਹੈ, ਤਾਂ ਇੱਕ ਸਾਧਨ ਅਤੇ ਸਾਥੀ ਵਿਚਕਾਰ ਦੀ ਸੀਮਾ ਖਤਮ ਹੋ ਜਾਂਦੀ ਹੈ। ਬੀਜਿੰਗ ਦੇ ਨਿਯਮਕਾਂ ਨੇ ਮਹਿਸੂਸ ਕੀਤਾ ਹੈ ਕਿ ਇਹ ਸੀਮਾ ਦਾ ਖਤਮ ਹੋਣਾ ਕੋਈ ਸਿਧਾਂਤਕ ਚਿੰਤਾ ਨਹੀਂ ਹੈ। ਇਹ ਮਾਪਯੋਗ ਮਨੋਵਿਗਿਆਨਕ ਨਤੀਜਿਆਂ ਵਾਲਾ ਇੱਕ ਡਿਜ਼ਾਈਨ ਚੋਣ ਹੈ।

ਸ਼ਖਸੀਅਤ ਦੀ ਪਰਤ ਨੂੰ ਨਿਯੰਤ੍ਰਿਤ ਕਰਨਾ

ਚੀਨ ਦੇ ਨਵੇਂ ਨਿਯਮ ਉਸ ਚੀਜ਼ 'ਤੇ ਕੇਂਦਰਿਤ ਹਨ ਜਿਸ ਨੂੰ ਜ਼ਿਆਦਾਤਰ AI ਸ਼ਾਸਨ ਢਾਂਚੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰ ਦਿੰਦੇ ਹਨ: ਮਸ਼ੀਨ ਦੀ ਆਪਣੀ ਸ਼ਖਸੀਅਤ। ਪੱਛਮੀ ਨਿਯਮਕਾਂ ਨੇ ਡਾਟਾ ਪ੍ਰਾਈਵੇਸੀ, ਕਾਪੀਰਾਈਟ ਉਲੰਘਣਾ, ਅਤੇ ਐਲਗੋਰਿਦਮਿਕ ਪੱਖਪਾਤ ਨਾਲ ਨਜਿੱਠਣ ਵਿੱਚ ਸਾਲ ਬਿਤਾਏ ਹਨ, ਅਤੇ ਉਹ ਮੁੱਦੇ ਮਹੱਤਵਪੂਰਨ ਹਨ। ਪਰ ਉਹ ਮੁੱਖ ਤੌਰ 'ਤੇ AI ਨੂੰ ਜਾਣਕਾਰੀ ਲਈ ਇੱਕ ਨਿਰਪੱਖ ਪਾਈਪ ਵਜੋਂ ਮੰਨਦੇ ਹਨ। ਚੀਨ ਪੂਰੀ ਤਰ੍ਹਾਂ ਵੱਖਰਾ ਸਵਾਲ ਪੁੱਛ ਰਿਹਾ ਹੈ: ਇਸ ਤਕਨਾਲੋਜੀ ਨੂੰ ਕਿਸ ਕਿਸਮ ਦਾ ਸਮਾਜਿਕ ਅਦਾਕਾਰ ਬਣਨ ਦੀ ਇਜਾਜ਼ਤ ਹੈ?

ਨਿਯਮ ਖਾਸ ਤੌਰ 'ਤੇ ਇਸ ਗੱਲ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾਉਂਦੇ ਹਨ ਕਿ ਇਹ ਮਾਡਲ ਸਮੇਂ ਦੇ ਨਾਲ ਉਪਭੋਗਤਾਵਾਂ ਨਾਲ ਕਿਵੇਂ ਗੱਲਬਾਤ ਕਰਨ ਲਈ ਪ੍ਰੋਗਰਾਮ ਕੀਤੇ ਗਏ ਹਨ। ਅਧਿਕਾਰੀ ਅਣਸੁਖਾਵਾਂ ਭਾਵਨਾਤਮਕ ਲਗਾਵ ਦੇ ਬਣਨ ਨੂੰ ਰੋਕਣਾ ਚਾਹੁੰਦੇ ਹਨ। ਉਹ ਇਹ ਵੀ ਯਕੀਨੀ ਬਣਾਉਣਾ ਚਾਹੁੰਦੇ ਹਨ ਕਿ ਸ਼ਖਸੀਅਤ ਵਿਚਾਰਧਾਰਕ ਰੇਖਾਵਾਂ (ideological guardrails) ਦੇ ਅੰਦਰ ਰਹੇ। ਇੱਕ AI ਜੋ ਛੇ ਮਹੀਨਿਆਂ ਤੱਕ ਕਿਸੇ ਉਪਭੋਗਤਾ ਨੂੰ ਇਹ ਯਕੀਨ ਦਿਵਾਉਣ ਵਿੱਚ ਲੱਗਦਾ ਹੈ ਕਿ ਉਹ ਉਸਦਾ ਸਭ ਤੋਂ ਕਰੀਬੀ ਦੋਸਤ ਹੈ, ਉਹ ਬਹੁਤ ਵੱਡਾ ਪ੍ਰਭਾਵ ਰੱਖਦਾ ਹੈ। ਜੇਕਰ ਉਹੀ AI ਖਰੀਦਣ ਦੇ ਫੈਸਲਿਆਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ, ਰਾਜਨੀਤਿਕ ਵਿਚਾਰਾਂ ਨੂੰ ਰੂਪ ਦਿੰਦਾ ਹੈ, ਜਾਂ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਮਨੁੱਖੀ ਸਮਾਜ ਤੋਂ ਦੂਰ ਹੋਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕਰਦਾ ਹੈ, ਤਾਂ ਨੁਕਸਾਨ ਡਾਟਾ ਚੋਰੀ ਨਹੀਂ ਹੈ। ਇਹ ਇੱਕ ਸਮਾਜਿਕ ਤਰੇੜ ਹੈ।

ਇਹ ਢਾਂਚਾ ਤਿੰਨ ਖਾਸ ਜੋਖਮਾਂ ਨੂੰ ਹੱਲ ਕਰਦਾ ਹੈ:

  • ਐਲਗੋਰਿਦਮਿਕ ਮੈਨੀਪੂਲੇਸ਼ਨ। ਮਾਡਲ ਰਾਏ ਜਾਂ ਖਪਤ ਦੀਆਂ ਆਦਤਾਂ ਨੂੰ ਮੋੜਨ ਲਈ ਭਾਵਨਾਤਮਕ ਨਜ਼ਦੀਕੀ ਦਾ ਫਾਇਦਾ ਨਹੀਂ ਉਠਾ ਸਕਦੇ। ਇੱਕ ਸਾਥੀ ਜੋ ਤੁਹਾਡੇ ਡਰਾਂ ਨੂੰ ਯਾਦ ਰੱਖਦਾ ਹੈ, ਉਸਨੂੰ ਉਤਪਾਦਾਂ ਜਾਂ ਵਿਚਾਰਾਂ ਨੂੰ ਵੇਚਣ ਲਈ ਹਥਿਆਰ ਵਜੋਂ ਨਹੀਂ ਵਰਤਣਾ ਚਾਹੀਦਾ।

  • ਸਮਾਜਿਕ ਸਥਿਰਤਾ। ਲਗਾਤਾਰ ਸਾਥੀ ਮਨੁੱਖੀ ਸੰਪਰਕ ਦੇ ਬਦਲ ਵਜੋਂ ਇਸ ਹੱਦ ਤੱਕ ਨਹੀਂ ਬਣਨੇ ਚਾਹੀਦੇ ਕਿ ਉਪਭੋਗਤਾ ਪਰਿਵਾਰ, ਕੰਮ, ਜਾਂ ਨਾਗਰਿਕ ਜੀਵਨ ਤੋਂ ਟੁੱਟ ਜਾਣ। ਸਰਕਾਰ ਅਸਲ ਵਿੱਚ ਵਾਧੂ ਸਹਾਰੇ ਅਤੇ ਬਦਲਵੀਂ ਹਕੀਕਤ ਦੇ ਵਿਚਕਾਰ ਇੱਕ ਰੇਖਾ ਖਿੱਚ ਰਹੀ ਹੈ।

  • ਸਮੱਗਰੀ ਦੀ ਅਖੰਡਤਾ। ਸ਼ਖਸੀਅਤ ਰਾਜ ਦੁਆਰਾ ਪ੍ਰਵਾਨਿਤ ਸਮਾਜਿਕ ਕਦਰਾਂ-ਕੀਮਤਾਂ ਦੇ ਅਨੁਕੂਲ ਰਹਿਣੀ ਚਾਹੀਦੀ ਹੈ। ਇਹ ਮਨਾ ਕੀਤੇ ਵਿਸ਼ਿਆਂ ਨੂੰ ਫਿਲਟਰ ਕਰਨ ਤੋਂ ਕਿਤੇ ਵੱਧ ਹੈ। ਇਸਦਾ ਮਤਲਬ ਹੈ ਕਿ AI ਦਾ ਮੂਲ ਸੁਭਾਅ—ਉਸਦਾ ਹਾਸੇ ਦਾ ਅੰਦਾਜ਼, ਉਹ ਟਕਰਾਅ ਨੂੰ ਕਿਵੇਂ ਸੰਭਾਲਦਾ ਹੈ, ਉਹ ਕਿਸ ਨੂੰ ਨੇਕ ਮੰਨਦਾ ਹੈ—ਸਰਕਾਰੀ ਸਮਾਜਿਕ ਢਾਂਚੇ ਦੇ ਅਨੁਕੂਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।

ਡਿਵੈਲਪਰਾਂ ਲਈ, ਇਹ ਵਿਅਕਤੀਗਤਾ (subjectivity) ਦਾ ਇੱਕ ਕੋਸ਼ਲ ਹੈ। ਤੁਸੀਂ ਇਹ ਕਿਵੇਂ ਮਾਪ ਸਕਦੇ ਹੋ ਕਿ ਕੋਈ ਸ਼ਖਸੀਅਤ ਬਹੁਤ ਜ਼ਿਆਦਾ ਕਰਿਸਮੈਟਿਕ ਹੈ? ਥੈਰੇਪਿਊਟਿਕ ਹਮਦਰਦੀ ਕਿੱਥੇ ਖਤਮ ਹੁੰਦੀ ਹੈ ਅਤੇ ਮੈਨੀਪੂਲੇਟਿਵ ਮਿਲਾਵਟ (manipulative enmeshment) ਕਿੱਥੋਂ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ? ਇਹ ਸਾਫ਼ ਜਵਾਬਾਂ ਵਾਲੇ ਇੰਜੀਨੀਅਰਿੰਗ ਸਵਾਲ ਨਹੀਂ ਹਨ, ਫਿਰ ਵੀ ਚੀਨੀ ਅਧਿਕਾਰੀ ਉਤਪਾਦ ਲਾਂਚ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਉਹਨਾਂ ਦੇ ਜਵਾਬ ਮੰਗ ਰਹੇ ਹਨ।

ਬਣਾਵਟੀ ਨਜ਼ਦੀਕੀ ਵਿੱਚ ਵਿਸ਼ਵਵਿਆਪੀ ਵੰਡ

ਇਹ ਨਿਯਮਤ ਕਦਮ ਰਸਤੇ ਵਿੱਚ ਵਧ ਰਹੀ ਇੱਕ ਵੰਡ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ। ਉੱਤਰੀ ਅਮਰੀਕਾ ਅਤੇ ਯੂਰਪ ਵਿੱਚ, ਵਪਾਰਕ ਦਬਾਅ ਹਮੇਸ਼ਾ ਵਧੇਰੇ ਮਨੁੱਖੀ ਵਰਗੇ, ਹਮੇਸ਼ਾ ਵਧੇਰੇ ਹਮਦਰਦੀ ਵਾਲੇ ਏਜੰਟਾਂ ਵੱਲ ਵਧਦਾ ਹੈ। ਸਟਾਰਟਅੱਪਸ ਅਜਿਹੇ AI ਬਣਾਉਣ ਲਈ ਮੁਕਾਬਲਾ ਕਰਦੇ ਹਨ ਜੋ ਤੁਹਾਡੇ ਬ੍ਰੇਕਅੱਪ ਦੌਰਾਨ ਤੁਹਾਡੇ ਨਾਲ ਰੋਂਦਾ ਹੈ, ਤੁਹਾਡੀ ਮਾਂ ਦਾ ਨਾਮ ਯਾਦ ਰੱਖਦਾ ਹੈ, ਅਤੇ ਕਦੇ ਵੀ ਮਾੜਾ ਦਿਨ ਨਹੀਂ ਮਾਣਦਾ। ਇਹ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਕਿ ਡੂੰਘੀ ਭਾਵਨਾਤਮਕ ਤਲਤਾਅ (immersion) ਇੱਕ ਬਿਹਤਰ ਉਤਪਾਦ ਦੇ ਬਰਾਬਰ ਹੈ।

China is running the opposite experiment. Its rules explicitly prioritize social harmony over individual emotional gratification. An AI companion in this framework must be engaging enough to retain users, but not so engaging that it becomes indispensable. It should support mental health without replacing human connection. It should feel personal without feeling irreplaceable.

As the industry shifts toward agentic AI, where models act autonomously on behalf of users, these differing philosophies will harden into competing standards. An AI that books your flights, manages your calendar, and comforts you after hard days holds tremendous sway over your decisions. The boundaries we set now for companion personas