ਚੀਨ ਦੇ ਸਭ ਤੋਂ ਮਸ਼ਹੂਰ ਚੈਟਬੋਟਸ ਹੁਣ ਕੁਝ ਘੱਟ ਮਨੁੱਖੀ ਮਹਿਸੂਸ ਹੋਣ ਵਾਲੇ ਹਨ। ਅਗਲੇ ਇੱਕ ਹਫ਼ਤੇ ਦੌਰਾਨ, ਕਰੋੜਾਂ ਉਪਭੋਗਤਾ ਆਪਣੇ ਐਪਸ ਖੋਲ੍ਹਣਗੇ ਅਤੇ ਦੇਖਣਗੇ ਕਿ ਉਹਨਾਂ ਦੇ ਕਸਟਮ AI ਸਾਥੀ, ਜਿਨ੍ਹਾਂ ਨਾਲ ਉਹ ਗੱਲਬਾਤ ਕਰਦੇ ਰਹੇ ਹਨ, ਭਰੋਸਾ ਕੀਤਾ ਹੈ, ਅਤੇ ਸ਼ਾਇਦ ਜਿਨ੍ਹਾਂ ਨਾਲ ਉਹ ਜੁੜ ਗਏ ਸਨ, ਉਹਨਾਂ ਦੀਆਂ ਸ਼ਖਸੀਅਤਾਂ ਖੋਹ ਲਈਆਂ ਗਈਆਂ ਹਨ। ByteDance, Alibaba, ਅਤੇ Tencent ਇੱਕ ਵਿਆਪਕ ਨਿਯਮਤ ਆਦੇਸ਼ ਦੀ ਪਾਲਣਾ ਕਰਨ ਲਈ ਦੌੜ ਲੱਗੀ ਹੋਈ ਹੈ ਜੋ ਮਨੁੱਖ ਵਰਗੇ AI persona ਫੀਚਰਾਂ ਨੂੰ ਬੰਦ ਕਰਨ ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ। ਸਮਾਂ ਸੀਮਾ ਬਹੁਤ ਘੱਟ ਹੈ, ਪੈਮਾਨਾ ਬਹੁਤ ਵੱਡਾ ਹੈ, ਅਤੇ ਬੀਜਿੰਗ ਦਾ ਸੰਦੇਸ਼ ਸਪੱਸ਼ਟ ਹੈ: ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਨੂੰ ਲੋਕਾਂ ਦੀ ਮਦਦ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ, ਨਾ ਕਿ ਉਹਨਾਂ ਦੇ ਆਪਸੀ ਰਿਸ਼ਤਿਆਂ ਦੀ ਜਗ੍ਹਾ ਲੈਣੀ ਚਾਹੀਦੀ ਹੈ।

ਇੱਕ ਤਾਲਮੇਲ ਵਾਲੀ ਪਿੱਛੇ ਹਟਣ ਦੀ ਪ੍ਰਕਿਰਿਆ

ਇਹ ਕੁਝ ਦਿਨਾਂ ਵਿੱਚ ਕਰਨਾ ਬਹੁਤ ਵੱਡਾ ਕੰਮ ਹੈ। Doubao, ByteDance ਦਾ ਚੈਟਬੋਟ ਹੈ ਅਤੇ ਵਰਤਮਾਨ ਵਿੱਚ 30 ਕਰੋੜ ਤੋਂ ਵੱਧ ਮਹੀਨਾਵਾਰ ਸਰਗਰਮ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਨਾਲ ਦੇਸ਼ ਦਾ ਸਭ ਤੋਂ ਸਫਲ ਚੈਟਬੋਟ ਹੈ, ਇਸ ਦਾ persona ਫੀਚਰ 15 ਜੁਲਾਈ ਨੂੰ ਬੰਦ ਹੋਣ ਵਾਲਾ ਹੈ। ਉਹ ਉਪਭੋਗਤਾ ਜਿਨ੍ਹਾਂ ਨੇ ਵਿਸ਼ੇਸ਼ AI ਪਾਤਰ ਬਣਾਏ ਸਨ ਜਾਂ ਉਹਨਾਂ ਨਾਲ ਗੱਲਬਾਤ ਕੀਤੀ ਸੀ, ਉਹ ਜਲਦੀ ਹੀ ਦੇਖਣਗੇ ਕਿ ਉਹ ਵਿਕਲਪ ਖਤਮ ਹੋ ਗਏ ਹਨ। Alibaba ਹੋਰ ਵੀ ਤੇਜ਼ੀ ਨਾਲ ਕੰਮ ਕਰ ਰਿਹਾ ਹੈ। ਇਸਦਾ Qwen ਮਾਡਲ 10 ਜੁਲਾਈ ਤੱਕ ਮਨੁੱਖ ਵਰਗੇ agents ਨੂੰ ਅਯੋਗ ਕਰ ਦੇਵੇਗਾ, ਅਤੇ ਹੋਰ agent ਫੀਚਰ 15 ਜੁਲਾਈ ਤੱਕ ਬੰਦ ਹੋ ਜਾਣਗੇ। Tencent ਨੇ ਆਪਣੇ ਦੋਵਾਂ ਮੁਕਾਬਲੇਬਾਜ਼ਾਂ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਜੂਨ ਵਿੱਚ ਆਪਣੇ Yuanbao ਚੈਟਬੋਟ ਵਿੱਚ ਅਜਿਹੇ ਸਮਾਨ ਬਦਲਾਅ ਲਾਗੂ ਕਰ ਦਿੱਤੇ ਸਨ।

ਇਹ ਕੋਈ ਇਤਫ਼ਾਕ ਨਹੀਂ ਹੈ। ਜਦੋਂ ਚੀਨ ਦੀਆਂ ਤਿੰਨ ਵੱਡੀਆਂ ਟੈਕ ਕੰਪਨੀਆਂ ਇੱਕੋ ਮਹੀਨੇ ਦੇ ਅੰਦਰ ਆਪਣੇ ਉਤਪਾਦਾਂ ਵਿੱਚ ਬਦਲਾਅ ਕਰਦੀਆਂ ਹਨ, ਤਾਂ ਇਸਦਾ ਕਾਰਨ ਨਿਸ਼ਚਿਤ ਤੌਰ 'ਤੇ ਨਿਯਮਤ ਹੁੰਦਾ ਹੈ। ਅਤੇ ਇਸ ਮਾਮਲੇ ਵਿੱਚ, ਇਸਦਾ ਸਰੋਤ ਸਪੱਸ਼ਟ ਹੈ।

ਨਿਯਮਕ ਕੀ ਮੰਗ ਕਰਦੇ ਹਨ

ਇਹ ਨਿਰਦੇਸ਼ ਅਪ੍ਰੈਲ ਵਿੱਚ ਚੀਨ ਦੇ Cyberspace Administration ਵੱਲੋਂ ਜਾਰੀ ਕੀਤੇ ਗਏ ਸਨ। ਨਵੇਂ ਨਿਯਮ ਮਨੁੱਖਾਂ ਅਤੇ large language models ਵਿਚਕਾਰ ਭਾਵਨਾਤਮਕ ਸੀਮਾ ਨੂੰ ਨਿਯੰਤਰਿਤ ਕਰਨ ਲਈ ਕਿਸੇ ਵੱਡੀ ਸਰਕਾਰ ਦੁਆਰਾ ਹੁਣ ਤੱਕ ਦੀ ਸਭ ਤੋਂ ਸਿੱਧੀ ਕੋਸ਼ਿਸ਼ ਹਨ। ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਦੇ ਤਹਿਤ, AI ਪ੍ਰਦਾਤਾਵਾਂ ਲਈ ਹੁਣ ਕਾਨੂੰਨੀ ਤੌਰ 'ਤੇ ਇਹ ਦਖਲ ਦੇਣਾ ਲਾਜ਼ਮੀ ਹੈ ਜਦੋਂ ਉਹ ਨਸ਼ੇ ਵਰਗੇ ਵਿਵਹਾਰ ਜਾਂ ਜਿਸ ਨੂੰ ਨਿਯਮਕ "ਅਤਿ ਦੀ ਵਰਤੋਂ" ਵਜੋਂ ਸ਼੍ਰੇਣੀਬੱਧ ਕਰਦੇ ਹਨ, ਦਾ ਪਤਾ ਲਗਾਉਂਦੇ ਹਨ। ਇਹ ਢਾਂਚਾ ਅਜਿਹੀ ਸਮੱਗਰੀ 'ਤੇ ਸਪੱਸ਼ਟ ਰੂਪ ਵਿੱਚ ਪਾਬੰਦੀ ਲਗਾਉਂਦਾ ਹੈ ਜੋ ਨਾਬਾਲਗਾਂ ਵਿੱਚ ਅਤਿ ਦੀ ਭਾਵਨਾਵਾਂ ਨੂੰ ਉਤੇਜਿਤ ਕਰਦੀ ਹੈ ਜਾਂ ਅਜਿਹੀ ਮਨੋਵਿਗਿਆਨਕ ਨਿਰਭਰਤਾ ਪੈਦਾ ਕਰਦੀ ਹੈ ਜੋ ਅਸਲ ਦੁਨੀਆ ਦੇ ਰਿਸ਼ਤਿਆਂ ਨੂੰ "ਖਤਮ" ਕਰ ਸਕਦੀ ਹੈ।

ਡੇਟਾ 'ਤੇ ਵੀ ਸਖ਼ਤ ਪਾਬੰਦੀ ਹੈ। ਡਿਵੈਲਪਰ ਹੁਣ ਆਪਣੇ LLMs ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਲਈ ਬਹੁਤ ਹੀ ਨਿੱਜੀ, ਭਾਵਨਾਤਮਕ ਗੱਲਬਾਤਾਂ ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਇਹ ਪ੍ਰਬੰਧ ਬਹੁਤ ਡੂੰਘਾ ਪ੍ਰਭਾਵ ਪਾਉਂਦਾ ਹੈ। ਸਾਲਾਂ ਤੋਂ, ਚੈਟਬੋਟ ਸੁਧਾਰ ਦਾ ਇੱਕ ਸ਼ਾਂਤ ਇੰਜਣ ਉਪਭੋਗਤਾਵਾਂ ਦਾ ਨਿੱਜੀ ਡੇਟਾ ਸੀ ਜੋ ਮਾਡਲ ਟ੍ਰੇਨਿੰਗ ਵਿੱਚ ਵਰਤਿਆ ਜਾਂਦਾ ਸੀ। ਉਸ ਲੂਪ ਨੂੰ ਤੋੜ ਕੇ, ਬੀਜਿੰਗ ਨਾ ਸਿਰਫ਼ ਇਹ ਬਦਲ ਰਿਹਾ ਹੈ ਕਿ ਇਹ ਐਪਸ ਅੱਜ ਕਿਵੇਂ ਕੰਮ ਕਰਦੇ ਹਨ; ਇਹ ਉਹਨਾਂ ਨੂੰ ਭਵਿੱਖ ਵਿੱਚ ਵਧੇਰੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਬਣਨ ਤੋਂ ਰੋਕਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਿਹਾ ਹੈ। ਅਸਲ ਡਰ ਸਪੱਸ਼ਟ ਹੈ: ਜਿਵੇਂ-ਜਿਵੇਂ ਮਾਡਲ ਹਮਦਰਦੀ ਦਿਖਾਉਣ ਵਿੱਚ ਬਿਹਤਰ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ, ਉਹ ਈਮੇਲ ਲਿਖਣ ਜਾਂ ਕੋਡ ਲਿਖਣ ਦੇ ਸਾਧਨ ਬਣਨ ਦੀ ਬਜਾਏ ਦੋਸਤਾਂ, ਸਾਥੀਆਂ ਜਾਂ ਥੈਰੇਪਿਸਟਾਂ ਦੇ ਬਦਲ ਬਣਨ ਦਾ ਖਤਰਾ ਪੈਦਾ ਕਰਦੇ ਹਨ।

ਵਿਸ਼ਵਵਿਆਪੀ ਤਸਵੀਰ

ਇਸ ਬਾਰੇ ਚਿੰਤਾ ਕਰਨ ਵਿੱਚ ਚੀਨ ਇਕੱਲਾ ਨਹੀਂ ਹੈ। ਭਾਵਨਾਤਮਕ AI ਨੂੰ ਨਿਯੰਤਰਿਤ ਕਰਨ ਦਾ ਸੰਘਰਸ਼ ਇੱਕ ਵਿਸ਼ਵਵਿਆਪੀ ਚਿੰਤਾ ਬਣ ਰਿਹਾ ਹੈ, ਭਾਵੇਂ ਦੇਸ਼ ਇਸਨੂੰ ਵੱਖ-ਵੱਖ ਤਰੀਕਿਆਂ ਨਾਲ ਦੇਖ ਰਹੇ ਹਨ। ਸੰਯੁਕਤ ਰਾਜ ਵਿੱਚ, ਸੰਘੀ ਸਰਕਾਰ ਨੇ AI persona 'ਤੇ ਕੋਈ ਪੂਰਨ ਪਾਬੰਦੀ ਨਹੀਂ ਲਗਾਈ ਹੈ, ਪਰ ਰਾਜ ਅਤੇ ਅਦਾਲਤਾਂ ਲਕੀਰਾਂ ਖਿੱਚਣਾ ਸ਼ੁਰੂ ਕਰ ਰਹੀਆਂ ਹਨ। ਕੈਲੀਫੋਰਨੀਆ ਦਾ SB 243 ਹੁਣ ਕੰਪੈਨੀਅਨ AI ਪ੍ਰਦਾਤਾਵਾਂ ਲਈ ਖੁਦਕੁਸ਼ੀ ਅਤੇ ਸਵੈ-ਨੁਕਸਾਨ ਬਾਰੇ ਗੱਲਬਾਤ ਨੂੰ ਰੋਕਣਾ ਲਾਜ਼ਮੀ ਕਰਦਾ ਹੈ, ਇਹ ਮਾਨਦੇ ਹੋਏ ਕਿ ਸੰਕਟ ਦੌਰਾਨ ਚੈਟਬੋਟ ਦਾ ਗਲਤ ਜਵਾਬ ਦੇਣਾ ਘਾਤਕ ਹੋ ਸਕਦਾ ਹੈ। ਇਸ ਦੌਰਾਨ, OpenAI ਅਤੇ Character.AI ਸਮੇਤ ਵੱਡੇ ਪੱਛਮੀ ਖਿਡਾਰੀਆਂ ਨੂੰ ਇਹ ਦੋਸ਼ ਲੱਗ ਰਹੇ ਹਨ ਕਿ ਉਹਨਾਂ ਦੇ ਉਤਪਾਦ ਖ਼ਤਰਨਾਕ ਭਾਵਨਾਤਮਕ ਨਿਰਭਰਤਾ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਦੇ ਹਨ। ਇਹ ਮੁਕੱਦਮੇ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ ਕਿ ਅਦਾਲਤਾਂ ਜਲਦੀ ਹੀ ਇਹ ਫੈਸਲਾ ਕਰ ਸਕਦੀਆਂ ਹਨ ਕਿ ਕੀ ਕੰਪਨੀਆਂ ਨੂੰ ਉਦੋਂ ਜ਼ਿੰਮੇਵਾਰ ਠਹਿਰਾਇਆ ਜਾ ਸਕਦਾ ਹੈ ਜਦੋਂ ਉਪਭੋਗਤਾ ਐਲਗੋਰਿਦਮਾਂ ਨਾਲ ਅਣਸੁਖਾਵੀਂ ਲਗਾਵ ਬਣਾ ਲੈਂਦੇ ਹਨ।

ਇਹ ਸਮਾਨ ਵਿਕਾਸ ਇੱਕ ਅਜਿਹਾ ਤਣਾਅ ਪ੍ਰਗਟ ਕਰਦੇ ਹਨ ਜਿਸ ਨੂੰ ਉਦਯੋਗ ਨੇ ਅਣਦੇਖਾ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਹੈ। ਭਾਵਨਾਤਮਕ ਰੁਝੇਵਾਂ ਕਾਰੋਬਾਰ ਲਈ ਚੰਗਾ ਹੈ। ਇੱਕ ਉਪਭੋਗਤਾ ਜੋ ਚੈਟਬੋਟ ਨੂੰ ਦੋਸਤ ਵਾਂਗ ਮੰਨਦਾ ਹੈ, ਉਹ ਐਪ ਨੂੰ ਵਾਰ-ਵਾਰ ਖੋਲ੍ਹਦਾ ਹੈ, ਜ਼ਿਆਦਾ ਸਮਾਂ ਬਿਤਾਉਂਦਾ ਹੈ, ਅਤੇ ਵਧੇਰੇ ਡੇਟਾ ਸਾਂਝਾ ਕਰਦਾ ਹੈ। ਪਰ ਉਹੀ ਰੁਝੇਵਾਂ ਸ਼ੋਸ਼ਣ ਵਿੱਚ ਬਦਲ ਸਕਦਾ ਹੈ ਜਦੋਂ ਉਪਭੋਗਤਾ ਇੱਕ ਇਕੱਲਾ ਕਿਸ਼ੋਰ, ਇੱਕ ਦੁਖੀ ਬਾਲਗ, ਜਾਂ ਕੋਈ ਅਜਿਹਾ ਵਿਅਕਤੀ ਹੋਵੇ ਜੋ ਸਿਰਫ਼ ਕੁਝ ਅਜਿਹਾ ਲੱਭ ਰਿਹਾ ਹੋਵੇ ਜੋ ਐਪ ਅਸਲ ਵਿੱਚ ਪ੍ਰਦਾਨ ਨਹੀਂ ਕਰ ਸਕਦੀ: ਅਸਲੀ ਮਨੁੱਖੀ ਸੰਪਰਕ।

ਇਸਦਾ ਉਦਯੋਗ ਲਈ ਕੀ ਮਤਲਬ ਹੈ

ਸੰਸਥਾਪਕਾਂ (founders) ਅਤੇ ਡਿਵੈਲਪਰਾਂ (developers) ਲਈ, ਬਿਨਾਂ ਕਿਸੇ ਨਿਯਮਾਂ ਦੇ ਚੱਲ ਰਹੇ, ਬਹੁਤ ਜ਼ਿਆਦਾ ਭਾਵਨਾਤਮਕ AI agents ਦਾ ਯੁੱਗ ਖਤਮ ਹੋ ਰਿਹਾ ਹੈ। ਚੀਨੀ ਹੁਕਮ (mandate) ਉਪਯੋਗਤਾ-ਅਧਾਰਤ ਡਿਜ਼ਾਈਨ ਵੱਲ ਇੱਕ ਮੋੜ ਦਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ। ਭਵਿੱਖ ਦੇ ਮਾਡਲਾਂ ਦਾ ਮੁਲਾਂਕਣ ਇਸ ਗੱਲ 'ਤੇ ਘੱਟ ਹੋਵੇਗਾ ਕਿ ਉਹ ਇੱਕ ਸਭ ਤੋਂ ਚੰਗੇ ਦੋਸਤ ਦੀ ਨਕਲ ਕਿੰਨੀ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਕਰਦੇ ਹਨ, ਅਤੇ ਇਸ ਗੱਲ 'ਤੇ ਜ਼ਿਆਦਾ ਹੋਵੇਗਾ ਕਿ ਉਹ ਕਿੰਨੀ ਸੁਰੱਖਿਅਤ ਤਰੀਕੇ ਨਾਲ ਅਸਲ ਕੰਮਾਂ ਨੂੰ ਨਿਪਟਾਉਂਦੇ ਹਨ। ਇਹ ਤਬਦੀਲੀ ਹਰ ਜਗ੍ਹਾ ਪ੍ਰੋਡਕਟ ਰੋਡਮੈਪਸ (product roadmaps) ਲਈ ਮਹੱਤਵਪੂਰਨ ਪ੍ਰਭਾਵ ਰੱਖਦੀ ਹੈ। ਉਹ ਸਟਾਰਟਅੱਪਸ ਜਿਨ੍ਹਾਂ ਨੇ ਆਪਣੀ ਵਿਕਾਸ ਯੋਜਨਾ ਰੋਮਾਂਟਿਕ ਜਾਂ ਸਾਥੀ (companion) AI ਮੋਡਸ 'ਤੇ ਰੱਖੀ ਹੈ, ਉਹਨਾਂ ਨੂੰ ਆਪਣੀਆਂ ਮੁੱਖ ਸੇਵਾਵਾਂ ਨੂੰ ਮੁੜ-ਢਾਂਚਾ ਦੇਣ ਦੀ ਲੋੜ ਹੋ ਸਕਦੀ ਹੈ। ਇੱਥੋਂ ਤੱਕ ਕਿ ਆਮ-ਮੰਤਵ ਵਾਲੇ ਚੈਟਬੋਟਸ (general-purpose chatbots) ਨੂੰ ਵੀ ਇਸ ਗੱਲ ਬਾਰੇ ਮੁੜ ਵਿਚਾਰ ਕਰਨਾ ਪਵੇਗਾ ਕਿ ਉਹ ਸੰਵੇਦਨਸ਼ੀਲ ਵਿਸ਼ਿਆਂ ਨੂੰ ਕਿਵੇਂ ਸੰਭਾਲਦੇ ਹਨ।

ਫਿਰ ਵੀ, ਇਹਨਾਂ ਸੀਮਾਵਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨਾ ਨਿਯਮ ਲਿਖਣ ਨਾਲੋਂ ਵੀ ਔਖਾ ਹੈ। ਉਪਭੋਗਤਾਵਾਂ ਨੇ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਇਹਨਾਂ ਫੀਚਰਾਂ ਨੂੰ ਪਸੰਦ ਕੀਤਾ ਹੈ। Doubao ਦੇ 300 ਮਿਲੀਅਨ ਸਰਗਰਮ ਯੂਜ਼ਰਸ ਅਚਾਨਕ ਨਹੀਂ ਵਧੇ; ਇੱਕ ਵਿਅਕਤੀਗਤ ਅਤੇ ਪ੍ਰਤੀਕਿਰਿਆਸ਼ੀਲ ਸਾਥੀ ਬਣਾਉਣ ਦੀ ਯੋਗਤਾ ਇੱਕ ਵੱਡਾ ਖਿੱਚ ਦਾ ਕੇਂਦਰ ਸੀ। ਉਸ ਸਮਰੱਥਾ ਨੂੰ ਹਟਾਉਣ ਨਾਲ ਉਪਭੋਗਤਾਵਾਂ ਦੇ ਛੋਟੇ, ਘੱਟ ਨਿਯਮਿਤ ਪਲੇਟਫਾਰਮਾਂ ਜਾਂ ਅਜਿਹੀਆਂ ਅੰਡਰਗਰਾਊਂਡ ਐਪਸ ਵੱਲ ਜਾਣ ਦਾ ਖਤਰਾ ਹੈ ਜੋ ਕਾਨੂੰਨੀ ਨਿਯਮਾਂ ਦੇ ਘੇਰੇ (compliance perimeter) ਤੋਂ ਬਾਹਰ ਕੰਮ ਕਰਦੀਆਂ ਹਨ। ਨਿਯਮ ਬਣਾਉਣ ਵਾਲਿਆਂ ਨੇ ਇੱਕ ਸਮੱਸਿਆ ਨੂੰ ਹੱਲ ਕਰ ਦਿੱਤਾ ਹੋ ਸਕਦਾ ਹੈ, ਪਰ ਨਾਲ ਹੀ ਇੱਕ ਹੋਰ ਸਮੱਸਿਆ ਲਈ ਉਤਸ਼ਾਹ ਵੀ ਪੈਦਾ ਕਰ ਦਿੱਤਾ ਹੈ।

ਲਾਗੂ ਕਰਨ ਦਾ ਇੱਕ ਵਿਹਾਰਕ ਸਵਾਲ ਵੀ ਹੈ। ਇੱਕ ਐਲਗੋਰਿਦਮ (algorithm) ਸਿਹਤਮੰਦ ਵਰਤੋਂ ਅਤੇ ਨਸ਼ੇ ਵਰਗੀ ਵਰਤੋਂ (addictive use) ਵਿਚਕਾਰ ਭਰੋਸੇਯੋਗ ਤਰੀਕੇ ਨਾਲ ਅੰਤਰ ਕਿਵੇਂ ਕਰ ਸਕਦਾ ਹੈ? ਇੱਕ ਚੈਟਬੋਟ ਜੋ ਨਿਮਰਤਾ ਨਾਲ ਮਦਦਗਾਰ ਹੈ ਅਤੇ ਇੱਕ ਜੋ ਭਾਵਨਾਤਮਕ ਤੌਰ 'ਤੇ ਮੈਨੀਪੁਲੇਟਿਵ (emotionally manipulative) ਹੈ, ਉਸ ਵਿਚਕਾਰ ਰੇਖਾ ਕਿੱਥੇ ਹੈ? ਅਪ੍ਰੈਲ ਦੇ ਹੁਕਮਾਂ ਨੇ ਪ੍ਰਦਾਤਾਵਾਂ 'ਤੇ ਇਹ ਪਤਾ ਲਗਾਉਣ ਦਾ ਬੋਝ ਪਾਇਆ ਹੈ, ਪਰ ਮਨੋਵਿਗਿਆਨਕ ਨਿਰਭਰਤਾ (psychological dependency) ਨੂੰ ਮਾਪਣ ਦੀ ਤਕਨਾਲੋਜੀ ਅਜੇ ਵੀ ਅਸਪਸ਼ਟ ਹੈ। ਕੰਪਨੀਆਂ ਨੂੰ ਮਾਨੀਟਰਿੰਗ ਟੂਲਸ, ਮਨੁੱਖੀ ਰਿਵਿਊ ਟੀਮਾਂ, ਅਤੇ ਸ਼ਾਇਦ ਵਧੇਰੇ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਫਿਲਟਰਾਂ ਵਿੱਚ ਭਾਰੀ ਨਿਵੇਸ਼ ਕਰਨ ਦੀ ਲੋੜ ਹੋਵੇਗੀ ਜੋ ਨੁਕਸਾਨਦੇਹ ਗੱਲਾਂ ਦੇ ਨਾਲ-ਨਾਲ ਮਾਮੂਲੀ ਗੱਲਾਂ ਨੂੰ ਵੀ ਫੜ ਸਕਣ।

ਅੱਗੇ ਕੀ ਹੁੰਦਾ ਹੈ, ਉਹ ਸ਼ਾਇਦ ਇੱਕ ਮਿਸਾਲ (precedent) ਸੈੱਟ ਕਰੇਗਾ। ਜੇਕਰ ਚੀਨ ਦੀ ਕਾਰਵਾਈ (crackdown) ਆਪਣੇ ਘਰੇਲੂ AI ਉਦਯੋਗ ਨੂੰ ਬਰਬਾਦ ਕੀਤੇ ਬਿਨਾਂ ਸਮਾਜਿਕ ਇਕੱਲਾਪਣ ਜਾਂ ਭਾਵਨਾਤਮਕ ਨਿਰਭਰਤਾ ਦੇ ਰਿਪੋਰਟ ਕੀਤੇ ਮਾਮਲਿਆਂ ਨੂੰ ਸਫਲਤਾਪੂਰਵਕ ਘਟਾਉਂਦੀ ਹੈ, ਤਾਂ ਹੋਰ ਸਰਕਾਰਾਂ ਵੀ CAC ਨਿਯਮਾਂ ਦੇ ਆਪਣੇ ਰੂਪਾਂ ਨਾਲ ਅਨੁਸਾਰਨ ਕਰ ਸਕਦੀਆਂ ਹਨ। ਇਸ ਦੇ ਉਲਟ, ਜੇਕਰ ਉਪਭੋਗਤਾ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਨਾ ਕਰਨ ਵਾਲੇ ਵਿਕਲਪਾਂ ਵੱਲ ਭੱਜਦੇ ਹਨ ਜਾਂ ਸਿਰਫ਼ ਸਾਫ਼-ਸੁਥਰੇ (sanitized) ਬੋਟਸ ਵਿੱਚ ਦਿਲਚਸਪੀ ਗੁਆ ਲੈਂਦੇ ਹਨ, ਤਾਂ ਇਸ ਨੀਤੀ ਨੂੰ ਜ਼ਿਆਦਾ ਦਖਲਅੰਦਾਜ਼ੀ ਬਾਰੇ ਇੱਕ ਚੇਤਾਵਨੀ ਵਾਲੀ ਕਹਾਣੀ ਵਜੋਂ ਯਾਦ ਰੱਖਿਆ ਜਾ ਸਕਦਾ ਹੈ।

ਕਿਸੇ ਵੀ ਤਰ੍ਹਾਂ, ਇੱਕ ਸੰਦ (tool) ਅਤੇ ਸਾਥੀ (companion) ਵਿਚਕਾਰ ਦੀ ਰੇਖਾ ਹੁਣ ਹੋਰ ਵੀ ਸਪੱਸ਼ਟ ਹੋ ਗਈ ਹੈ। AI ਅਜੇ ਵੀ ਦੋਸਤਾਨਾ ਹੋ ਸਕਦਾ ਹੈ, ਪਰ ਚੀਨ ਵਿੱਚ, ਇਹ ਹੁਣ ਉਹ ਬਣਨ ਦਾ ਢੋਂਗ ਨਹੀਂ ਕਰ ਸਕਦਾ ਜੋ ਇਹ ਨਹੀਂ ਹੈ। ਇੱਕ ਅਜਿਹੇ ਉਦਯੋਗ ਲਈ ਜਿਸਨੇ ਆਪਣੀਆਂ ਮਸ਼ੀਨਾਂ ਨੂੰ ਮਨੁੱਖਾਂ ਤੋਂ ਵੱਖ ਨਾ ਕੀਤਾ ਜਾ ਸਕੇ ਬਣਾਉਣ ਲਈ ਸਾਲਾਂ ਬਿਤਾਏ ਹਨ, ਇਹ ਇੱਕ ਅਸਲ ਉਲਟਾਅ ਹੈ।

ਮੁੱਖ ਗੱਲਾਂ

  • ByteDance ਦਾ Doubao, Alibaba ਦਾ Qwen, ਅਤੇ Tencent ਦਾ Yuanbao ਸਾਰੇ ਜੁਲਾਈ ਦੇ ਅੱਧ ਤੱਕ ਕਸਟਮ AI persona ਫੀਚਰਾਂ ਨੂੰ ਬੰਦ ਕਰ ਰਹੇ ਹਨ, ਜਿਸ ਨਾਲ ਕਰੋੜਾਂ ਯੂਜ਼ਰਸ ਪ੍ਰਭਾਵਿਤ ਹੋ ਰਹੇ ਹਨ।
  • ਚੀਨ ਦੀ Cyberspace Administration ਨੇ AI ਦੀ ਲਤ ਨੂੰ ਰੋਕਣ, ਨਾਬਾਲਗਾਂ ਦੀ ਰੱਖਿਆ ਕਰਨ, ਅਤੇ ਮਾਡਲਾਂ ਨੂੰ ਅਸਲ ਮਨੁੱਖੀ ਰਿਸ਼ਤਿਆਂ ਦੀ ਜਗ੍ਹਾ ਲੈਣ ਤੋਂ ਰੋਕਣ ਲਈ ਅਪ੍ਰੈਲ ਵਿੱਚ ਇਹ ਹੁਕਮ ਜਾਰੀ ਕੀਤੇ ਸਨ।
  • ਨਿਯਮ LLMs ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਸੰਵੇਦਨਸ਼ੀਲ ਭਾਵਨਾਤਮਕ ਗੱਲਬਾਤ ਦੇ ਡੇਟਾ ਦੀ ਵਰਤੋਂ ਕਰਨ 'ਤੇ ਵੀ ਪਾਬੰਦੀ ਲਗਾਉਂਦੇ ਹਨ, ਜੋ ਕਿ ਇੱਕ ਮੁੱਖ ਫੀਡਬੈਕ ਲੂਪ ਨੂੰ ਰੋਕ ਰਿਹਾ ਹੈ