Sometimes the backlash arrives faster than the product manual. Meta learned this the hard way when it quietly rolled out

ਕਦੇ-ਕਦੇ ਵਿਰੋਧ ਉਤਪਾਦ ਦੀ ਮੈਨੂਅਲ ਨਾਲੋਂ ਵੀ ਤੇਜ਼ੀ ਨਾਲ ਆ ਜਾਂਦਾ ਹੈ। Meta ਨੇ ਇਹ ਸਖ਼ਤ ਤਰੀਕੇ ਨਾਲ ਸਿੱਖਿਆ ਜਦੋਂ ਉਸਨੇ ਆਪਣੇ Muse Image AI ਮਾਡਲ ਦੇ ਅੰਦਰ ਇੱਕ ਨਵੀਂ ਸਮਰੱਥਾ ਨੂੰ ਚੁੱਪਚਾਪ ਲਾਗੂ ਕੀਤਾ, ਪਰ ਕੁਝ ਦਿਨਾਂ ਬਾਅਦ ਭਾਰੀ ਆਲੋਚਨਾ ਦੇ ਵਿਚਕਾਰ ਆਪਣਾ ਫੈਸਲਾ ਬਦਲਣਾ ਪਿਆ। ਇਸ ਟੂਲ ਨੇ ਕਿਸੇ ਵੀ Instagram ਯੂਜ਼ਰ ਨੂੰ ਆਪਣੇ ਪ੍ਰੋਂਪਟ ਵਿੱਚ ਇੱਕ ਪਬਲਿਕ ਅਕਾਊਂਟ ਨੂੰ ਟੈਗ ਕਰਕੇ ਸਿਰਫ਼ AI ਤਸਵੀਰਾਂ ਬਣਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੱਤੀ। @-mention ਟਾਈਪ ਕਰਕੇ, ਯੂਜ਼ਰ ਸਿਸਟਮ ਨੂੰ ਟਾਰਗੇਟ ਅਕਾਊਂਟ ਦੀ ਦਿੱਖ, ਸੁੰਦਰਤਾ (aesthetic), ਜਾਂ ਪੋਸਟ ਕੀਤੇ ਗਏ ਕੰਟੈਂਟ ਤੋਂ ਪ੍ਰੇਰਿਤ ਨਵੇਂ ਵਿਜ਼ੂਅਲ ਤਿਆਰ ਕਰਨ ਲਈ ਨਿਰਦੇਸ਼ ਦੇ ਸਕਦੇ ਸਨ। Meta ਨੇ ਹੁਣ ਇਸ ਫੀਚਰ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬੰਦ ਕਰ ਦਿੱਤਾ ਹੈ। ਇਹ ਘਟਨਾ ਕੰਪਨੀ ਦੇ ਆਪਣੇ ਪਲੇਟਫਾਰਮਾਂ ਵਿੱਚ ਜਨਰੇਟਿਵ AI ਨੂੰ ਜੋੜਨ ਦੇ ਹਾਲੀਆ ਯਤਨਾਂ ਵਿੱਚੋਂ ਇੱਕ ਸਭ ਤੋਂ ਅਚਾਨਕ ਪਿੱਛੇ ਹਟਣ ਵਾਲੇ ਮਾਮਲਿਆਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ।

ਉਹ ਫੀਚਰ ਜਿਸ ਨੇ ਗੁੱਸਾ ਭੜਕਾਇਆ

ਇਸਦੀ ਕਾਰਜਪ੍ਰਣਾਲੀ ਸਧਾਰਨ ਸੀ, ਅਤੇ ਇਹੀ ਅਸਲ ਸਮੱਸਿਆ ਸੀ। ਇੱਕ ਯੂਜ਼ਰ Meta AI ਖੋਲ੍ਹ ਸਕਦਾ ਸੀ, ਉਹ ਤਸਵੀਰ ਦਾ ਵਰਣਨ ਕਰ ਸਕਦਾ ਸੀ ਜੋ ਉਹ ਚਾਹੁੰਦਾ ਸੀ, ਅਤੇ ਇੱਕ ਪਬਲਿਕ Instagram ਹੈਂਡਲ ਦਾ ਹਵਾਲਾ ਦੇ ਸਕਦਾ ਸੀ। ਮਾਡਲ ਫਿਰ ਉਸ ਅਕਾਊਂਟ ਦੀਆਂ ਜਨਤਕ ਤੌਰ 'ਤੇ ਦਿਖਾਈ ਦੇਣ ਵਾਲੀਆਂ ਫੋਟੋਆਂ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਦਾ ਅਤੇ ਅਜਿਹੀਆਂ ਡੈਰੀਵੇਟਿਵ ਤਸਵੀਰਾਂ ਤਿਆਰ ਕਰਦਾ ਜੋ ਵਿਸ਼ੇ ਦੇ ਚਿਹਰੇ, ਸਰੀਰ, ਕੱਪੜਿਆਂ ਦੀ ਸ਼ੈਲੀ, ਜਾਂ ਕਲਾਤਮਕ ਅੰਦਾਜ਼ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਸਨ। ਅਦਾਕਾਰਾਂ, ਫੋਟੋਗ੍ਰਾਫਰਾਂ, ਮਾਡਲਾਂ ਅਤੇ ਰੋਜ਼ਾਨਾ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਯੂਜ਼ਰਾਂ ਲਈ ਜਿਨ੍ਹਾਂ ਨੇ ਆਪਣੀਆਂ ਪ੍ਰੋਫਾਈਲਾਂ ਪਬਲਿਕ ਰੱਖੀਆਂ ਹੋਈਆਂ ਹਨ, ਇਸਦਾ ਮਤਲਬ ਸੀ ਕਿ ਉਨ੍ਹਾਂ ਦੀਆਂ ਡਿਜੀਟਲ ਪਛਾਣਾਂ ਨੂੰ ਬਿਨਾਂ ਕਿਸੇ ਸਿੱਧੀ ਬੇਨਤੀ ਜਾਂ ਚੇਤਾਵਨੀ ਦੇ ਰੀਮਿਕਸ ਕੀਤਾ ਜਾ ਸਕਦਾ ਸੀ।

Meta ਨੇ ਇਸ ਫੰਕਸ਼ਨ ਨੂੰ ਇੱਕ ਰਚਨਾਤਮਕ ਤੇਜ਼ਕਰਤਾ (creative accelerator) ਵਜੋਂ ਪੇਸ਼ ਕੀਤਾ। ਕੰਪਨੀ ਨੇ ਸ਼ਾਇਦ ਇਹ ਕਲਪਨਾ ਕੀਤੀ ਹੋਵੇਗੀ ਕਿ ਪ੍ਰਸ਼ੰਸਕ ਆਪਣੇ ਮਨਪਸੰਦ ਕ੍ਰਿਏਟਰਾਂ ਜਾਂ ਕਲਾਕਾਰਾਂ ਦੇ ਸਟਾਈਲਿਸ਼ ਪੋਰਟਰੇਟ ਬਣਾਉਣਗੇ ਜਾਂ ਵਿਜ਼ੂਅਲ ਥੀਮਾਂ 'ਤੇ ਕੰਮ ਕਰਨਗੇ। ਪਰ ਇਰਾਦੇ ਅਤੇ ਲਾਗੂ ਕਰਨ ਦੇ ਤਰੀਕੇ ਵਿਚਕਾਰ ਇੱਕ ਬਹੁਤ ਵੱਡਾ ਪਾੜਾ ਸੀ। ਕਿਉਂਕਿ ਇਸ ਟੂਲ ਲਈ ਅਕਾਊਂਟ ਮਾਲਕ ਦੀ ਸਹਿਮਤੀ ਦੀ ਲੋੜ ਨਹੀਂ ਸੀ, ਇਸ ਲਈ ਹਰ ਪਬਲਿਕ ਪ੍ਰੋਫਾਈਲ ਕੀਬੋਰਡ ਵਾਲੇ ਕਿਸੇ ਵੀ ਵਿਅਕਤੀ ਲਈ ਸੰਭਾਵੀ ਕੱਚਾ ਮਾਲ ਬਣ ਗਈ। ਪ੍ਰਾਈਵੇਟ ਅਕਾਊਂਟ ਪ੍ਰਭਾਵਿਤ ਨਹੀਂ ਹੋਏ, ਪਰ ਲੱਖਾਂ ਯੂਜ਼ਰਾਂ ਲਈ ਜਿਨ੍ਹਾਂ ਦੀਆਂ ਪ੍ਰੋਫਾਈਲਾਂ ਪੇਸ਼ੇਵਰ ਜਾਂ ਸਮਾਜਿਕ ਕਾਰਨਾਂ ਕਰਕੇ ਪਬਲਿਕ ਹਨ, ਪਲੇਟਫਾਰਮ ਨੇ ਅਸਲ ਵਿੱਚ ਉਨ੍ਹਾਂ ਦੀ ਦਿੱਖ ਨੂੰ ਐਲਗੋਰਿਦਮਿਕ ਮੁੜ-ਵਰਤੋਂ ਲਈ ਖੁੱਲ੍ਹਾ ਐਲਾਨ ਦਿੱਤਾ। ਇਹ ਰਵਾਇਤੀ ਅਰਥਾਂ ਵਿੱਚ ਬਲਕ ਡਾਟਾ ਸਕ੍ਰੈਪਿੰਗ ਨਹੀਂ ਸੀ। ਇਹ ਅਸਲ ਲੋਕਾਂ ਦਾ ਨਿਸ਼ਾਨਾ ਬਣਾ ਕੇ, ਮੰਗ ਅਨੁਸਾਰ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਸਿੰਥੇਸਿਸ (synthesis) ਸੀ।

ਆਲੋਚਕਾਂ ਨੇ ਜਲਦੀ ਹੀ ਨੁਕਤਾ ਕੀਤਾ ਕਿ ਇਸ ਨੇ ਡਿਜੀਟਲ ਸਹਿਮਤੀ ਦੇ ਬੁਨਿਆਦੀ ਤਰਕ ਨੂੰ ਉਲਟਾ ਦਿੱਤਾ ਹੈ। ਜ਼ਿਆਦਾਤਰ ਪਲੇਟਫਾਰਮ ਜੋ ਨਿੱਜੀ ਤਸਵੀਰਾਂ ਦੀ ਤੀਜੀ ਧਿਰ ਦੁਆਰਾ ਵਰਤੋਂ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ, ਭਾਵੇਂ ਉਹ ਸੇਵਾ ਦੀਆਂ ਵਿਆਪਕ ਸ਼ਰਤਾਂ ਦੇ ਅਧੀਨ ਹੋਵੇ, ਉਹ ਕਿਸੇ ਦੀ ਦਿੱਖ ਨੂੰ ਮਰਜ਼ੀ ਅਨੁਸਾਰ ਕਲੋਨ ਕਰਨ ਲਈ ਰੈਂਡਮ ਯੂਜ਼ਰਾਂ ਨੂੰ ਕੰਟਰੋਲ ਨਹੀਂ ਦਿੰਦੇ। ਇਹ ਅੰਤਰ ਮਾਇਨੇ ਰੱਖਦਾ ਹੈ। ਟ੍ਰੇਨਿੰਗ ਡੇਟਾਸੈੱਟ ਲਈ ਜਨਤਕ ਫੋਟੋਆਂ ਦੀ ਪੈਸਿਵ ਸਕ੍ਰੈਪਿੰਗ ਇੱਕ ਨੈਤਿਕ ਲੜਾਈ ਹੈ; ਕਿਸੇ ਖਾਸ ਵਿਅਕਤੀ ਨਾਲ ਜੁੜੀ ਐਕਟਿਵ, ਯੂਜ਼ਰ-ਨਿਰਦੇਸ਼ਿਤ ਡੀਪਫੇਕ (deepfake) ਤਿਆਰ ਕਰਨਾ ਬਿਲਕੁਲ ਵੱਖਰੀ ਗੱਲ ਹੈ। ਪਬਲਿਕ ਅਕਾਊਂਟਾਂ ਨੂੰ AI ਸਿੰਥੇਸਿਸ ਲਈ ਉਪਲਬਧ ਕਰਕੇ, Meta ਨੇ ਜਨਤਕ ਦਿੱਖ ਅਤੇ ਪਛਾਣ ਦੇ ਅਧਿਕਾਰਾਂ ਦੇ ਜਨਤਕ ਸਮਰਪਣ ਵਿਚਕਾਰਲੀ ਰੇਖਾ ਨੂੰ ਧੁੰਦਲਾ ਕਰ ਦਿੱਤਾ।

ਪ੍ਰਾਈਵੇਸੀ ਜੋਖਮ ਅਤੇ "ਆਪਟ-ਆਊਟ" (Opt-Out) ਸਮੱਸਿਆ

ਆਲੋਚਨਾ ਕਈ ਦਿਸ਼ਾਵਾਂ ਤੋਂ ਆਈ, ਅਤੇ ਇਹ ਬਹੁਤ ਤਿੱਖੀ ਸੀ। ਪ੍ਰਾਈਵੇਸੀ ਵਕਤਾ, ਰਚਨਾਤਮਕ ਯੂਨੀਅਨਾਂ, ਅਤੇ ਸੁਰੱਖਿਆ ਸੰਸਥਾਵਾਂ ਸਭ ਨੇ ਇਹ ਦੱਸਣ ਲਈ ਇਕੱਠੇ ਹੋ ਕੇ ਕਿਹਾ ਕਿ Meta ਨੇ ਸਿਸਟਮ ਨੂੰ ਉਲਟ ਤਰੀਕੇ ਨਾਲ ਬਣਾਇਆ ਸੀ।

National Center on Sexual Exploitation ਦੀ ਕਾਰਜਕਾਰੀ ਨਿਰਦੇਸ਼ਕ ਹੇਲੀ ਮੈਕਨਾਮਾਰਾ ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਕਿ ਇਹ ਫੀਚਰ ਸੈਕਸਟੋਰਸ਼ਨ (sextortion) ਅਤੇ ਹੋਰ ਘੁਟਾਲਿਆਂ ਲਈ ਇੱਕ ਸਪੱਸ਼ਟ ਸਾਧਨ ਬਣ ਸਕਦਾ ਹੈ। ਉਨ੍ਹਾਂ ਦੀ ਚਿੰਤਾ ਕਲਪਨਾਤਮਕ ਨਹੀਂ ਸੀ। ਜਿਵੇਂ-ਜਿਵੇਂ ਜਨਰੇਟਿਵ ਟੂਲ ਸੁਧਰੇ ਹਨ, ਤਸਵੀਰਾਂ 'ਤੇ ਅਧਾਰਤ ਦੁਰਵਰਤੋਂ ਵਧੀ ਹੈ। ਇੱਕ ਅਜਿਹਾ ਸਿਸਟਮ ਜੋ ਕਿਸੇ ਵੀ ਯੂਜ਼ਰ ਨੂੰ ਦੂਜੇ ਵਿਅਕਤੀ ਦੀ ਦਿੱਖ ਨੂੰ ਤੁਰੰਤ ਅਨੁਮਾਨਿਤ ਕਰਨ ਅਤੇ ਉਸਨੂੰ ਮਨਮਾਨੇ ਦ੍ਰਿਸ਼ਾਂ ਵਿੱਚ ਰੱਖਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ, ਉਸ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚੋਂ ਰੁਕਾਵਟਾਂ ਨੂੰ ਖਤਮ ਕਰ ਦਿੰਦਾ ਹੈ ਜਿਸ ਲਈ ਪਹਿਲਾਂ ਘੱਟੋ-ਘੱਟ ਕੁਝ ਤਕਨੀਕੀ ਹੁਨਰ ਦੀ ਲੋੜ ਹੁੰਦੀ ਸੀ। Meta ਦੇ ਫੀਚਰ ਨੇ ਅਸਲ ਵਿੱਚ ਤਸਵੀਰਾਂ 'ਤੇ ਅਧਾਰਤ ਸ਼ੋਸ਼ਣ ਦੇ ਪਹਿਲੇ ਕਦਮ ਨੂੰ ਉਦਯੋਗੀਕਰਨ ਦੇ ਪੱਧਰ 'ਤੇ ਪਹੁੰਚਾ ਦਿੱਤਾ।

ਮਾਮਲੇ ਨੂੰ ਹੋਰ ਗੁੰਝਲਦਾਰ ਬਣਾਉਣ ਵਾਲੀ ਚੀਜ਼ ਸੀ