Anthropic ਨੇ Claude ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਗਏ ਟੈਕਸਟ ਲਈ ਇੱਕ ਵਾਟਰਮਾਰਕ ਲਾਂਚ ਕੀਤਾ ਹੈ ਤਾਂ ਜੋ EU AI Act ਦੀ ਉਸ ਸ਼ਰਤ ਨੂੰ ਪੂਰਾ ਕੀਤਾ ਜਾ ਸਕੇ ਜਿਸ ਅਨੁਸਾਰ ਸਿੰਥੈਟਿਕ ਸਮੱਗਰੀ ਨੂੰ ਮਸ਼ੀਨ-ਪੜ੍ਹਨਯੋਗ ਤਰੀਕੇ ਨਾਲ ਸਪਸ਼ਟ ਰੂਪ ਵਿੱਚ ਚਿੰਨ੍ਹਿਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਤਕਨੀਕ ਮਾਡਲ ਦੀ ਗਤੀ ਨੂੰ ਘਟਾਏ ਜਾਂ ਵਾਧੂ ਟੋਕਨਾਂ ਦੀ ਵਰਤੋਂ ਕੀਤੇ ਬਿਨਾਂ AI ਦੁਆਰਾ ਲਿਖੇ ਟੈਕਸਟ ਦੀ ਪਛਾਣ ਕਰਦੀ ਹੈ, ਇੱਕ ਅਜਿਹਾ ਦਾਅਵਾ ਜਿਸਦੀ ਨਿਯਮ ਲਾਗੂ ਕਰਨ ਵਾਲੇ ਅਤੇ ਮੁਕਾਬਲੇਬਾਜ਼ ਜਲਦੀ ਹੀ ਜਾਂਚ ਕਰਨਗੇ।

ਵਾਟਰਮਾਰਕ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਵਾਟਰਮਾਰਕ ਸ਼ਬਦਾਂ ਦੀ ਚੋਣ ਦੇ ਫੈਸਲਿਆਂ ਵਿੱਚ ਇੱਕ ਪ੍ਰਾਈਵੇਟ ਕੀ (private key) ਅਤੇ ਆਲੇ-ਦੁਆਲੇ ਦੇ ਸੰਦਰਭ ਨੂੰ ਜੋੜਦਾ ਹੈ। ਪਾਠਕ ਇਸ ਪੈਟਰਨ ਨੂੰ ਨਹੀਂ ਦੇਖ ਸਕਦੇ, ਪਰ ਇੱਕ ਵੈਰੀਫਾਇਰ ਜੋ ਕੀ ਨੂੰ ਜਾਣਦਾ ਹੈ, ਉਹ ਇਸਦੀ ਪਛਾਣ ਕਰ ਸਕਦਾ ਹੈ। ਅਸਲ ਵਿੱਚ, ਇੱਕ ਡਾਊਨਸਟ੍ਰੀਮ ਟੂਲ ਦਸਤਾਵੇਜ਼ ਨੂੰ ਸਕੈਨ ਕਰਦਾ ਹੈ ਅਤੇ ਰਿਪੋਰਟ ਕਰਦਾ ਹੈ ਕਿ ਕੀ ਇਹ Claude ਦੁਆਰਾ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਸੀ।

ਰੈਗੂਲੇਟਰੀ ਦਬਾਅ

EU AI Act ਜਨਰੇਟਿਵ ਸਿਸਟਮਾਂ ਦੇ ਪ੍ਰਦਾਤਾਵਾਂ ਨੂੰ ਸਿੰਥੈਟਿਕ ਸਮੱਗਰੀ ਵਿੱਚ ਪਛਾਣਨਯੋਗ ਸੰਕੇਤ ਲਗਾਉਣ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ।

ਵਪਾਰਕ ਸਮਝੌਤੇ

ਅਜਿਹੇ ਚਿੰਨ੍ਹ ਅਪਣਾਉਣ ਦਾ ਫੈਸਲਾ ਕਰਦੇ ਸਮੇਂ ਕੰਪਨੀਆਂ ਤਿੰਨ ਚਿੰਤਾਵਾਂ ਨਾਲ ਨਜਿੱਠਦੀਆਂ ਹਨ:

  • ਟ੍ਰੇਸੇਬਿਲਟੀ ਦੀਆਂ ਸੀਮਾਵਾਂ – ਵਾਟਰਮਾਰਕ ਇਸ ਗੱਲ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ ਕਿ ਟੈਕਸਟ ਇੱਕ AI ਮਾਡਲ ਤੋਂ ਆਇਆ ਹੈ, ਪਰ ਇਹ ਆਉਟਪੁੱਟ ਨੂੰ ਕਿਸੇ ਖਾਸ ਉਪਭੋਗਤਾ ਜਾਂ ਖਾਤੇ ਨਾਲ ਨਹੀਂ ਜੋੜ ਸਕਦਾ। ਇਹ ਖਾਮੀ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਗਈ ਸਮੱਗਰੀ ਦੀ ਦੁਰਵਰਤੋਂ ਹੋਣ 'ਤੇ ਜਵਾਬਦੇਹੀ ਨੂੰ ਅਸਪਸ਼ਟ ਰੱਖਦੀ ਹੈ।
  • ਮਾਲੀਆ ਜੋਖਮ – ਕੁਝ ਪ੍ਰਦਾਤਾਵਾਂ ਨੂੰ ਡਰ ਹੈ ਕਿ ਦਿਖਾਈ ਦੇਣ ਵਾਲੇ ਵਾਟਰਮਾਰਕ ਉਨ੍ਹਾਂ ਦੇ ਇੱਕ ਤਿਹਾਈ ਗਾਹਕਾਂ ਨੂੰ ਡਰਾ ਕੇ ਭਜਾ ਸਕਦੇ ਹਨ, ਜੋ ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਜਾਂ ਨਿੱਜਤਾ ਦੇ ਕਾਰਨਾਂ ਕਰਕੇ ਬਿਨਾਂ ਚਿੰਨ੍ਹ ਵਾਲੇ ਟੈਕਸਟ ਨੂੰ ਤਰਜੀਹ ਦਿੰਦੇ ਹਨ।
  • ਤਕਨੀਕੀ ਸੀਮਾਵਾਂ – ਇੱਕ ਪੈਟਰਨ ਨੂੰ ਲਗਾਉਣ ਨਾਲ ਮਾਡਲ ਦੇ ਆਉਟਪੁੱਟ ਦੀ ਰਚਨਾਤਮਕਤਾ ਵਿੱਚ ਥੋੜ੍ਹੀ ਕਮੀ ਆ ਸਕਦੀ ਹੈ, ਖਾਸ ਕਰਕੇ ਬਹੁਤ ਛੋਟੇ ਟੁਕੜਿਆਂ ਵਿੱਚ ਜਿੱਥੇ ਵਾਟਰਮਾਰਕ ਕੋਲ ਕੰਮ ਕਰਨ ਲਈ ਘੱਟ ਸ਼ਬਦ ਹੁੰਦੇ ਹਨ। ਉਪਭੋਗਤਾ ਟੈਕਸਟ ਦੇ ਹਿੱਸਿਆਂ ਨੂੰ ਮੈਨੂਅਲੀ ਦੁਬਾਰਾ ਲਿਖ ਕੇ (re-phrasing) ਵੀ ਸੰਕੇਤ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਇਸਦੀ ਪਛਾਣ ਕਰਨਾ ਮੁਸ਼ਕਲ ਹੋ ਜਾਂਦਾ ਹੈ।

Anthropic ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਉਸਦਾ ਤਰੀਕਾ ਇਹਨਾਂ ਵਿੱਚੋਂ ਜ਼ਿਆਦਾਤਰ ਨੁਕਸਾਨਾਂ ਨੂੰ ਟਾਲ ਦਿੰਦਾ ਹੈ। ਟੋਕਨ-ਚੋਣ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਕੀ (key) ਨੂੰ ਪਰੋ ਕੇ, ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸ ਨਾਲ ਕੋਈ ਲੇਟੈਂਸੀ (latency) ਦੀ ਸਮੱਸਿਆ ਜਾਂ ਵਾਧੂ ਟੋਕਨ ਦੀ ਲਾਗਤ ਨਹੀਂ ਆਉਂਦੀ, ਜਿਸ ਨਾਲ ਭੁਗਤਾਨ ਕਰਦੇ ਗਾਹਕਾਂ ਦੀ ਉਮੀਦ ਅਨੁਸਾਰ ਯੂਜ਼ਰ ਐਕਸਪੀਰੀਅੰਸ ਬਣਿਆ ਰਹਿੰਦਾ ਹੈ।

ਤਕਨੀਕੀ ਚੁਣੌਤੀਆਂ

ਪਛਾਣਨਯੋਗਤਾ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀ ਹੈ ਕਿ ਵੈਰੀਫਾਇਰ ਕੋਲ ਉਹੀ ਪ੍ਰਾਈਵੇਟ ਕੀ ਹੋਵੇ ਜੋ ਜਨਰੇਸ਼ਨ ਦੌਰਾਨ ਵਰਤੀ ਗਈ ਸੀ। ਛੋਟੇ ਟੈਕਸਟ ਅਜੇ ਵੀ ਇੱਕ ਕਮਜ਼ੋਰ ਬਿੰਦੂ ਹਨ ਕਿਉਂਕਿ ਅੰਕੜਾ ਵਿਗਿਆਨਕ ਪੈਟਰਨ (statistical pattern) ਘੱਟ ਸਪਸ਼ਟ ਹੁੰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਫਾਲਸ-ਨੈਗੇਟਿਵ (false-negative) ਦਰਾਂ ਵਧ ਜਾਂਦੀਆਂ ਹਨ। ਵਾਟਰਮਾਰਕ ਡਾਊਨਸਟ੍ਰੀਮ ਐਡੀਟਿੰਗ ਨੂੰ ਵੀ ਨਹੀਂ ਰੋਕਦਾ; ਇੱਕ ਉਪਭੋਗਤਾ ਜੋ ਅੱਧੇ ਪੈਰੇ ਨੂੰ ਦੁਬਾਰਾ ਲਿਖਦਾ ਹੈ, ਉਹ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਤੌਰ 'ਤੇ ਚਿੰਨ੍ਹ ਨੂੰ ਮਿਟਾ ਸਕਦਾ ਹੈ।

ਸਿੱਟਾ: Anthropic ਦਾ ਵਾਟਰਮਾਰਕ ਇੱਕ ਨਵੇਂ ਕਾਨੂੰਨੀ ਹੁਕਮ ਦਾ ਜਵਾਬ ਦਿੰਦਾ ਹੈ, ਪਰ ਇਸਦਾ ਪ੍ਰਭਾਵ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰੇਗਾ ਕਿ ਇਹ ਪਛਾਣਨਯੋਗਤਾ ਅਤੇ ਘਟਦੀ ਲਚਕਤਾ ਅਤੇ ਇਸਨੂੰ ਬਾਈਪਾਸ ਕੀਤੇ ਜਾਣ ਦੇ ਜੋਖਮ ਵਿਚਕਾਰ ਕਿੰਨਾ ਵਧੀਆ ਸੰਤੁਲਨ ਬਣਾਉਂਦਾ ਹੈ।