Anthropic ਨੇ AI ਪਾਰਦਰਸ਼ਤਾ ਨੂੰ ਵਧਾਉਣ ਅਤੇ ਉੱਭਰ ਰਹੇ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨ ਲਈ ਆਪਣੇ Claude ਮਾਡਲ ਪਰਿਵਾਰ ਵਿੱਚ ਅਧਿਕਾਰਤ ਤੌਰ 'ਤੇ ਟੈਕਸਟ ਵਾਟਰਮਾਰਕਿੰਗ (text watermarking) ਲਾਗੂ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤਾ ਹੈ। ਹਾਲਾਂਕਿ ਕੰਪਨੀ ਨਿਰਵਿਘਨ ਇੱਕੀਕਰਨ ਦਾ ਵਾਅਦਾ ਕਰਦੀ ਹੈ, ਪਰ ਭਾਸ਼ਾਈ ਸ਼ੁੱਧਤਾ 'ਤੇ ਪ੍ਰਭਾਵ ਅਤੇ ਪਛਾਣਨਯੋਗ AI ਲੇਖਕਤਾ ਦੇ ਕਾਨੂੰਨੀ ਪ੍ਰਭਾਵਾਂ ਬਾਰੇ ਇੱਕ ਵਧਦੀ ਬਹਿਸ ਪੈਦਾ ਹੋ ਰਹੀ ਹੈ।

ਸਟੀਲਥ ਵਾਟਰਮਾਰਕਿੰਗ ਦੀ ਕਾਰਜਪ੍ਰਣਾਲੀ

Anthropic ਦਾ ਤਰੀਕਾ Google DeepMind ਦੀ SynthID-Text ਵਿਧੀ 'ਤੇ ਅਧਾਰਤ ਹੈ। ਰਵਾਇਤੀ ਵਾਟਰਮਾਰਕਿੰਗ ਦੇ ਉਲਟ, ਜੋ ਦਿਸਣਯੋਗ ਲੇਬਲਾਂ ਜਾਂ ਲੁਪਤ Unicode ਅੱਖਰਾਂ ਨੂੰ ਦਰਜ ਕਰ ਸਕਦੀ ਹੈ, ਇਹ ਪ੍ਰਣਾਲੀ Large Language Model (LLM) ਦੇ ਸੰਭਾਵਨਾਤਮਕ (probabilistic) ਪੱਧਰ 'ਤੇ ਕੰਮ ਕਰਦੀ ਹੈ। ਇਹ ਟੋਕਨ ਚੋਣ ਦੌਰਾਨ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਰੈਂਡਮਨੈੱਸ (randomness) ਸਰੋਤ ਵਿੱਚ ਸੂਖਮ ਤਬਦੀਲੀ ਕਰਕੇ ਕੰਮ ਕਰਦੀ ਹੈ। ਖਾਸ ਸ਼ਬਦਾਂ ਦੀ ਚੋਣ ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਐਡਜਸਟ ਕਰਕੇ, ਇਹ ਪ੍ਰਣਾਲੀ ਇੱਕ ਅੰਕੜਾਤਮਕ ਤੌਰ 'ਤੇ ਪਛਾਣਨਯੋਗ ਪੈਟਰਨ ਬਣਾਉਂਦੀ ਹੈ ਜਿਸ ਨੂੰ ਟੈਕਸਟ ਦੀ ਦਿੱਖ ਨੂੰ ਬਦਲੇ ਬਿਨਾਂ ਵਿਸ਼ੇਸ਼ ਸਾਫਟਵੇਅਰ ਦੁਆਰਾ ਪਛਾਣਿਆ ਜਾ ਸਕਦਾ ਹੈ।

Anthropic ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ ਇਸ ਪ੍ਰਕਿਰਿਆ ਦਾ Claude ਦੇ ਆਊਟਪੁੱਟ ਦੀ ਰਚਨਾਤਮਕਤਾ ਜਾਂ ਪੜ੍ਹਨਯੋਗਤਾ 'ਤੇ ਕੋਈ ਮਾਪਣਯੋਗ ਪ੍ਰਭਾਵ ਨਹੀਂ ਪੈਂਦਾ। ਉੱਚ-ਸ਼ੁੱਧਤਾ ਵਾਲੇ ਮਾਹੌਲਾਂ ਵਿੱਚ ਜੋਖਮਾਂ ਨੂੰ ਘਟਾਉਣ ਲਈ, ਕੰਪਨੀ ਨੋਟ ਕਰਦੀ ਹੈ ਕਿ ਤੱਥਾਂ ਨਾਲ ਭਰਪੂਰ ਪੈਰੇ ਵਿੱਚ ਜਿੱਥੇ ਸ਼ਬਦਾਵਲੀ ਅਰਥਗਤ ਲੋੜਾਂ ਕਾਰਨ ਸੀਮਤ ਹੁੰਦੀ ਹੈ, ਉੱਥੇ ਵਾਟਰਮਾਰਕਿੰਗ "ਘੱਟ" (sparser) ਹੁੰਦੀ ਹੈ।

ਭਾਸ਼ਾਈ ਆਲੋਚਨਾ: ਸ਼ੁੱਧਤਾ ਬਨਾਮ ਪੈਟਰਨਿੰਗ

Anthropic ਦੇ ਭਰੋਸੇ ਦੇ ਬਾਵਜੂਦ, Daring Fireball ਦੇ John Gruber ਵਰਗੇ ਪ੍ਰਮੁੱਖ ਤਕਨੀਕੀ ਆਲੋਚਕਾਂ ਦਾ ਤਰਕ ਹੈ ਕਿ "ਅਣਪਛਾਣਯੋਗ" ਦਾ ਦਾਅਵਾ ਗਲਤ ਹੈ। ਇਸ ਤਰਕ ਦਾ ਮੁੱਖ ਆਧਾਰ ਅਰਥਗਤ ਸੂਖਮਤਾ (semantic nuance) ਹੈ: ਕੋਈ ਵੀ ਦੋ ਸਮਾਨਾਰਥੀ ਸ਼ਬਦ ਪੂਰੀ ਤਰ੍ਹਾਂ ਆਪਸ ਵਿੱਚ ਬਦਲੇ ਨਹੀਂ ਜਾ ਸਕਦੇ। ਜੇਕਰ ਵਾਟਰਮਾਰਕਿੰਗ ਐਲਗੋਰਿਦਮ ਅੰਕੜਾਤਮਕ ਪੈਟਰਨ ਬਣਾਈ ਰੱਖਣ ਲਈ ਕਿਸੇ ਖਾਸ ਟੋਕਨ ਨੂੰ ਤਰਜੀਹ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਇਹ ਵਾਟਰਮਾਰਕ ਲਈ ਅੰਕੜਾਤਮਕ ਤੌਰ 'ਤੇ "ਸਹੀ" ਸ਼ਬਦ ਦੇ ਚੁਣਨ ਦੇ ਚੱਕਰ ਵਿੱਚ ਵਧੇਰੇ ਸਹੀ ਸ਼ਬਦ ਨੂੰ ਛੱਡ ਸਕਦਾ ਹੈ।

Gruber ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ ਕਿ ਇਸ ਨਾਲ ਟੈਕਸਟ ਦੀ ਗੁਣਵੱਤਾ ਵਿੱਚ ਸੂਖਮ ਗਿਰਾਵਟ ਆ ਸਕਦੀ ਹੈ, ਅਤੇ ਨੋਟ ਕਰਦੇ ਹਨ ਕਿ SynthID ਵਰਗੀਆਂ ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕਰਨ ਲਈ ਵਰਤੇ ਜਾਣ ਵਾਲੇ ਮੌਜੂਦਾ ਮਾਪਦੰਡ—ਜਿਵੇਂ ਕਿ ਉਪਭੋਗਤਾਵਾਂ ਦੀਆਂ "thumbs-up/down" ਰੇਟਿੰਗਾਂ—ਨਾਕਾਫ਼ੀ ਹਨ। ਇੱਕ ਉਪਭੋਗਤਾ ਦੁਆਰਾ "overcast" ਦੀ ਬਜਾਏ "grey" ਚੁਣਨ ਲਈ ਮਾਡਲ ਨੂੰ ਸਜ਼ਾ ਦੇਣ ਦੀ ਸੰਭਾਵਨਾ ਘੱਟ ਹੈ, ਭਾਵੇਂ ਕਿ ਦੂਜਾ ਸ਼ਬਦ ਬਿਹਤਰ ਸ਼ੈਲੀਗਤ ਡੂੰਘਾਈ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੋਵੇ, ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਟੈਕਸਟ ਦੀ "ਗੁਣਵੱਤਾ" ਉਹਨਾਂ ਤਰੀਕਿਆਂ ਨਾਲ ਖ਼ਤਮ ਹੋ ਸਕਦੀ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਮਿਆਰੀ ਬੈਂਚਮਾਰਕ ਫੜਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ।

ਕਾਨੂੰਨੀ ਪ੍ਰਭਾਵ ਅਤੇ ਨਿਸ਼ਾਨਾਂ ਦੀ "ਚਿਪਕਣ ਵਾਲੀ" (Sticky) ਪ੍ਰਕਿਰਤੀ

ਇਹ ਲਾਗੂਕਰਨ ਪੇਸ਼ੇਵਰ ਖੇਤਰਾਂ, ਖਾਸ ਕਰਕੇ ਕਾਨੂੰਨ ਲਈ ਮਹੱਤਵਪੂਰਨ ਜਟਿਲਤਾਵਾਂ ਪੈਦਾ ਕਰਦਾ ਹੈ। Artificial Lawyer ਦੇ ਅਨੁਸਾਰ, ਹਾਲਾਂਕਿ ਜ਼ਿਆਦਾਤਰ ਗਾਹਕ AI ਦੀ ਮਦਦ ਪ੍ਰਤੀ ਉਦਾਸੀਨ ਹੁੰਦੇ ਹਨ, ਪਰ ਜਿੱਥੇ ਜੱਜ ਜਾਂ ਗਾਹਕ ਦੁਆਰਾ AI ਦੀ ਵਰਤੋਂ ਨੂੰ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਮਨ੍ਹਾ ਕੀਤਾ ਗਿਆ ਹੋਵੇ, ਉੱਥੇ AI ਦੀ ਸ਼ਮੂਲੀਅਤ ਨੂੰ ਸਾਬਤ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਇੱਕ ਦੇਣਦਾਰੀ (liability) ਬਣ ਜਾਂਦੀ ਹੈ।

ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਤਕਨੀਕੀ ਚੁਣੌਤੀ ਇਹਨਾਂ ਵਾਟਰਮਾਰਕਾਂ ਦੀ "ਟਿਕਾਊਤਾ" (persistence) ਹੈ। ਕਿਉਂਕਿ ਇਹ ਨਿਸ਼ਾਨ ਖੁਦ ਟੈਕਸਟ ਵਿੱਚ ਹੀ ਦਰਜ ਹੁੰਦੇ ਹਨ, ਉਹ ਦਸਤਾਵੇਜ਼ਾਂ ਵਿੱਚ ਫੈਲ ਸਕਦੇ ਹਨ। ਇੱਕ ਮਨੁੱਖ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਇਕਰਾਰਨਾਮਾ ਜਿਸ ਵਿੱਚ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੀ ਗਈ ਧਾਰਾ ਸ਼ਾਮਲ ਹੈ, ਉਸ ਵਿੱਚ ਉਹ ਵਾਟਰਮਾਰਕ ਅੱਗੇ ਵੀ ਰਹੇਗਾ, ਜੋ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਭਵਿੱਖ ਦੇ ਟੈਂਪਲੇਟਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦਾ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਕਿਉਂਕਿ ਕਾਨੂੰਨੀ ਪੇਸ਼ੇਵਰ ਕਈ LLMs ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਦਸਤਾਵੇਜ਼ਾਂ ਵਿੱਚ ਅੰਤ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਪ੍ਰਦਾਤਾਵਾਂ ਦੇ ਵਾਟਰਮਾਰਕ ਇੱਕ ਦੂਜੇ ਦੇ ਉੱਪਰ ਹੋ ਸਕਦੇ ਹਨ, ਜੋ ਪਾਰਦਰਸ਼ਤਾ ਆਡਿਟ ਲਈ ਇੱਕ ਬਹੁਤ ਵੱਡੀ ਮੁਸ਼ਕਲ ਬਣ ਸਕਦਾ ਹੈ।

ਪਾਲਣਾ ਅਤੇ ਚੱਕਰਵਿਹੇ (Circumvention)

ਇਹ ਕਦਮ ਮੁੱਖ ਤੌਰ 'ਤੇ EU AI Act ਦੀ ਪਾਲਣਾ ਕਰਨ ਦੀ ਲੋੜ ਕਾਰਨ ਚੁੱਕਿਆ ਗਿਆ ਹੈ, ਹਾਲਾਂਕਿ Anthropic ਖੇਤਰੀ ਵਿਖੰਡਤਾ ਤੋਂ ਬਚਣ ਲਈ ਇਸ ਵਿਸ਼ੇਸ਼ਤਾ ਨੂੰ ਵਿਸ਼ਵ ਪੱਧਰ 'ਤੇ ਲਾਗੂ ਕਰ ਰਿਹਾ ਹੈ। 2 ਅਗਸਤ ਤੋਂ ਬਾਅਦ ਰਿਲੀਜ਼ ਕੀਤੇ ਗਏ ਸਾਰੇ Claude ਮਾਡਲ ਪਹਿਲਾਂ ਹੀ ਵਾਟਰਮਾਰਕਿੰਗ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ, ਅਤੇ ਪੁਰਾਣੇ ਮਾਡਲਾਂ ਨੂੰ ਵੀ ਇਸ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨ ਦੀ ਯੋਜਨਾ ਹੈ। ਹਾਲਾਂਕਿ, ਪ੍ਰਣਾਲੀ ਦੀ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਅਜੇ ਵੀ ਵਿਵਾਦਤ ਹੈ; Declaude ਵਰਗੇ ਟੂਲ ਪਹਿਲਾਂ ਹੀ ਪੈਰਾਫ੍ਰੇਜ਼ਿੰਗ (paraphrasing) ਰਾਹੀਂ ਇਹਨਾਂ ਨਿਸ਼ਾਨਾਂ ਨੂੰ ਹਟਾਉਣ ਲਈ ਵਰਤੇ ਜਾ ਰਹੇ ਹਨ, ਜੋ ਇਹ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ ਕਿ ਹਾਲਾਂਕਿ ਵਾਟਰਮਾਰਕਿੰਗ ਨਿਯਮਨਵਾਨਾਂ ਨੂੰ ਸੰਤੁਸ਼ਟ ਕਰ ਸਕਦੀ ਹੈ, ਪਰ ਇਹ ਜਾਣਬੁੱਝ ਕੇ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਚੱਕਰਵਿਹਿਆਂ ਨੂੰ ਰੋਕਣ ਵਿੱਚ ਸੰਘਰਸ਼ ਕਰ ਸਕਦੀ ਹੈ।

ਮੁੱਖ ਨੁਕਤੇ

  • ਸੰਭਾਵਨਾਤਮਕ ਪਛਾਣ (Probabilistic Detection): Anthropic ਇੱਕ SynthID-ਸ਼ੈਲੀ ਦੀ ਵਿਧੀ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ ਜੋ ਦਿਸਣਯੋਗ ਅੱਖਰ ਜੋੜਨ ਦੀ ਬਜਾਏ ਟੋਕਨ ਚੋਣ ਦੀ ਰੈਂਡਮਨੈੱਸ ਨੂੰ ਬਦਲਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਵਾਟਰਮਾਰਕ ਅੰਕੜਾਤਮਕ ਤੌਰ 'ਤੇ ਪਛਾਣਨਯੋਗ ਪਰ ਦ੍ਰਿਸ਼ਟੀਗਤ ਰੂਪ ਵਿੱਚ ਲੁਕਿਆ ਹੋਇਆ ਹੁੰਦਾ ਹੈ।
  • ਗੁਣਵੱਤਾ ਦੇ ਸਮਝੌਤੇ: ਆਲੋਚਕਾਂ ਦਾ ਤਰਕ ਹੈ ਕਿ ਵਾਟਰਮਾਰਕ ਪੈਟਰਨ ਬਣਾਈ ਰੱਖਣ ਲਈ ਖਾਸ ਸ਼ਬਦਾਂ ਦੀ ਚੋਣ ਕਰਨ ਨਾਲ ਅਰਥਗਤ ਸ਼ੁੱਧਤਾ ਅਤੇ ਸ਼ੈਲੀਗਤ ਸੂਖਮਤਾ ਦਾ ਨੁਕਸਾਨ ਹੁੰਦਾ ਹੈ।
  • ਕਾਨੂੰਨੀ ਦੇਣਦਾਰੀ: ਵਾਟਰਮਾਰਕ