EU AI Act च्या आवश्यकतेनुसार, कृत्रिम (synthetic) मजकूर मशीन-रीडेबल पद्धतीने स्पष्टपणे चिन्हांकित असावा, यासाठी Anthropic ने Claude द्वारे तयार केलेल्या मजकुरासाठी वॉटरमार्क आणला आहे. कंपनीचे म्हणणे आहे की, ही पद्धत मॉडेलचा वेग कमी न करता किंवा अतिरिक्त टोकन्सचा वापर न करता AI-लिखित मजकूर ओळखते; या दाव्याची नियामक आणि स्पर्धक लवकरच चाचणी घेतील.

वॉटरमार्क का महत्त्वाचा आहे

हा वॉटरमार्क शब्दांच्या निवडीच्या प्रक्रियेत एक 'प्रायव्हेट की' (private key) आणि सभोवतालचा संदर्भ समाविष्ट करतो. वाचकांना हा पॅटर्न दिसत नाही, परंतु ज्या पडताळणी साधनाकडे (verifier) ती की आहे, ते तो शोधू शकतात. प्रत्यक्ष व्यवहारात, एखादे टूल दस्तऐवजाची स्कॅनिंग करते आणि तो Claude ने तयार केला आहे की नाही, याची माहिती देते.

नियामक दबाव

EU AI Act जनरेटिव्ह सिस्टम पुरवठादारांना त्यांच्या कृत्रिम मजकुरात शोधता येण्याजोग्या संकेतांचा (detectable signals) समावेश करण्यास भाग पाडते.

व्यावसायिक तडजोडी

अशा प्रकारचे मार्क स्वीकारण्याबाबत निर्णय घेताना कंपन्यांना तीन मुख्य बाबींचा विचार करावा लागतो:

  • ट्रेसिबिलिटीच्या मर्यादा (Traceability limits) – वॉटरमार्कमुळे मजकूर AI मॉडेलमधून आला आहे हे सिद्ध होते, परंतु तो आउटपुटला विशिष्ट वापरकर्ता किंवा खात्याशी जोडू शकत नाही. जेव्हा AI-निर्मित मजकुराचा गैरवापर होतो, तेव्हा ही त्रुटी उत्तरदायित्वाबाबत प्रश्न निर्माण करते.
  • महसुलाचा धोका (Revenue risk) – काही पुरवठादारांना भीती आहे की दृश्यमान वॉटरमार्क्समुळे त्यांच्या एक तृतीयांश ग्राहकांची संख्या कमी होऊ शकते, कारण स्पर्धात्मक किंवा गोपनीयतेच्या कारणास्तव त्यांना विना-वॉटरमार्क मजकूर हवा असतो.
  • तांत्रिक मर्यादा (Technical constraints) – एखादा पॅटर्न समाविष्ट केल्यामुळे मॉडेलच्या आउटपुटमधील सर्जनशीलता थोडी कमी होऊ शकते, विशेषतः अतिशय लहान मजकुरामध्ये जिथे वॉटरमार्कसाठी शब्द मर्यादित असतात. वापरकर्ते मजकुराचा काही भाग स्वतःच्या शब्दांत लिहून (re-phrasing) या संकेताची तीव्रता कमी करू शकतात, ज्यामुळे तो शोधणे कठीण होते.

Anthropic चा असा विश्वास आहे की त्यांची पद्धत यातील बहुतेक त्रुटी टाळते. टोकन-निवड प्रक्रियेत ही 'की' गुंफल्यामुळे, मॉडेलच्या वेगावर कोणताही परिणाम होत नाही आणि अतिरिक्त टोकन खर्चही येत नाही, असा दावा कंपनीने केला आहे; ज्यामुळे सशुल्क ग्राहकांना अपेक्षित असलेला वापरकर्ता अनुभव कायम राहतो.

तांत्रिक आव्हाने

मजकूर शोधण्याची क्षमता ही पडताळणी साधनाकडे (verifier) मजकूर तयार करताना वापरलेली तीच 'प्रायव्हेट की' असण्यावर अवलंबून असते. लहान मजकूर हा अजूनही एक कमकुवत दुवा आहे कारण त्यातील सांख्यिकीय पॅटर्न स्पष्ट नसतो, ज्यामुळे चुकीचे निकाल (false-negative rates) मिळण्याची शक्यता वाढते. वॉटरमार्क पुढील संपादनापासून (downstream editing) रोखू शकत नाही; जर वापरकर्त्याने परिच्छेदाचा अर्धा भाग पुन्हा लिहिला, तर तो प्रभावीपणे वॉटरमार्क पुसून टाकू शकतो.

थोडक्यात सांगायचे तर (Takeaway): Anthropic चा वॉटरमार्क नवीन कायदेशीर आदेशाचे पालन करतो, परंतु त्याचा प्रभाव हा शोधक्षमता (detectability) आणि कमी झालेली लवचिकता व तो बायपास होण्याचा धोका यांच्यातील संतुलनावर अवलंबून असेल.