Anthropic च्या वॉटरमार्कमध्ये गोपनीयतेची (Privacy) समस्या आहे

Anthropic चे नवीन वॉटरमार्क डिटेक्शन API डेव्हलपर्स, शाळा आणि उद्योगांना संपूर्ण दस्तऐवज त्यांच्या सर्व्हरवर अपलोड करण्यास भाग पाडते, ज्यामुळे पारदर्शकतेचे साधन संभाव्य गोपनीयता धोक्यात आणणारे ठरू शकते.

वॉटरमार्क कसा काम करतो

Anthropic एका गुप्त की (secret key) द्वारे शब्दांची निवड बदलून, Claude ने तयार केलेल्या प्रत्येक मजकुरात एक अदृश्य पॅटर्न समाविष्ट करते. उदाहरणार्थ, मानवांना न दिसणाऱ्या एका गुप्त वेळापत्रकानुसार ते “grey” ऐवजी “overcast” असा शब्द वापरू शकते. केवळ Anthropic ची डिटेक्शन सिस्टीमच हा पॅटर्न वाचू शकते आणि २ ऑगस्ट २०२६ पासून सर्व Claude मॉडेल्ससाठी हे सक्रिय असेल.

व्हेरिफिकेशन पाइपलाइन (Verification pipeline)

मजकुरात वॉटरमार्क आहे हे सिद्ध करण्यासाठी, वापरकर्ते Anthropic चे डिटेक्शन API कॉल करतात आणि संपूर्ण दस्तऐवज कंपनीच्या क्लाउड एंडपॉइंटवर पाठवतात. ही सेवा त्यांचा स्वतःचा (proprietary) अल्गोरिदम चालवते आणि 'हो' किंवा 'नाही' असे साधे उत्तर देते.

हे महत्त्वाचे का आहे

अपलोड करण्याच्या या आवश्यकतेमुळे संपूर्ण मजकूर बाह्य AI प्रदात्याकडे जातो. निबंधांची तपासणी करणारी विद्यापीठे, कव्हर लेटरची पडताळणी करणारे HR विभाग आणि करार तपासणाऱ्या लॉ फर्म्स या सर्वांचा खालील डेटा उघड होण्याचा धोका असतो:

  • शैक्षणिक संशोधन आणि अप्रकाशित डेटा
  • वैयक्तिक विधाने (Personal statements), बायोडाटा (résumés) आणि संदर्भ पत्रे
  • अंतर्गत मेमो, धोरणात्मक योजना किंवा आर्थिक अंदाज
  • गोपनीय कायदेशीर करार

Anthropic चे म्हणणे आहे की वॉटरमार्क स्वतः वापरकर्त्याची ओळख सांगत नाही, परंतु मूळ मजकूर आता Anthropic च्या इन्फ्रास्ट्रक्चरवर असतो. मजकूर तयार करणे (जिथे वॉटरमार्क टाकला जातो) आणि त्याची पडताळणी करणे (जिथे मजकूर तपासला जातो) या दोन्ही बाजूंवर नियंत्रण असल्यामुळे कंपनीकडे एक अशी पाइपलाइन तयार होते, ज्याद्वारे मोठ्या प्रमाणात मालकी हक्क असलेले (proprietary) किंवा वैयक्तिक ओळख पटवणारी माहिती जमा केली जाऊ शकते.

सुरक्षा आणि प्रभावीतेच्या मर्यादा

जरी गोपनीयतेच्या चिंता दूर झाल्या तरी, वॉटरमार्कची मजबूती (robustness) संशयास्पद आहे. शब्दांमध्ये थोडे बदल केल्यास तो पॅटर्न नष्ट होतो. मजकूर दुसऱ्या AI मॉडेलद्वारे पुन्हा लिहून घेतल्यास (rephrase) देखील तो सिग्नल निघून जातो. ओपन-सोर्स टूल्स आधीच Claude च्या आउटपुटमधून वॉटरमार्क काढून टाकतात. परिणामी, डिटेक्शन API केवळ कमी मेहनतीने तयार केलेल्या कॉपीज ओळखू शकेल, तर प्रगत वापरकर्ते त्यापासून वाचू शकतील; यामुळे सुरक्षिततेचा कोणताही ठोस फायदा न होता डेटा उघड होण्याचा धोका कायम राहतो.

कोणाचे नुकसान होईल आणि कोणाचा फायदा होईल

  • शिक्षक आणि नियोक्ते: "हा मजकूर AI ने लिहिला आहे का?" हे तपासण्यासाठी विद्यार्थ्यांचे काम किंवा अर्जदारांचे साहित्य व्यावसायिक AI लॅबकडे पाठवावे लागते, ज्याची एक छुपी किंमत चुकवावी लागते.
  • संवेदनशील दस्तऐवज हाताळणारे उद्योग: कायदेशीर टीम आणि कॉर्पोरेट कम्युनिकेशन विभाग व्यावसायिक रहस्ये (trade secrets) किंवा विशेषाधिकार प्राप्त माहिती बाह्य सेवेला उघड करण्याचा धोका पत्कवतात.

पुढे काय पाहावे

  • धोरण आणि कराराच्या अटी: अपलोड केलेले मजकूर साठवले जातात का, ते शेअर केले जातात का किंवा प्रशिक्षणासाठी वापरले जातात का, हे पाहण्यासाठी ग्राहकांनी Anthropic च्या डेटा-रिटेन्शन आणि वापराच्या धोरणांची बारकाईने तपासणी करणे आवश्यक आहे.
  • पर्यायी पडताळणी पद्धती: ओपन-सोर्स वॉटरमार्क डिटेक्शन किंवा सांख्यिकीय विश्लेषण साधने समोर येऊ शकतात, जी डेटा बाहेर न पाठवता स्थानिक पातळीवर (on-premise) तपासणी करण्याची सुविधा देऊ शकतात.

जर तुमचे उत्पादन Claude वर अवलंबून असेल किंवा तुम्ही डिटेक्शन API चा विचार करत असाल, तर तपासणीनंतर मजकूर कुठे जातो आणि त्यावर तुमचे कोणते अधिकार राहतात याची खात्री करा. AI-निर्मित मजकुराबद्दलची पारदर्शकता मौल्यवान आहे, परंतु ती तुमच्या वापरकर्त्यांचा खाजगी डेटा त्याच कंपनीला देऊन मिळवलेली नसावी ज्याने तो वॉटरमार्क तयार केला आहे.