Anthropic-এর ওয়াটারমার্কে একটি গোপনীয়তার সমস্যা রয়েছে

Anthropic-এর নতুন ওয়াটারমার্ক ডিটেকশন API ডেভেলপার, স্কুল এবং এন্টারপ্রাইজগুলোকে তাদের সম্পূর্ণ ডকুমেন্ট সার্ভারে আপলোড করতে বাধ্য করে, যা একটি স্বচ্ছতা সরঞ্জামকে একটি সম্ভাব্য গোপনীয়তার ঝুঁকির কারণ হিসেবে পরিণত করছে।

ওয়াটারমার্কটি যেভাবে কাজ করে

Anthropic একটি গোপন কী (key) ব্যবহার করে শব্দের চয়নকে প্রভাবিত করার মাধ্যমে প্রতিটি Claude-জেনারেটেড টেক্সটে একটি অদৃশ্য প্যাটার্ন যুক্ত করে। উদাহরণস্বরূপ, এটি মানুষের চোখে অগোচরে থাকা একটি গোপন সময়সূচী অনুযায়ী “grey”-এর পরিবর্তে “overcast” ব্যবহার করতে পারে। শুধুমাত্র Anthropic-এর ডিটেকশন সিস্টেম এই প্যাটার্নটি পড়তে পারে এবং এটি ২ আগস্ট ২০২৬ থেকে সমস্ত Claude মডেলের জন্য কার্যকর হবে।

ভেরিফিকেশন পাইপলাইন

কোনো টেক্সটে ওয়াটারমার্ক আছে কি না তা প্রমাণ করতে, ব্যবহারকারীদের Anthropic-এর ডিটেকশন API কল করতে হয় এবং সম্পূর্ণ ডকুমেন্টটি কোম্পানির ক্লাউড এন্ডপয়েন্টে পাঠাতে হয়। পরিষেবাটি তার নিজস্ব অ্যালগরিদম চালায় এবং একটি সাধারণ হ্যাঁ/না (yes/no) ফলাফল প্রদান করে।

কেন এটি গুরুত্বপূর্ণ

আপলোড করার এই প্রয়োজনীয়তা সম্পূর্ণ বিষয়বস্তু একটি বাহ্যিক AI প্রদানকারীকে দিয়ে দেয়। বিশ্ববিদ্যালয়গুলো যখন প্রবন্ধ (essays) স্ক্যান করে, HR বিভাগ যখন কভার লেটার যাচাই করে, কিংবা আইন সংস্থাগুলো যখন চুক্তি পর্যালোচনা করে—সবক্ষেত্রেই নিচের বিষয়গুলো উন্মোচিত হওয়ার ঝুঁকি থাকে:

  • একাডেমিক গবেষণা এবং অপ্রকাশিত তথ্য
  • ব্যক্তিগত বিবৃতি, জীবনবৃত্তান্ত (résumés) এবং রেফারেন্স লেটার
  • অভ্যন্তরীণ মেমো, কৌশলগত পরিকল্পনা বা আর্থিক পূর্বাভাস
  • গোপনীয় আইনি চুক্তি

Anthropic বলছে যে ওয়াটারমার্কটি নিজে ব্যবহারকারীর পরিচয় প্রকাশ করে না, কিন্তু মূল টেক্সটটি এখন Anthropic-এর ইনফ্রাস্ট্রাকচারে অবস্থান করছে। জেনারেশন সাইড (যেখানে ওয়াটারমার্ক যুক্ত করা হয়) এবং ভেরিফিকেশন সাইড (যেখানে টেক্সট পরীক্ষা করা হয়)—উভয় দিকই নিয়ন্ত্রণ করার ফলে কোম্পানিটি একটি একক পাইপলাইন পায় যা প্রচুর পরিমাণে মালিকানাধীন বা ব্যক্তিগতভাবে শনাক্তকারী তথ্য সংগ্রহ করতে পারে।

নিরাপত্তা এবং কার্যকারিতার সীমাবদ্ধতা

এমনকি যদি গোপনীয়তার উদ্বেগ দূর হয়েও যায়, তবুও ওয়াটারমার্কের স্থায়িত্ব বা দৃঢ়তা প্রশ্নবিদ্ধ। সামান্য কিছু শব্দের পরিবর্তন এই প্যাটার্নটি মুছে ফেলতে পারে। টেক্সটটিকে অন্য কোনো AI মডেলের মাধ্যমে রিফ্রেজ (rephrase) করলে সিগন্যালটি হারিয়ে যায়। ওপেন-সোর্স টুলগুলো ইতিমধ্যেই Claude-এর আউটপুট থেকে ওয়াটারমার্ক সরিয়ে ফেলছে। ফলে, ডিটেকশন API হয়তো কেবল নিম্নমানের কপিগুলো শনাক্ত করতে পারবে, কিন্তু দক্ষ ব্যবহারকারীরা এটি এড়িয়ে যেতে সক্ষম হবেন; এতে কোনো উল্লেখযোগ্য নিরাপত্তা সুবিধা ছাড়াই ডেটা উন্মোচিত হওয়ার ঝুঁকি থেকে যায়।

কাদের ক্ষতি এবং কাদের লাভ

  • শিক্ষাবিদ এবং নিয়োগকর্তা: "এটি কি AI দিয়ে লেখা?"—এমন একটি দ্রুত যাচাইয়ের জন্য শিক্ষার্থীদের কাজ বা আবেদনকারীর নথিপত্র একটি বাণিজ্যিক AI ল্যাবে পাঠানোর একটি গোপন মূল্য দিতে হয়।
  • সংবেদনশীল নথি নিয়ে কাজ করা এন্টারপ্রাইজ: আইনি দল এবং কর্পোরেট যোগাযোগ বিভাগগুলো তাদের ব্যবসায়িক গোপনীয়তা বা বিশেষ তথ্য কোনো বাহ্যিক পরিষেবার কাছে উন্মোচিত করার ঝুঁকিতে থাকে।

পরবর্তীতে যা খেয়াল রাখতে হবে

  • নীতিমালা এবং চুক্তির শর্তাবলী: ক্লায়েন্টদের অবশ্যই Anthropic-এর ডেটা-রিটেনশন (data-retention) এবং ব্যবহারের নীতিমালা পুঙ্খানুপুঙ্খভাবে পরীক্ষা করা উচিত যাতে বোঝা যায় আপলোড করা টেক্সটগুলো সংরক্ষণ করা হয় কি না, শেয়ার করা হয় কি না বা প্রশিক্ষণের জন্য ব্যবহার করা হয় কি না।
  • বিকল্প ভেরিফিকেশন পদ্ধতি: ওপেন-সোর্স ওয়াটারমার্ক ডিটেকশন বা স্ট্যাটিস্টিক্যাল অ্যানালাইসিস টুলস আসতে পারে, যা অন-প্রিমিস (on-premise) যাচাইয়ের সুবিধা দেবে এবং ডেটা বাইরে পাঠানোর প্রয়োজন কমিয়ে আনবে।

আপনার পণ্য যদি Claude-এর ওপর নির্ভরশীল হয় বা আপনি যদি ডিটেকশন API ব্যবহারের কথা ভাবেন, তবে যাচাই করে নিন যে পরীক্ষা করার পর টেক্সটটি কোথায় যায় এবং এর ওপর আপনার কী কী অধিকার রয়েছে। AI-জেনারেটেড কন্টেন্ট সম্পর্কে স্বচ্ছতা মূল্যবান, তবে এটি আপনার ব্যবহারকারীদের ব্যক্তিগত ডেটা সেই কোম্পানির হাতে তুলে দেওয়ার বিনিময়ে হওয়া উচিত নয় যারা ওয়াটারমার্কটি তৈরি করেছে।