Anthropic رسماً پیاده‌سازی واترمارکینگ (Watermarking) متنی را در خانواده مدل‌های Claude خود آغاز کرده است تا شفافیت هوش مصنوعی را افزایش داده و با مقررات نوظهور مطابقت داشته باشد. در حالی که این شرکت وعده ادغام بی‌وقفه را می‌دهد، بحث‌های فزاینده‌ای در مورد تأثیر آن بر دقت زبانی و پیامدهای حقوقی نویسندگی قابل تشخیص هوش مصنوعی در حال شکل‌گیری است.

مکانیسم واترمارکینگ پنهان

رویکرد Anthropic بر اساس متدولوژی SynthID-Text شرکت Google DeepMind مدل‌سازی شده است. برخلاف واترمارکینگ سنتی که ممکن است برچسب‌های قابل مشاهده یا کاراکترهای مخفی یونیکد را درج کند، این سیستم در سطح احتمالاتِ مدل زبانی بزرگ (LLM) عمل می‌کند. این سیستم با تغییر ظریف منبع تصادفی بودن که در طول انتخاب توکن (token) استفاده می‌شود، کار می‌کند. با تنظیم احتمال انتخاب کلمات خاص، سیستم الگویی ایجاد می‌کند که از نظر آماری قابل تشخیص است و می‌تواند توسط نرم‌افزارهای تخصصی بدون تغییر در ظاهر بصری متن شناسایی شود.

Anthropic تأکید می‌کند که این فرآیند هیچ تأثیر قابل اندازه‌گیری بر خلاقیت یا خوانایی خروجی Claude ندارد. برای کاهش ریسک در محیط‌های با دقت بالا، این شرکت خاطرنشان می‌کند که واترمارکینگ در بخش‌های پر از واقعیت که دایره واژگان توسط ضرورت معنایی محدود شده است، «کم‌تراکم‌تر» (sparser) است.

نقد زبانی: دقت در برابر الگوپردازی

علی‌رغم تضمین‌های Anthropic، منتقدان برجسته فناوری مانند جان گروبر (John Gruber) از Daring Fireball استدلال می‌کنند که ادعای «نامحسوس بودن» دارای نقص است. هسته اصلی این استدلال بر ظرافت‌های معنایی استوار است: هیچ دو مترادفی کاملاً قابل جایگزینی نیستند. اگر الگوریتم واترمارکینگ یک توکن خاص را برای حفظ یک الگوی آماری در اولویت قرار دهد، ممکن است یک کلمه دقیق‌تر را به نفع کلمه‌ای که از نظر آماری برای واترمارک «درست» است، نادیده بگیرد.

گروبر پیشنهاد می‌کند که این امر می‌تواند منجر به کاهش تدریجی کیفیت متن شود؛ او خاطرنشان می‌کند که معیارهای فعلی مورد استفاده برای اعتبارسنجی سیستم‌هایی مانند SynthID — مانند امتیازات «لایک/دیس‌لایک» کاربران — کافی نیستند. بعید است کاربری یک مدل را به دلیل انتخاب "grey" به جای "overcast"، حتی اگر دومی عمق سبکی بهتری ارائه دهد، جریمه کند؛ این بدان معناست که «کیفیت» متن ممکن است به روش‌هایی کاهش یابد که بنچمارک‌های استاندارد قادر به ثبت آن‌ها نیستند.

پیامدهای حقوقی و ماهیت «چسبنده» نشانه‌ها

این عرضه پیچیدگی‌های قابل توجهی را برای بخش‌های حرفه‌ای، به‌ویژه حقوق، ایجاد می‌کند. طبق گزارش Artificial Lawyer، در حالی که اکثر مشتریان نسبت به کمک هوش مصنوعی بی‌تفاوت هستند، توانایی اثبات دخالت هوش مصنوعی در مواردی که استفاده از آن صراحتاً توسط قاضی یا مشتری ممنوع شده است، به یک مسئولیت حقوقی تبدیل می‌شود.

یک چالش فنی حیاتی، «ماندگاری» این واترمارک‌ها است. از آنجایی که نشانه‌ها در خودِ متن جاسازی شده‌اند، می‌توانند در اسناد منتشر شوند. یک قرارداد که توسط انسان تنظیم شده و حاوی یک بند تولید شده توسط هوش مصنوعی است، آن واترمارک را با خود به جلو می‌برد و پتانسیل آلوده کردن قالب‌های (templates) آینده را دارد. علاوه بر این، از آنجایی که متخصصان حقوقی از چندین LLM استفاده می‌کنند، اسناد ممکن است در نهایت حاوی واترمارک‌های هم‌پوشان از ارائه‌دهندگان مختلف باشند که یک کابوس جرم‌شناسی (forensic) برای ممیزی‌های شفافیت ایجاد می‌کند.

انطباق و دور زدن

این اقدام عمدتاً ناشی از نیاز به انطباق با قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) است، اگرچه Anthropic این ویژگی را به‌صورت جهانی اعمال می‌کند تا از تکه‌تکه شدن منطقه‌ای جلوگیری کند. تمام مدل‌های Claude که پس از ۲ اوت منتشر شده‌اند، از واترمارکینگ پشتیبانی می‌کنند و برنامه‌ریزی شده است که مدل‌های قدیمی‌تر نیز بازسازی (retrofitting) شوند. با این حال، اثربخشی این سیستم همچنان مورد بحث است؛ ابزارهایی مانند Declaude در حال حاضر برای حذف این نشانه‌ها از طریق بازنویسی (paraphrasing) استفاده می‌شوند، که نشان می‌دهد اگرچه واترمارکینگ ممکن است رضایت رگولاتورها را جلب کند، اما ممکن است در جلوگیری از دور زدن‌های عمدی با مشکل مواجه شود.

نکات کلیدی

  • تشخیص احتمالی: Anthropic از روشی مشابه SynthID استفاده می‌کند که به جای افزودن کاراکترهای قابل مشاهده، تصادفی بودن انتخاب توکن را تغییر می‌دهد؛ این امر باعث می‌شود واترمارک از نظر آماری قابل تشخیص اما از نظر بصری پنهان باشد.
  • توازن کیفیت: منتقدان استدلال می‌کنند که اجبار به انتخاب کلمات خاص برای حفظ الگوی واترمارک، ذاتاً دقت معنایی و ظرافت‌های سبکی را فدا می‌کند.
  • مسئولیت حقوقی: ماهیت «چسبنده» واترمارک‌ها به این معناست که متن تولید شده توسط هوش مصنوعی می‌تواند الگوهای قابل تشخیصی را به اسناد آینده منتقل کند و ریسک‌های شفافیت را برای شرکت‌های حقوقی و صنایع بسیار تحت نظارت ایجاد کند.