Anthropic ഇപ്പോൾ ഓരോ Claude മറുപടികളിലും SynthID-Text എന്ന ഒരു മറഞ്ഞിരിക്കുന്ന സ്റ്റാറ്റിസ്റ്റിക്കൽ പാറ്റേൺ ഉൾപ്പെടുത്തുന്നു. ഈ നീക്കം EU AI Act-ലെ Transparency Code പാലിക്കുന്നുവെന്നും ഒരു ടെക്സ്റ്റ് AI മോഡലിൽ നിന്ന് വന്നതാണെന്ന് തെളിയിക്കാൻ ഡെവലപ്പർമാർക്ക് ഇത് സഹായിക്കുമെന്നും കമ്പനി പറയുന്നു. വായനക്കാർക്ക് എഴുത്തിന്റെ സ്വാഭാവികതയിൽ മാറ്റം വരുത്താതെ തന്നെ, ചെറിയ രീതിയിലുള്ള എഡിറ്റിംഗിനും ശേഷവും ഈ വാട്ടർമാർക്ക് നിലനിൽക്കും.

എന്തുകൊണ്ടാണ് ഈ വാട്ടർമാർക്ക് ചേർക്കുന്നത്

AI നിർമ്മിത ഉള്ളടക്കത്തെ മനുഷ്യർ എഴുതിയതിൽ നിന്ന് വേർതിരിച്ചറിയാൻ സാധിക്കണം എന്ന് യൂറോപ്യൻ റെഗുലേറ്റർമാർ Large-language-model (LLM) പ്രൊവൈഡർമാരോട് ആവശ്യപ്പെട്ടിട്ടുണ്ട്. ഉടൻ തന്നെ നടപ്പിലാക്കാൻ പോകുന്ന EU AI Act-ലെ Transparency Code പ്രകാരം, തങ്ങളുടെ മോഡലുകൾ നിർമ്മിക്കുന്ന ഏതൊരു ടെക്സ്റ്റിനും വിശ്വസനീയമായ ഒരു ഡിറ്റക്ഷൻ രീതി നൽകാൻ ഡെവലപ്പർമാർ ബാധ്യസ്ഥരാണ്. കഴിഞ്ഞ വർഷം Google DeepMind ആദ്യമായി വിവരിച്ച SynthID-Text സാങ്കേതികവിദ്യ സ്വീകരിച്ചുകൊണ്ട് Anthropic ഇതിന് മറുപടി നൽകി.

ഈ തീരുമാനം Reddit, X എന്നിവയിൽ വലിയ ചർച്ചകൾക്ക് വഴിവെച്ചു; വാട്ടർമാർക്ക് ഔട്ട്‌പുട്ടിന്റെ ഗുണനിലവാരം കുറയ്ക്കുമെന്നോ അല്ലെങ്കിൽ നിരീക്ഷണത്തിനുള്ള ഒരു ബാക്ക്ഡോർ (backdoor) ആയി മാറുമെന്നോ ഉള്ള ആശങ്ക ഉപയോക്താക്കൾ പ്രകടിപ്പിച്ചു. എന്നാൽ ഈ പാറ്റേൺ വായനക്കാർക്ക് കാണാൻ കഴിയില്ലെന്നും, ഇത് പ്രവർത്തന വേഗതയെ (latency) ബാധിക്കില്ലെന്നും, സ്വകാര്യ ഉപയോഗത്തിനായി ഇത് ഓഫ് ചെയ്യാമെന്നും Anthropic മറുപടി നൽകുന്നു. സാങ്കേതിക വിവരങ്ങൾ പ്രസിദ്ധീകരിക്കുന്നതിലൂടെ, സംശയങ്ങൾ അകറ്റാനും വ്യവസായത്തിന് ഒരു മാനദണ്ഡം (benchmark) നിശ്ചയിക്കാനും കമ്പനി ആഗ്രഹിക്കുന്നു.

SynthID-Text എങ്ങനെ പ്രവർത്തിക്കുന്നു

പരമ്പരാഗത AI ഡിറ്റക്ടറുകൾ ഭാഷാപരമായ പ്രത്യേകതകൾ—ആവർത്തിച്ചുള്ള പ്രയോഗങ്ങൾ, വിചിത്രമായ ചിഹ്നങ്ങൾ, അല്ലെങ്കിൽ മനുഷ്യരുടെ എഴുത്തിൽ നിന്നുള്ള സ്റ്റാറ്റിസ്റ്റിക്കൽ വ്യതിയാനങ്ങൾ എന്നിവയാണ് പരിശോധിക്കുന്നത്. ഒരു മനുഷ്യൻ ഒരു പാരഗ്രാഫ് മാറ്റിയെഴുതുന്നതോടെ ഈ സൂചനകൾ അപ്രത്യക്ഷമാവുകയും ഡിറ്റക്ടറുകൾ വിശ്വസനീയമല്ലാതാവുകയും ചെയ്യുന്നു. എന്നാൽ ഇതിനു വിപരീതമായി, SynthID-Text മോഡലിന്റെ ടോക്കൺ സെലക്ഷൻ (token-selection) ഘട്ടത്തിൽ ഒരു രഹസ്യ സിഗ്നൽ ഉൾപ്പെടുത്തുന്നു.

Claude രണ്ട് സമാനമായ ടോക്കണുകൾക്കിടയിൽ നിന്ന് ഒന്ന് തിരഞ്ഞെടുക്കുമ്പോൾ—ഉദാഹരണത്തിന് “overcast” അല്ലെങ്കിൽ “grey”—മുൻകൂട്ടി നിശ്ചയിച്ച ഒരു ബൈനറി പാറ്റേണിന് അനുയോജ്യമായ രീതിയിൽ സിസ്റ്റം ആ തീരുമാനത്തെ സ്വാധീനിക്കുന്നു. ഒരു ഡോക്യുമെന്റിലുടനീളം ഇത്തരം സ്വാധീനങ്ങൾ ഒരു ബിറ്റുകളുടെ ശ്രേണി (sequence of bits) സൃഷ്ടിക്കുന്നു, ഇത് പിന്നീട് ഒരു ഡിറ്റക്ഷൻ API-ക്ക് വേർതിരിച്ചെടുക്കാൻ കഴിയും. ഈ പാറ്റേൺ മനഃപൂർവ്വം സ്വാധീനം കുറഞ്ഞ രീതിയിലാണ് രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്: തിരഞ്ഞെടുക്കപ്പെട്ട പര്യായപദം സ്വാഭാവികമായ ഒരു വാക്കായിരിക്കും, അതിനാൽ ടെക്സ്റ്റിന്റെ ഒഴുക്കിന് മാറ്റം സംഭവിക്കില്ല. വാട്ടർമാർക്ക് ടെക്സ്റ്റിലല്ല, മറിച്ച് ടോക്കൺ സ്ട്രീമിലാണ് (token stream) നിലനിൽക്കുന്നത് എന്നതിനാൽ, എല്ലാ ടോക്കണുകളും മാറ്റം വരുത്താത്ത മിക്ക പ്രോസസിംഗുകൾക്കും ശേഷവും ഇത് നിലനിൽക്കും.

എഡിറ്റിംഗ് പ്രതിരോധം: എന്തൊക്കെ നിലനിൽക്കും, എന്തൊക്കെ നഷ്ടപ്പെടും

AI നിർമ്മിത എഴുത്തുകൾ എഡിറ്റ് ചെയ്ത് വാട്ടർമാർക്ക് നീക്കം ചെയ്യാമെന്നതാണ് ഒരു പ്രധാന വിമർശനം. Anthropic-ന്റെ ആഭ്യന്തര പരിശോധന മൂന്ന് സാഹചര്യങ്ങൾ വിവരിക്കുന്നു:

  • ലഘുവായ എഡിറ്റിംഗ് (Light editing) – അക്ഷരത്തെറ്റുകൾ തിരുത്തുകയോ, ചില വിശേഷണങ്ങൾ മാറ്റുകയോ, വാചകങ്ങളുടെ ക്രമം ക്രമീകരിക്കുകയോ ചെയ്യുന്നത്. ഭൂരിഭാഗം ടോക്കണുകളും മാറാത്തതിനാൽ വാട്ടർമാർക്കിന്റെ സ്റ്റാറ്റിസ്റ്റിക്കൽ സിഗ്നേച്ചർ വലിയ മാറ്റമില്ലാതെ നിലനിൽക്കും.
  • Claude ഉപയോഗിച്ചുള്ള കഠിനമായ എഡിറ്റിംഗ് (Heavy Claude-assisted editing) – AI നിർമ്മിത വാചകങ്ങളുള്ള ഒരു ഡ്രാഫ്റ്റ് വീണ്ടും എഴുതാൻ Claude-നോട് ആവശ്യപ്പെടുന്നത്. ഉപയോക്താവ് കൂടുതൽ വാക്കുകളിൽ നിയന്ത്രണം നിലനിർത്തുകയാണെങ്കിൽ, പുതിയ മനുഷ്യനിർമ്മിത വാക്കുകളുടെ അളവിന് അനുസരിച്ച് വാട്ടർമാർക്കിന്റെ സിഗ്നൽ ദുർബലമാകും.
  • പൂർണ്ണമായ പുനർരചന (Complete rewriting) – എല്ലാ ടോക്കണുകളും പുതിയ രീതിയിൽ നിർമ്മിക്കുകയോ അല്ലെങ്കിൽ നേരിട്ട് എഴുതുകയോ ചെയ്യുന്നത്. ആ ഘട്ടത്തിൽ യഥാർത്ഥ വാട്ടർമാർക്ക് നശിച്ചുപോകും, എന്നാൽ resulting text ഇനി EU-യുടെ “AI-generated” എന്ന നിർവചനത്തിൽ ഉൾപ്പെടില്ല, കാരണം യഥാർത്ഥ മോഡൽ ഔട്ട്‌പുട്ടിന്റെ ഒരു അടയാളവും അവശേഷിക്കില്ല.

ചുരുക്കത്തിൽ: ചെറിയ രീതിയിലുള്ള മാറ്റങ്ങളെ വാട്ടർമാർക്ക് പ്രതിരോധിക്കും, എന്നാൽ ഉള്ളടക്കം പൂർണ്ണമായും പുനർനിർമ്മിച്ചാൽ അത് സാധ്യമല്ല.

കോഡ് ജനറേഷൻ: വാട്ടർമാർക്ക് എവിടെയാണ് നിലനിൽക്കുന്നത്

കോഡിംഗ് അസിസ്റ്റന്റായി Claude വ്യാപകമായി ഉപയോഗിക്കപ്പെടുന്നു; ഒറ്റ വരി കോഡുകൾ മുതൽ ഫുൾ-സ്റ്റാക്ക് മോഡ്യൂളുകൾ വരെ ഇത് നിർമ്മിക്കുന്നു. പ്രോഗ്രാമിംഗ് ഭാഷകളിൽ പര്യായപദങ്ങൾ ഉപയോഗിക്കാൻ വലിയ സാധ്യതയില്ല; ഉദാഹരണത്തിന് “for” എന്നതിന് പകരം “while” ഉപയോഗിക്കുന്നത് ലോജിക്കിനെ ബാധിക്കും. അതിനാൽ, മോഡലിന് വാക്കുകൾ തിരഞ്ഞെടുക്കാൻ സ്വാതന്ത്ര്യമുള്ള ഭാഗങ്ങളിൽ—അതായത് കമന്റുകൾ (comments), ഡോക്സ്ട്രിംഗുകൾ (docstrings), കോഡിനൊപ്പമുള്ള വിശദീകരണങ്ങൾ എന്നിവയിൽ—മാത്രം വാട്ടർമാർക്ക് കാണപ്പെടുമെന്നാണ് Anthropic പ്രതീക്ഷിക്കുന്നത്.

കോഡിന്റെ പ്രവർത്തനപരമായ ഭാഗങ്ങളിൽ മാറ്റം വരാത്തതിനാൽ, ഡെവലപ്പർമാർക്ക് അതിന്റെ കൃത്യതയിലോ പ്രകടനത്തിലോ (performance) യാതൊരു കുറവും അനുഭവപ്പെടില്ല. വാട്ടർമാർക്ക് കോഡ് മനസ്സിലാക്കാൻ സഹായിക്കുന്ന അനുബന്ധ ടെക്സ്റ്റുകളിൽ മാത്രമായി പരിമിതപ്പെടുത്തിയിരിക്കുന്നു, ഇത് ഉപയോഗക്ഷമത കുറയ്ക്കാതെ തന്നെ സുതാര്യതയുടെ ആവശ്യകത നിറവേറ്റുന്നു.

വ്യവസായ മേഖലയിലെ സ്വാധീനം

Anthropic തനിയെ അല്ല ഇത് ചെയ്യുന്നത്. ഒരു സ്റ്റാൻഡേർഡ് ഡിറ്റക്ഷൻ API ആവശ്യപ്പെടുന്ന ഒരേ Code of Practice-ൽ മറ്റ് നിരവധി LLM ഡെവലപ്പർമാരും ഒപ്പുവെച്ചിട്ടുണ്ട്. EU-യുടെ നടപ്പിലാക്കൽ സമയക്രമം പ്ലാൻ ചെയ്തതുപോലെ മുന്നോട്ട് പോയാൽ, ഇന്ന് ഡാറ്റാ കൈമാറ്റത്തിന് എൻക്രിപ്ഷൻ (encryption) ഉപയോഗിക്കുന്നത് പോലെ, വാട്ടർമാർക്കിംഗ് എന്നത് LLM സ്റ്റാക്കിലെ ഒരു ഡിഫോൾട്ട് ലെയറായി മാറാൻ സാധ്യതയുണ്ട്. ഈ നിബന്ധന അവഗണിക്കുന്ന കമ്പനികൾക്ക് പിഴ ചുമത്താനോ, യൂറോപ്പിലെ വിപണിയിലേക്കുള്ള പ്രവേശനം നഷ്ടപ്പെടാനോ, അല്ലെങ്കിൽ അവരുടെ സേവനങ്ങൾ നിർബന്ധപൂർവ്വം നീക്കം ചെയ്യപ്പെടാനോ സാധ്യതയുണ്ട്.

തർക്കവിഷയങ്ങൾ

വിമർശകർ വാദിക്കുന്നത്, ഒരു മറഞ്ഞിരിക്കുന്ന സിഗ്നൽ (signature), അത് അദൃശ്യമാണെങ്കിൽ പോലും, നിയന്ത്രണങ്ങൾക്കപ്പുറം ട്രാക്കിംഗിനോ അല്ലെങ്കിൽ ഉടമസ്ഥാവകാശം (attribution) സ്ഥാപിക്കുന്നതിനോ വേണ്ടി ഉപയോഗിച്ചേക്കാം എന്നാണ്. മനുഷ്യർ എഴുതിയ ടെക്സ്റ്റിനെ തെറ്റായി അടയാളപ്പെടുത്തുന്ന ഒരു ഡിറ്റക്ഷൻ API, ഈ സിഗ്നലുകളെ ആശ്രയിക്കുന്ന പ്ലാറ്റ്‌ഫോമുകളിലുള്ള വിശ്വാസം തകർക്കാൻ സാധ്യതയുണ്ടെന്നതിനാൽ അവർ 'ഫോൾസ് പോസിറ്റീവിനെ' (false positives) കുറിച്ചും ഭയപ്പെടുന്നു. Anthropic ഈ റിസ്കുകൾ അംഗീകരിക്കുകയും, സ്വതന്ത്രമായ ഓഡിറ്റിംഗിനും കാലിബ്രേഷനും (calibration) സൗകര്യമാകുന്ന രീതിയിൽ ഡിറ്റക്ഷൻ അൽഗോരിതം ഓപ്പൺ സോഴ്സ് ആയിരിക്കുമെന്ന് പറയുകയും ചെയ്യുന്നു.

വാട്ടർമാർക്ക് നിർമ്മിക്കുന്നതിനായുള്ള കമ്പ്യൂട്ടേഷണൽ ഓവർഹെഡ് (computational overhead) മറ്റൊരു പ്രായോഗിക ആശങ്കയാണ്. അധിക പ്രോസസ്സിംഗ് ഇൻഫറൻസ് സമയത്തിൽ (inference time) ഒരു ശതമാനത്തിന്റെ ചെറിയൊരു ഭാഗം മാത്രമേ കൂട്ടിച്ചേർക്കുന്നുള്ളൂ എന്ന് Anthropic റിപ്പോർട്ട് ചെയ്യുന്നു; ഈ അവകാശവാദം മൂന്നാം കക്ഷി ബെഞ്ച്മാർക്കുകൾ (third-party benchmarks) ഉടൻ തന്നെ പരിശോധിക്കും.

ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

  • API റോളൗട്ട് – ഏതൊരു Claude ഔട്ട്പുട്ടിൽ നിന്നും മറഞ്ഞിരിക്കുന്ന ബിറ്റ് പാറ്റേൺ (bit pattern) വേർതിരിച്ചെടുക്കുന്ന ഒരു പബ്ലിക് എൻഡ്പോയിന്റ് പുറത്തിറക്കാൻ Anthropic പദ്ധതിയിടുന്നു. ഡെവലപ്പർമാർക്ക് ഈ പരിശോധന കണ്ടന്റ് മോഡറേഷൻ പൈപ്പ്‌ലൈനുകളിൽ (content-moderation pipelines) ഉൾപ്പെടുത്താൻ സാധിക്കും.
  • സ്റ്റാൻഡേർഡൈസേഷൻ ശ്രമങ്ങൾ – വാട്ടർമാർക്ക് മെറ്റാഡാറ്റയ്ക്കായി (watermark metadata) റെഗുലേറ്ററി ബോഡികളും വ്യവസായ ഗ്രൂപ്പുകളും ഒരു പൊതു ഫോർമാറ്റ് തയ്യാറാക്കിക്കൊണ്ടിരിക്കുകയാണ്, ഇത് വിവിധ മോഡലുകൾക്കിടയിലുള്ള ഡിറ്റക്ഷൻ എളുപ്പമാക്കിയേക്കാം.
  • അനുഭവസിദ്ധമായ പഠനങ്ങൾ (Empirical studies) – അഡ്വേഴ്സേറിയൽ റീറൈറ്റിംഗ് ടൂളുകൾക്കെതിരെ (adversarial rewriting tools) SynthID-Text എത്രത്തോളം പ്രതിരോധശേഷിയുള്ളതാണെന്ന് സ്വതന്ത്ര ഗവേഷകർ പരിശോധിച്ചു തുടങ്ങിയിട്ടുണ്ട്. അവരുടെ കണ്ടെത്തലുകൾ ഈ സിഗ്നലുകളിൽ പ്ലാറ്റ്‌ഫോമുകൾ എത്രത്തോളം വിശ്വസിക്കണം എന്നതിനെ സ്വാധീനിക്കും.

ചുരുക്കത്തിൽ

Claude-ന്റെ ഔട്ട്പുട്ട് ഗുണനിലവാരം നിലനിർത്തിക്കൊണ്ടുതന്നെ വരാനിരിക്കുന്ന യൂറോപ്യൻ സുതാര്യതാ നിയമങ്ങൾ പാലിക്കാൻ AI കമ്മ്യൂണിറ്റിക്ക് ഒരു പ്രായോഗിക ഉപകരണം നൽകുകയാണ് Anthropic-ന്റെ SynthID-Text ഉപയോഗത്തിലൂടെ. സാധാരണ പ്രൂഫ് റീഡിംഗിൽ വാട്ടർമാർക്ക് നിലനിൽക്കും, എന്നാൽ ടെക്സ്റ്റ് പൂർണ്ണമായും പുനർനിർമ്മിക്കുമ്പോൾ (regenerated) അത് ഇല്ലാതാകും; കൂടാതെ പ്രോഗ്രാമിംഗ് ഔട്ട്പുട്ടിലെ ഫങ്ഷണാലിറ്റിയെ ബാധിക്കാത്ത നോൺ-കോഡ് ഭാഗങ്ങളിൽ ഇത് നിലനിൽക്കുകയും ചെയ്യുന്നു. ഈ സമീപനം വ്യവസായത്തിന്റെ മാനദണ്ഡമായി മാറുമോ എന്നത് ഡിറ്റക്ഷൻ API യഥാർത്ഥ സാഹചര്യങ്ങളിൽ എത്രത്തോളം മികച്ച രീതിയിൽ പ്രവർത്തിക്കുന്നു എന്നതിനെയും, സ്വകാര്യതയെക്കുറിച്ചും തെറ്റായ മുന്നറിയിപ്പുകളെക്കുറിച്ചുമുള്ള (false alarms) ആശങ്കകൾ പരിഹരിക്കാൻ കഴിയുമോ എന്നതിനെയും ആശ്രയിച്ചിരിക്കും.