സിന്തറ്റിക് ഉള്ളടക്കം മെഷീൻ-റീഡബിൾ (machine-readable) രീതിയിൽ വ്യക്തമായി അടയാളപ്പെടുത്തണമെന്ന EU AI Act-ന്റെ നിബന്ധന പാലിക്കുന്നതിനായി Anthropic, Claude നിർമ്മിച്ച ടെക്സ്റ്റുകൾക്കായി ഒരു വാട്ടർമാർക്ക് അവതരിപ്പിച്ചു. മോഡലിന്റെ വേഗത കുറയ്ക്കാതെയോ അധിക ടോക്കണുകൾ ഉപയോഗിക്കാതെയോ AI എഴുതിയ ടെക്സ്റ്റ് തിരിച്ചറിയാൻ ഈ സാങ്കേതികവിദ്യ സഹായിക്കുമെന്ന് കമ്പനി അവകാശപ്പെടുന്നു. റെഗുലേറ്റർമാരും എതിരാളികളും ഉടൻ തന്നെ ഈ അവകാശവാദം പരിശോധിക്കും.

എന്തുകൊണ്ടാണ് ഈ വാട്ടർമാർക്ക് പ്രധാനമാകുന്നത്

ഒരു പ്രൈവറ്റ് കീയും (private key) ചുറ്റുമുള്ള സന്ദർഭവും (context) ഉപയോഗിച്ച് വാട്ടർമാർക്ക് വാക്കുകൾ തിരഞ്ഞെടുക്കുന്ന രീതിയിൽ മാറ്റം വരുത്തുന്നു. വായനക്കാർക്ക് ഈ പാറ്റേൺ കാണാൻ കഴിയില്ല, എന്നാൽ കീ അറിയാവുന്ന ഒരു വെരിഫയർക്ക് (verifier) ഇത് കണ്ടെത്താനാകും. പ്രായോഗികമായി, ഒരു ഡൗൺസ്ട്രീം ടൂൾ ഡോക്യുമെന്റ് പരിശോധിക്കുകയും അത് Claude നിർമ്മിച്ചതാണോ എന്ന് റിപ്പോർട്ട് ചെയ്യുകയും ചെയ്യുന്നു.

റെഗുലേറ്ററി സമ്മർദ്ദം

സിന്തറ്റിക് ഉള്ളടക്കത്തിൽ തിരിച്ചറിയാൻ കഴിയുന്ന സിഗ്നലുകൾ ഉൾപ്പെടുത്താൻ EU AI Act ജനറേറ്റീവ് സിസ്റ്റം നൽകുന്നവർക്ക് നിർബന്ധമാക്കുന്നു.

ബിസിനസ്സ് വെല്ലുവിളികൾ

ഇത്തരത്തിലുള്ള അടയാളങ്ങൾ സ്വീകരിക്കണോ എന്ന് തീരുമാനിക്കുമ്പോൾ കമ്പനികൾ മൂന്ന് കാര്യങ്ങൾ പരിഗണിക്കുന്നു:

  • ട്രാസബിലിറ്റി പരിധികൾ (Traceability limits) – ടെക്സ്റ്റ് ഒരു AI മോഡലിൽ നിന്ന് വന്നതാണെന്ന് വാട്ടർമാർക്ക് സ്ഥിരീകരിക്കുന്നുണ്ടെങ്കിലും, അത് ഒരു പ്രത്യേക ഉപയോക്താവിനോടോ അക്കൗണ്ടോടോ ബന്ധിപ്പിക്കാൻ കഴിയില്ല. AI നിർമ്മിച്ച ഉള്ളടക്കം ദുരുപയോഗം ചെയ്യപ്പെടുമ്പോൾ ഉത്തരവാദിത്തം നിശ്ചയിക്കുന്നതിൽ ഈ കുറവ് ഒരു തടസ്സമാകുന്നു.
  • വരുമാന ഭീഷണി (Revenue risk) – മത്സരപരമായ കാരണങ്ങളാലോ സ്വകാര്യത മുൻനിർത്തിയോ അടയാളങ്ങളില്ലാത്ത ടെക്സ്റ്റ് ആഗ്രഹിക്കുന്ന ഉപഭോക്താക്കളിൽ മൂന്നിലൊന്ന് ഭാഗത്തെ വാട്ടർമാർക്ക് അകറ്റുമെന്ന് ചില സേവനദാതാക്കൾ ഭയപ്പെടുന്നു.
  • സാങ്കേതിക പരിമിതികൾ (Technical constraints) – ഒരു പാറ്റേൺ ഉൾപ്പെടുത്തുന്നത് മോഡലിന്റെ സർഗ്ഗാത്മകതയിൽ ചെറിയ കുറവ് വരുത്തിയേക്കാം, പ്രത്യേകിച്ച് വാട്ടർമാർക്കിന് ഉപയോഗിക്കാൻ കുറഞ്ഞ വാക്കുകൾ മാത്രമുള്ള ചെറിയ ഭാഗങ്ങളിൽ. കൂടാതെ, ഉപയോക്താക്കൾ ടെക്സ്റ്റിന്റെ ഭാഗങ്ങൾ സ്വയം മാറ്റിയെഴുതുന്നതിലൂടെ (re-phrasing) സിഗ്നലിന്റെ തീവ്രത കുറയ്ക്കാനും കണ്ടെത്തൽ പ്രയാസകരമാക്കാനും സാധ്യതയുണ്ട്.

തങ്ങളുടെ രീതി ഈ പോരായ്മകളിൽ ഭൂരിഭാഗവും ഒഴിവാക്കുമെന്ന് Anthropic വിശ്വസിക്കുന്നു. ടോക്കൺ തിരഞ്ഞെടുക്കുന്ന പ്രക്രിയയിൽ തന്നെ കീ ഉൾപ്പെടുത്തുന്നതിലൂടെ, വേഗത കുറയുന്നില്ലെന്നും അധിക ടോക്കൺ ചിലവ് വരുന്നില്ലെന്നും കമ്പനി അവകാശപ്പെടുന്നു. ഇത് പണം നൽകി സേവനം ഉപയോഗിക്കുന്ന ഉപഭോക്താക്കൾ പ്രതീക്ഷിക്കുന്ന മികച്ച അനുഭവം നിലനിർത്തുന്നു.

സാങ്കേതിക വെല്ലുവിളികൾ

നിർമ്മാണ സമയത്ത് ഉപയോഗിച്ച അതേ പ്രൈവറ്റ് കീ വെരിഫയർക്ക് ഉണ്ടെങ്കിൽ മാത്രമേ ഇത് തിരിച്ചറിയാൻ കഴിയൂ. ചെറിയ ടെക്സ്റ്റുകൾ ഇപ്പോഴും ഒരു പോരായ്മയാണ്, കാരണം അവിടെ സ്റ്റാറ്റിസ്റ്റിക്കൽ പാറ്റേൺ വ്യക്തമാകില്ല, ഇത് തെറ്റായ ഫലങ്ങൾ (false-negative rates) നൽകാൻ കാരണമാകും. കൂടാതെ, വാട്ടർമാർക്ക് ഡൗൺസ്ട്രീം എഡിറ്റിംഗിനെ തടയുന്നില്ല; ഒരു പാരഗ്രാഫിന്റെ പകുതി ഭാഗം ഉപയോക്താവ് മാറ്റിയെഴുതിയാൽ വാട്ടർമാർക്ക് ഇല്ലാതാക്കാൻ സാധിക്കും.

ചുരുക്കത്തിൽ (Takeaway): പുതിയ നിയമപരമായ നിർദ്ദേശത്തിന് Anthropic-ന്റെ വാട്ടർമാർക്ക് മറുപടി നൽകുന്നുണ്ടെങ്കിലും, അതിന്റെ വിജയം കണ്ടെത്താനുള്ള കഴിവും (detectability), ഉപയോഗത്തിലെ നിയന്ത്രണങ്ങളും, അത് മറികടക്കപ്പെടാനുള്ള സാധ്യതയും തമ്മിലുള്ള സന്തുലിതാവസ്ഥയെ ആശ്രയിച്ചിരിക്കും.