Anthropic તેના Claude મોડલ્સ દ્વારા ઉત્પાદિત દરેક ટેક્સ્ટ અને ફાઇલના દરેક ભાગમાં એક છુપાયેલ ડિજિટલ સિગ્નેચર એમ્બેડ કરશે, જે યુરોપિયન યુનિયનના નવા AI પારદર્શિતા (transparency) નિયમોને સંતોષવા માટે લેવાયેલ પગલું છે. આ ફેરફાર 2 ઓગસ્ટના રોજ EU AI Act ના Transparency Code અમલમાં આવ્યા પછી રિલીઝ કરાયેલા તમામ મોડલ્સ માટે લાગુ થશે, અને તે Claude ના API, Code, Cowork અને Tag ઇન્ટરફેસ પર આપમેળે દેખાશે.

EU નિયમ શા માટે મહત્વપૂર્ણ છે

Transparency Code ડેવલપર્સને AI-જનરેટેડ અથવા એડિટ કરેલ કન્ટેન્ટને માર્ક કરવા માટે બંધાયેલ છે જેથી ડાઉનસ્ટ્રીમ સિસ્ટમ્સ તેના કૃત્રિમ મૂળને ઓળખી શકે. આ નિયમનો હેતુ ખોટી માહિતી (misinformation) ને રોકવાનો અને જ્યારે વપરાશકર્તાઓ મશીન દ્વારા તૈયાર કરાયેલ સામગ્રી સાથે કામ કરી રહ્યા હોય ત્યારે તેમને સ્પષ્ટ સંકેત આપવાનો છે. Anthropic નો પ્રતિસાદ—મોડલ-લેવલ વોટરમાર્કિંગ—પ્રોડક્ટ UI માં તેને જોડવાને બદલે સીધું આઉટપુટમાં માર્કર મૂકે છે.

અન્ય AI દિગ્ગજો પણ સમાન વચનો આપી રહ્યા છે. Google, Meta, Microsoft, OpenAI અને Black Forest Labs એ તમામ કહ્યું છે કે તેઓ EU ના ધોરણોનું પાલન કરશે. ટેક્સ્ટ સિવાયની એસેટ્સ માટે, Anthropic C2PA ઓપન સ્ટાન્ડર્ડનો ઉપયોગ કરશે, જે ઈમેજ, વિડિયો અને અન્ય મીડિયામાં પ્રોવેનન્સ (ઉદભવ) ડેટા એમ્બેડ કરવાની એક જાહેર દસ્તાવેજીકૃત પદ્ધતિ છે. એક ઓપન સ્પેસિફિકેશનને અનુસરીને, Anthropic ને આશા છે કે તેના માર્કિંગ્સ પત્રકારો, પ્લેટફોર્મ્સ અને ફેક્ટ-ચેકર્સ દ્વારા પહેલેથી જ ઉપયોગમાં લેવાતા સાધનો સાથે કામ કરશે.

વોટરમાર્ક કેવી રીતે કામ કરે છે

Anthropic કહે છે કે વોટરમાર્ક મોડલની ટેક્સ્ટ-જનરેશન પ્રક્રિયામાં જ સમાવિષ્ટ છે. વ્યવહારમાં, આ સિગ્નેચર મોડલ દ્વારા બહાર પાડવામાં આવતા ટોકન સ્ટ્રીમનો ભાગ બની જાય છે. જ્યારે વપરાશકર્તા ટેક્સ્ટને વર્ડ પ્રોસેસર, ઈમેલ અથવા સોશિયલ મીડિયા પોસ્ટમાં કોપી કરે છે, ત્યારે તે છુપાયેલ પેટર્ન તેની સાથે જ જાય છે. કંપની નોંધે છે કે વોટરમાર્ક સામાન્ય એડિટિંગમાં ટકી શકે છે, પરંતુ માર્ક અદૃશ્ય થાય તે પહેલાં કેટલા અક્ષરો બદલવા જોઈએ તે જાહેર કર્યું નથી.

“Claudefishing” ની ચિંતા

Anthropic નું આ રોલઆઉટ એવા સમયે આવી રહ્યું છે જ્યારે લાર્જ લેંગ્વેજ મોડલ્સ (LLMs) ના દુરુપયોગ અંગે ચિંતા વધી રહી છે. Substack ના CEO Chris Best એ તાજેતરમાં કોઈ ચોક્કસ લેખકના અવાજની નકલ કરીને છેતરપિંડી કરતું કન્ટેન્ટ બનાવવા માટે AI નો ઉપયોગ કરવાના વર્તનને વર્ણવવા માટે “Claudefishing” શબ્દ આપ્યો છે. જેમ જેમ કૃત્રિમ ટેક્સ્ટને માનવ લેખનથી અલગ પાડવું મુશ્કેલ બનતું જાય છે, તેમ પ્રોવેનન્સનું સ્વચાલિત ડિટેક્શન સંરક્ષણની એક મહત્વપૂર્ણ લાઇન બની જાય છે.

સુરક્ષાના પગલાં ઉમેરવામાં Anthropic એકલું નથી. મ્યુઝિક-જનરેશન પ્લેટફોર્મ Suno અને ન્યૂઝલેટર સેવા Substack એ ફ્લેગિંગ મિકેનિઝમ્સ રજૂ કર્યા છે જે વાચકોને ચેતવણી આપે છે જ્યારે કોઈ સામગ્રી AI દ્વારા બનાવવામાં આવી હોય. સ્ત્રોત પર જ વોટરમાર્ક એમ્બેડ કરીને, Anthropic નો હેતુ સંકેતને દૂર કરવો મુશ્કેલ બનાવવાનો અને ડાઉનસ્ટ્રીમ ફિલ્ટર્સ માટે તેના પર કામ કરવું સરળ બનાવવાનો છે.

મુખ્ય મુદ્દાઓ

  • નિયમનકારી પાલન (Regulatory Compliance): Anthropic EU AI Act ના Transparency Code ને પૂર્ણ કરવા માટે વોટરમાર્કિંગ અમલમાં મૂકી રહ્યું છે, જે 2 ઓગસ્ટથી અમલમાં આવ્યું છે.
  • મોડલ-લેવલ ઇન્ટિગ્રેશન: વોટરમાર્ક મોડલ સ્તરે લાગુ કરવામાં આવે છે, તેથી તેઓ તમામ ઉત્પાદનો (API, Claude Code, વગેરે) માં જળવાઈ રહે છે અને કોપી-પેસ્ટ કરવાની પ્રક્રિયામાં પણ ટકી રહે છે.
  • સ્ટાન્ડર્ડાઇઝ્ડ ફાઇલ માર્કિંગ: ફાઇલો માટે, Anthropic ડિજિટલ કન્ટેન્ટમાં ઇન્ટરઓપરેબિલિટી અને પારદર્શિતા સુનિશ્ચિત કરવા માટે C2PA ઓપન સ્ટાન્ડર્ડનો ઉપયોગ કરશે.