Anthropic-ന്റെ Fable, Mythos മോഡലുകൾക്ക് മേലുള്ള യുഎസ് നിരോധനത്തിനെതിരെ സൈബർ സുരക്ഷാ വിദഗ്ധർ പ്രതിഷേധിക്കുന്നു

Anthropic-ന്റെ ഏറ്റവും നൂതനമായ AI മോഡലുകളെ ലക്ഷ്യമിട്ട് യുഎസ് സർക്കാർ അടുത്തിടെ പുറപ്പെടുവിച്ച കയറ്റുമതി നിയന്ത്രണ ഉത്തരവിനെതിരെ 76 പ്രമുഖ സൈബർ സുരക്ഷാ വിദഗ്ധരുടെ കൂട്ടായ്മ മുന്നറിയിപ്പ് നൽകുന്നു. ഈ ഉപകരണങ്ങൾ ഉപയോഗിക്കുന്നതിന് നിയന്ത്രണം ഏർപ്പെടുത്തുന്നതിലൂടെ, ശത്രുക്കൾ മുന്നേറിക്കൊണ്ടിരിക്കുമ്പോൾ ഡിജിറ്റൽ പ്രതിരോധകരെ അറിഞ്ഞോ അറിയാതെയോ നിരായുധരാക്കുകയാണ് സർക്കാർ ചെയ്യുന്നതെന്ന് ഈ സംഘം വാദിക്കുന്നു.

സംഘർഷം: ദേശീയ സുരക്ഷയും പ്രതിരോധ ശേഷിയും തമ്മിലുള്ള പോരാട്ടം

വെളിപ്പെടുത്താത്ത ദേശീയ സുരക്ഷാ ആശങ്കകൾ ചൂണ്ടിക്കാട്ടി Anthropic-ന്റെ Fable, Mythos മോഡലുകൾക്ക് മേൽ യുഎസ് സർക്കാർ കയറ്റുമതി നിയന്ത്രണ ഉത്തരവ് പുറപ്പെടുവിച്ചതോടെയാണ് ഈ സംഘർഷം ആരംഭിച്ചത്. ഉത്തരവിനോട് അനുസൃതമായി, Anthropic ഈ മോഡലുകളുടെ ആഗോളതലത്തിലുള്ള പ്രവേശനം നിർത്തിവെച്ചു.

സോഫ്റ്റ്‌വെയർ സുരക്ഷാ പിഴവുകൾ (vulnerability) കണ്ടെത്തുന്നതിനായി അതീവ ഉയർന്ന ശേഷിയോടെയാണ് Mythos മോഡൽ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. അതിനാൽ, 15 രാജ്യങ്ങളിലായി ഏകദേശം 150 സ്ഥാപനങ്ങൾക്ക് മാത്രമാണ് Anthropic തുടക്കത്തിൽ ഇതിന്റെ പ്രവേശനം അനുവദിച്ചത്. പൊതുജനങ്ങൾക്ക് ലഭ്യമായ Fable മോഡലിൽ, ബയോളജി, കെമിസ്ട്രി, സൈബർ സുരക്ഷാ മേഖലകളിൽ ദുരുപയോഗം ചെയ്യുന്നത് തടയാൻ കർശനമായ നിയന്ത്രണങ്ങൾ (guardrails) ഉൾപ്പെടുത്താൻ ഉദ്ദേശിച്ചിരുന്നു. എന്നിരുന്നാലും, സർക്കാരിന്റെ ഇടപെടൽ ഇന്റർനെറ്റ് സുരക്ഷിതമാക്കാൻ ചുമതലപ്പെട്ടവർക്ക് ഈ ശക്തമായ ഉപകരണങ്ങൾ ഉപയോഗിക്കുന്നത് ഫലത്തിൽ തടസ്സപ്പെടുത്തിയിരിക്കുകയാണ്.

"Jailbreak" വിവാദവും ആമസോൺ പേപ്പറും

സുരക്ഷാ നിയന്ത്രണങ്ങളെ മറികടക്കാൻ ഉപയോഗിക്കുന്ന രീതികളായ "jailbreaking"-നെ സംബന്ധിച്ച ആശങ്കകളിൽ നിന്നാകാം വൈറ്റ് ഹൗസ് ഉത്തരവ് ഉണ്ടായതെന്ന് Anthropic സൂചിപ്പിക്കുന്നു. ആമസോൺ ഗവേഷകർ തയ്യാറാക്കിയ, പരസ്യമാകാത്ത ഒരു ഗവേഷണ പ്രബന്ധത്തിൽ നിന്നാണ് ഈ ആശങ്ക ഉടലെടുത്തതെന്ന് പറയപ്പെടുന്നു.

Fable-ന്റെ സുരക്ഷാ നിയന്ത്രണങ്ങൾ മറികടന്ന് Mythos-ന്റെ ശേഷികൾ ഉപയോഗിക്കാൻ ഉപയോക്താക്കൾക്ക് കഴിയുമെന്ന് പ്രസ്തുത പ്രബന്ധം സൂചിപ്പിച്ചു. എന്നാൽ, AI-യുടെ ഉപയോഗക്ഷമതയെക്കുറിച്ചുള്ള അടിസ്ഥാനപരമായ തെറ്റിദ്ധാരണയാണിതെന്ന് Katie Moussouris (Luta Security സ്ഥാപക) ഉൾപ്പെടെയുള്ള സൈബർ സുരക്ഷാ വിദഗ്ധർ വാദിക്കുന്നു. വിവരിക്കപ്പെട്ട "jailbreak" എന്നത് മോഡൽ അതിന്റെ ഉദ്ദേശിച്ച ജോലി ചെയ്യുന്നതായിരുന്നു എന്ന് മൗസൂറിസ് വാദിക്കുന്നു: അതായത്, അറിയപ്പെടുന്ന സുരക്ഷാ പിഴവുകൾ അടങ്ങിയ ഓപ്പൺ സോഴ്സ് കോഡുകൾ പരിഹരിക്കുക എന്നത്.

മൗസൂറിസിന്റെ അഭിപ്രായത്തിൽ, ഒരു ബഗ് പരിഹരിക്കാനും, ആ പാച്ച് വിശദീകരിക്കാനും, ഒരു ടെസ്റ്റ് എഴുതാനും AI-യോട് ആവശ്യപ്പെടുന്നത് സുരക്ഷാ ലംഘനമല്ല; മറിച്ച് അത് ആധുനിക പ്രതിരോധ സുരക്ഷയെ നിർവചിക്കുന്ന "find, fix, and test loop" ആണ്. ഇത്തരം പ്രവർത്തനങ്ങളെ തടയാൻ ശ്രമിക്കുന്നത് സോഫ്റ്റ്‌വെയറുകളെ സംരക്ഷിക്കാനുള്ള മോഡലിന്റെ കഴിവിനെ അടിസ്ഥാനപരമായി തളർത്തും.

വലിയ സ്വാധീനമുള്ള ഒപ്പുകാർക്കും വ്യവസായ മേഖലയ്ക്കും ഉണ്ടാകുന്ന പ്രത്യാഘാതങ്ങളും

മുൻ ഫേസ്ബുക്ക് സുരക്ഷാ മേധാവി Alex Stamos, Bugcrowd സ്ഥാപകൻ Casey Ellis, പ്രശസ്ത ക്രിപ്റ്റോഗ്രാഫർ Jon Callas എന്നിവരുൾപ്പെടെ സുരക്ഷാ മേഖലയിലെ പ്രമുഖർ ഈ തുറന്ന കത്തിന് പിന്തുണ നൽകുന്നു. ഒരു നിർണ്ണായകമായ അസന്തുലിതാവസ്ഥയെ കേന്ദ്രീകരിച്ചാണ് അവരുടെ വാദം: പ്രതിരോധ സേനയ്ക്ക് അത്യാധുനിക LLM-കളിലേക്കുള്ള പ്രവേശനം നിഷേധിക്കപ്പെടുകയും എന്നാൽ ശത്രുക്കൾ നിയന്ത്രണങ്ങളില്ലാത്ത മോഡലുകൾ ഉപയോഗിക്കുകയും ചെയ്താൽ, ആഗോള സുരക്ഷാ നിലവാരം ദുർബലമാകും.

Fable-ൽ കാണപ്പെടുന്ന സുരക്ഷാ വീഴ്ചകൾ Anthropic-ന് മാത്രം അവകാശപ്പെട്ടതല്ലെന്നും വിദഗ്ധർ ചൂണ്ടിക്കാട്ടി. സമാനമായ "സുരക്ഷാ വീഴ്ചകൾ" OpenAI-യുടെ GPT-5.5, Anthropic-ന്റെ സ്വന്തം Claude Opus 4.8, Sonnet, കൂടാതെ Kimi 2.7 പോലുള്ള അന്താരാഷ്ട്ര മോഡലുകളിലും ഉണ്ടാകാൻ സാധ്യതയുണ്ടെന്ന് കത്തിൽ സൂചിപ്പിക്കുന്നു.

ഗുണത്തേക്കാൾ ഉപരി ദോഷം ചെയ്തേക്കാവുന്ന വിപുലവും പ്രതികരണാത്മകവുമായ നിരോധനങ്ങൾക്ക് പകരം, സുതാര്യമായ ഗവേഷണങ്ങളെ അടിസ്ഥാനമാക്കിയുള്ള ജനാധിപത്യപരവും ശാസ്ത്രീയവുമായ ഒരു നിയന്ത്രണ പ്രക്രിയയ്ക്കായി ഈ കൂട്ടായ്മ ആഹ്വാനം ചെയ്യുന്നു.

പ്രധാന കാര്യങ്ങൾ