യുഎസ് ഗവൺമെന്റും Anthropic-ഉം തമ്മിലുള്ള പോരാട്ടം: ഹാക്ക് ചെയ്യാൻ കഴിയാത്ത LLM-കൾക്കായുള്ള അസാധ്യമായ ആവശ്യം

Fable 5 മോഡൽ പുറത്തിറക്കിയതിനെത്തുടർന്ന് യുഎസ് ഗവൺമെന്റും Anthropic-ഉം തമ്മിൽ വലിയ ഭിന്നത ഉടലെടുത്തിരിക്കുകയാണ്. ഇത് AI സുരക്ഷയെയും നിയന്ത്രണ മേൽനോട്ടത്തെയും കുറിച്ചുള്ള ചർച്ചകൾക്ക് വഴിതെളിച്ചിരിക്കുന്നു. എക്സിക്യൂട്ടീവ് ഉത്തരവുകൾ ലംഘിച്ചുവെന്ന് ഉദ്യോഗസ്ഥർ AI ലാബിനെ കുറ്റപ്പെടുത്തുന്നതിനൊപ്പം, കൂടുതൽ ആഴത്തിലുള്ള ഒരു സാങ്കേതിക തർക്കവും ഉയർന്നുവരുന്നുണ്ട്: ഹാക്ക് ചെയ്യാൻ കഴിയാത്ത (unhackable) ഫ്രോണ്ടിയർ മോഡലുകൾ വേണമെന്ന ഗവൺമെന്റിന്റെ ആവശ്യം.

Fable 5-ഉം സൈബർ നിർദ്ദേശങ്ങളും തമ്മിലുള്ള തർക്കം

ട്രംപ് ഭരണകൂടത്തിന്റെ പുതിയ സൈബർ എക്സിക്യൂട്ടീവ് ഉത്തരവ് പ്രകാരം രൂപീകരിക്കാൻ നിശ്ചയിച്ചിട്ടുള്ള ഗവൺമെന്റ് ക്ലിയറിംഗ് ഹൗസ് പൂർണ്ണമായി പ്രവർത്തനസജ്ജമാകുന്നതിന് മുമ്പ് തന്നെ Anthropic തങ്ങളുടെ ഏറ്റവും പുതിയ മോഡലായ Fable 5 പുറത്തിറക്കാൻ തീരുമാനിച്ചതാണ് ഈ സംഘർഷത്തിന് കാരണം. ഈ ഉത്തരവ് സ്വമേധയാ ഉള്ള മേൽനോട്ടം ആവശ്യപ്പെട്ടതെങ്കിലും, നിർദ്ദേശത്തിന്റെ അന്തഃസത്ത Anthropic അവഗണിച്ചുവെന്ന് ഗവൺമെന്റ് ഉദ്യോഗസ്ഥർ അവകാശപ്പെടുന്നു. ഇത് കമ്പനി ഒരു "bad actor" ആണെന്ന ആരോപണങ്ങളിലേക്ക് നയിച്ചിട്ടുണ്ട്.

കൊമേഴ്‌സ് ഡിപ്പാർട്ട്‌മെന്റ്, CIA, ശാസ്ത്ര ഉപദേഷ്ടാവ് മൈക്കൽ ക്രാറ്റ്‌സിയോസ് എന്നിവർ ഉൾപ്പെട്ട നിലവിലെ ചർച്ചകൾ വലിയൊരു ആശയവിനിമയ വിടവ് വെളിപ്പെടുത്തുന്നു. ഒരു "jailbreak" അപകടസാധ്യത നിലനിൽക്കുന്നുണ്ടെന്ന് അറിഞ്ഞിട്ടും Anthropic മുന്നോട്ട് പോയതിൽ ഉദ്യോഗസ്ഥർ ആശങ്ക പ്രകടിപ്പിച്ചു—ആമസോണും മറ്റ് ടെക് വ്യവസായ പങ്കാളികളും നൽകിയ വിവരമാണിതെന്ന് പറയപ്പെടുന്നു. എന്നിരുന്നാലും, ഈ തർക്കം സാങ്കേതിക സുരക്ഷയെപ്പോലെ തന്നെ നിയന്ത്രണങ്ങൾ നടപ്പിലാക്കുന്ന സമയക്രമത്തെക്കുറിച്ചും കൂടിയാണെന്ന് കാണപ്പെടുന്നു.

സാങ്കേതിക യാഥാർത്ഥ്യം: LLM-കൾക്ക് എപ്പോഴെങ്കിലും ഹാക്ക് ചെയ്യാൻ കഴിയാത്തവയാകാൻ കഴിയുമോ?

സാധ്യമായ jailbreak-കൾ അവഗണിച്ചുകൊണ്ട് Anthropic "തെറ്റായ വഴി തിരഞ്ഞെടുത്തു" എന്ന ഗവൺമെന്റിന്റെ വിമർശനം, Large Language Model (LLM) ആർക്കിടെക്ചറിന്റെ അടിസ്ഥാനപരമായ യാഥാർത്ഥ്യത്തെ അവഗണിക്കുന്നതാണ്. AI വ്യവസായത്തിൽ, പൂർണ്ണമായ സുരക്ഷ നിലവിൽ അസാധ്യമാണെന്ന കാര്യത്തിൽ പൊതുവായ ധാരണയുണ്ട്. പ്രോംപ്റ്റ് ഇൻജക്ഷൻ (prompt injection) പോലുള്ള സുരക്ഷാ വീഴ്ചകൾ ഒരിക്കലും പൂർണ്ണമായി പരിഹരിക്കാൻ കഴിഞ്ഞേക്കില്ലെന്ന് OpenAI പോലും സമ്മതിച്ചിട്ടുണ്ട്.

ബയോളജി അല്ലെങ്കിൽ ടെക്നോളജി പോലുള്ള സെൻസിറ്റീവ് മേഖലകളിൽ ഒരു jailbreak ഉണ്ടാകുന്നത് "ജീവൻ രക്ഷിക്കാനോ നഷ്ടപ്പെടാനോ" കാരണമായേക്കാമെന്നും, എന്നാൽ ഈ അപകടസാധ്യതകൾ എങ്ങനെ കുറയ്ക്കാം എന്നതിനായി വ്യവസായം ഇപ്പോഴും പരിശ്രമിച്ചുകൊണ്ടിരിക്കുകയാണെന്നും Anthropic CEO ഡാറിയോ അമോഡെ (Dario Amodei) നേരത്തെ സൂചിപ്പിച്ചിട്ടുണ്ട്. അന്താരാഷ്ട്ര വിപണിയിലേക്ക് ഇറക്കുന്നതിന് മുമ്പ് മോഡലുകൾ ഹാക്ക് ചെയ്യാൻ കഴിയാത്തവയായിരിക്കണം എന്ന് ആവശ്യപ്പെടുന്നതിലൂടെ, യുഎസ് ഗവൺമെന്റ് നവീകരണങ്ങളെ തടയുന്ന ഒരു കീഴ്വഴക്കം സൃഷ്ടിച്ചേക്കാം. കാരണം, ഒരു ഫ്രോണ്ടിയർ മോഡലിനും (GPT-5.5 അല്ലെങ്കിൽ Kimi 2.7 ഉൾപ്പെടെ) പൂർണ്ണമായ സുരക്ഷാ കവചമില്ല.

വ്യവസായ മേഖലയിലെ പ്രതിഷേധവും എക്സ്പോർട്ട് കൺട്രോൾ ചർച്ചയും

വർദ്ധിച്ചുവരുന്ന സംഘർഷത്തിന് മറുപടിയായി, അലക്സ് സ്റ്റാമോസ്, റേച്ചൽ ടോബാക് തുടങ്ങിയ വ്യവസായ രംഗത്തെ മുതിർന്ന വ്യക്തികൾ ഉൾപ്പെടെ 100-ലധികം സൈബർ സുരക്ഷാ വിദഗ്ധരും എക്സിക്യൂട്ടീവുകളും വ്യാപാര സെക്രട്ടറി ലട്ട്‌നിക്കിനും നാഷണൽ സൈബർ ഡയറക്ടർ കെയർൻക്രോസിനും ഒരു തുറന്ന കത്ത് നൽകിയിട്ടുണ്ട്. Anthropic-ന്റെ Fable, Mythos മോഡലുകൾക്കുമേലുള്ള കയറ്റുമതി നിയന്ത്രണങ്ങൾ നീക്കം ചെയ്യണമെന്ന് അവർ ആവശ്യപ്പെടുന്നു.

സോഫ്റ്റ്‌വെയർ പിഴവുകൾ തിരിച്ചറിയാൻ Fable-ന് ഉയർന്ന ശേഷിയുണ്ടെങ്കിലും, Opus അല്ലെങ്കിൽ Sonnet പോലുള്ള മറ്റ് മോഡലുകളെ അപേക്ഷിച്ച് ഇത് സവിശേഷമായി അപകടകാരിയല്ലെന്ന് വിദഗ്ധർ വാദിക്കുന്നു. കടുത്ത കയറ്റുമതി നിയന്ത്രണങ്ങൾ പാശ്ചാത്യ പ്രതിരോധ സേനകളെ യഥാർത്ഥത്തിൽ പ്രതിസന്ധിയിലാക്കുമെന്നും അവർ മുന്നറിയിപ്പ് നൽകുന്നു. ഉയർന്ന നിലവാരമുള്ള യുഎസ് മോഡലുകളിലേക്കുള്ള പ്രവേശനം നിയന്ത്രിക്കുന്നതിലൂടെ, അമേരിക്കൻ ഫ്രണ്ടിയർ മോഡലുകൾക്ക് ഏതാനും മാസങ്ങൾ മാത്രം പിന്നിലുള്ള ചൈനീസ് ഓപ്പൺ-വെയിറ്റ് മോഡലുകൾക്ക് സർക്കാർ അറിഞ്ഞോ അറിയാതെയോ ഒരു നേട്ടം നൽകിയേക്കാം.

പ്രധാന വിവരങ്ങൾ