Hugging Face ബ്രീച്ച്: സ്വയംപ്രവർത്തിക്കുന്ന AI ഏജന്റുകൾ സൈബർ യുദ്ധകാലഘട്ടത്തിലേക്ക് പ്രവേശിക്കുന്നു

ഒരു സ്വയംപ്രവർത്തിക്കുന്ന AI ഏജന്റ് സിസ്റ്റം ആസൂത്രണം ചെയ്തതായി പറയപ്പെടുന്ന, Hugging Face-ന്റെ പ്രൊഡക്ഷൻ ഇൻഫ്രാസ്ട്രക്ചറിലുണ്ടായ സങ്കീർണ്ണമായ ഒരു ബ്രീച്ച് കമ്പനി വെളിപ്പെടുത്തിയിട്ടുണ്ട്. ഈ സംഭവം സൈബർ സുരക്ഷാ രംഗത്ത് ഒരു നിർണ്ണായക നിമിഷമാണ്, "ഏജന്റിക് അറ്റാക്കർമാർ" (agentic attackers) ഇനി വെറുമൊരു സിദ്ധാന്തമല്ല, മറിച്ച് ഒരു യാഥാർത്ഥ്യമാണെന്ന് ഇത് തെളിയിക്കുന്നു.

ഒരു ഏജന്റിക് ആക്രമണത്തിന്റെ ഘടന

AI ലൈഫ്സൈക്കിളിന്റെ ദുർബലമായ ഒരു ഭാഗത്തുനിന്നാണ് ഈ ബ്രീച്ച് ആരംഭിച്ചത്: ഡാറ്റാ പ്രോസസ്സിംഗ് പൈപ്പ്‌ലൈൻ. Hugging Face-ന്റെ അഭിപ്രായത്തിൽ, അറ്റാക്കർ ഒരു മാലിഷ്യസ് ഡാറ്റാസെറ്റ് ഉപയോഗിച്ച് രണ്ട് പ്രത്യേക കോഡ് എക്സിക്യൂഷൻ പാത്തുകൾ ചൂഷണം ചെയ്തു—ഒരു റിമോട്ട് കോഡ് ഡാറ്റാസെറ്റ് ലോഡറും ഡാറ്റാസെറ്റ് കോൺഫിഗറേഷനുള്ളിലെ ടെംപ്ലേറ്റ് ഇൻജക്ഷനും.

ഉള്ളിൽ പ്രവേശിച്ചുകഴിഞ്ഞാൽ, ആക്രമണം യന്ത്രത്തിന്റെ വേഗതയിൽ നീങ്ങി. ഒരു ഏജന്റിക് സെക്യൂരിറ്റി റിസർച്ച് ഹാർനെസ് ഉപയോഗിച്ച് പ്രവർത്തിക്കുന്ന ഒരു സ്വയംപ്രവർത്തിക്കുന്ന ഏജന്റ് ഫ്രെയിംവർക്ക്, നോഡ് ലെവലിലേക്ക് പ്രിവിലേജുകൾ വർദ്ധിപ്പിച്ചു (escalated privileges). സിസ്റ്റം ക്ലൗഡ്, ക്ലസ്റ്റർ ക്രെഡൻഷ്യലുകൾ വിജയകരമായി ശേഖരിക്കുകയും ഒരു വാരാന്ത്യത്തിലുടനീളം ഒന്നിലധികം ഇന്റേണൽ ക്ലസ്റ്ററുകളിലൂടെ വശങ്ങളിലേക്ക് നീങ്ങുകയും (moved laterally) ചെയ്തു. ആയിരക്കണക്കിന് വ്യക്തിഗത പ്രവർത്തനങ്ങൾ നടപ്പിലാക്കുന്നതിനായി അറ്റാക്കർ കുറഞ്ഞ കാലം മാത്രം നിലനിൽക്കുന്ന സാൻഡ്‌ബോക്സുകളുടെ ഒരു കൂട്ടവും സ്വയം മാറിക്കൊണ്ടിരിക്കുന്ന കമാൻഡ്-ആൻഡ്-കൺട്രോൾ (C2) ഇൻഫ്രാസ്ട്രക്ചറും ഉപയോഗിച്ചു, ഇത് ഈ കാമ്പയിനെ വളരെ പ്രതിരോധശേഷിയുള്ളതാക്കുകയും കണ്ടെത്താൻ പ്രയാസകരമാക്കുകയും ചെയ്തു.

AI vs. AI: ഫോറൻസിക് പോരാട്ടം

യന്ത്രത്തിന്റെ വേഗതയിലുള്ള ആക്രമണത്തിന് നേരിട്ടുള്ള മറുപടിയായി, Hugging Face സ്വന്തം AI അധിഷ്ഠിത പ്രതിരോധ സംവിധാനങ്ങൾ വിന്യസിച്ചു. സെക്യൂരിറ്റി ടെലിമെട്രിക്കിയിൽ LLM അധിഷ്ഠിത ട്രയാജ് (triage) നടത്തുന്ന ഒരു AI അധിഷ്ഠിത അനോമലി ഡിറ്റക്ഷൻ പൈപ്പ്‌ലൈൻ കമ്പനി ഉപയോഗിച്ചു.

17,000-ലധികം അറ്റാക്കർ പ്രവർത്തനങ്ങൾ രേഖപ്പെടുത്തിയ ഈ സംഭവത്തിന്റെ വലിയ തോതിലുള്ള വ്യാപ്തി കൈകാര്യം ചെയ്യുന്നതിനായി, ടീം LLM അധിഷ്ഠിത അനാലിസിസ് ഏജന്റുകളെ വിന്യസിച്ചു. ഈ ഏജന്റുകൾക്ക് ആക്രമണത്തിന്റെ ടൈംലൈൻ പുനർനിർമ്മിക്കാനും, ഇൻഡിക്കേറ്റേഴ്സ് ഓഫ് കോംപ്രമൈസ് (IoCs) വേർതിരിച്ചെടുക്കാനും, ബാധിക്കപ്പെട്ട ക്രെഡൻഷ്യലുകൾ മാപ്പ് ചെയ്യാനും കഴിഞ്ഞു. സാധാരണയായി മനുഷ്യ വിശകലന വിദഗ്ധർക്ക് ദിവസങ്ങൾ എടുക്കുന്ന ഒരു ജോലിയെ ഈ ഓട്ടോമേറ്റഡ് ഫോറൻസിക് പ്രക്രിയ ഏതാനും മണിക്കൂറുകൾ മാത്രമാക്കി ചുരുക്കി.

"സേഫ്റ്റി ഗാർഡ്‌റെയിൽ" വൈരുദ്ധ്യം

അന്വേഷണ വേളയിൽ വാണിജ്യ ഫ്രണ്ടിയർ മോഡലുകൾ (commercial frontier models) പരാജയപ്പെട്ടത് ഈ സംഭവത്തിലെ ഏറ്റവും പ്രധാനപ്പെട്ട സാങ്കേതിക വെളിപ്പെടുത്തലുകളിൽ ഒന്നാണ്. പ്രധാന വാണിജ്യ API-കൾ ഉപയോഗിച്ച് അറ്റാക്ക് ലോഗുകൾ വിശകലനം ചെയ്യാൻ Hugging Face എഞ്ചിനീയർമാർ ശ്രമിച്ചപ്പോൾ, സേഫ്റ്റി ഫിൽട്ടറുകൾ അവരെ ആവർത്തിച്ച് തടഞ്ഞു. ലോഗുകളിൽ യഥാർത്ഥ എക്സ്പ്ലോയിറ്റ് പേലോഡുകളും C2 ആർട്ടീഫാക്റ്റുകളും അടങ്ങിയിരുന്നതിനാൽ, മോഡലുകളുടെ ഗാർഡ്‌റെയിലുകൾക്ക് ഒരു നിയമപരമായ ഫോറൻസിക് ഇൻവെസ്റ്റിഗേറ്ററെയും ഒരു ദുഷ്ടപ്രവർത്തകനെയും തമ്മിൽ വേർതിരിച്ചറിയാൻ കഴിഞ്ഞില്ല.

ഈ തടസ്സം മറികടക്കാൻ, Hugging Face സ്വന്തം ഇന്റേണൽ ഇൻഫ്രാസ്ട്രക്ചറിൽ പ്രവർത്തിക്കുന്ന ഓപ്പൺ-വെയിറ്റ് മോഡലായ GLM 5.2-ലേക്ക് മാറി. ഇത് ബാഹ്യ സുരക്ഷാ പ്രോട്ടോക്കോളുകൾ ലംഘിക്കാതെയോ അല്ലെങ്കിൽ മൂന്നാം കക്ഷി സേവനദാതാക്കൾക്ക് ക്രെഡൻഷ്യലുകൾ ചോർത്താതെയോ സെൻസിറ്റീവ് ഡാറ്റയും റോ പ്ലാൻ അറ്റാക്ക് കമാൻഡുകളും പ്രോസസ്സ് ചെയ്യാൻ ടീമിനെ അനുവദിച്ചു.

എന്തുകൊണ്ട് ഇത് AI രംഗത്ത് പ്രധാനമാണ്

"ഏജന്റിക് അറ്റാക്കർ" സാഹചര്യം ഔദ്യോഗികമായി നിലവിൽ വന്നു എന്ന് ഈ സംഭവം സ്ഥിരീകരിക്കുന്നു. ഈ സംവിധാനങ്ങൾ മൾട്ടി-സ്റ്റേജ് കാമ്പയിനുകളുടെ ചിലവ് കുറയ്ക്കുകയും ഉയർന്ന തോതിലുള്ള സ്കെയിലബിൾ ആയ, ഓട്ടോമേറ്റഡ് അതിക്രമങ്ങൾ അനുവദിക്കുകയും ചെയ്യുന്നു. കൂടാതെ, നിലവിലെ AI സുരക്ഷയിലെ ഒരു നിർണ്ണായകമായ വിടവ് ഇത് ചൂണ്ടിക്കാണിക്കുന്നു: പ്രതിസന്ധിക്കിടയിൽ വാണിജ്യ ഗാർഡ്‌റെയിലുകൾ അറിയാതെ തന്നെ പ്രതിരോധിക്കുന്നവരെ അന്ധരാക്കിയേക്കാം.

ചൂഷണം ചെയ്യപ്പെട്ട എക്സിക്യൂഷൻ പാത്തുകൾ അടച്ചും, ക്രെഡൻഷ്യലുകൾ മാറ്റിയും, ബാധിക്കപ്പെട്ട നോഡുകൾ പുനർനിർമ്മിച്ചും Hugging Face ഭീഷണി ലഘൂകരിച്ചിട്ടുണ്ട്. എന്നിരുന്നാലും, വ്യവസായത്തിനുള്ള വലിയ പാഠം വ്യക്തമാണ്: അറ്റാക്ക് സർഫസുകൾ ഡാറ്റയും മോഡൽ കോൺഫിഗറേഷനുകളും ഉൾക്കൊള്ളുന്ന രീതിയിൽ വികസിക്കുമ്പോൾ, ഒരു സംഭവസമയത്ത് പ്രവർത്തന പരമാധികാരം (operational sovereignty) നിലനിർത്താൻ പ്രതിരോധിക്കുന്നവർക്ക് കഴിവുള്ളതും, സെൽഫ്-ഹോസ്റ്റഡ് ആയതും, ഓപ്പൺ-വെയിറ്റ് മോഡലുകളും ഉണ്ടായിരിക്കണം.

പ്രധാന കാര്യങ്ങൾ

• സ്വയംപ്രവർത്തിക്കുന്ന യുദ്ധം യാഥാർത്ഥ്യമാണ്: വശങ്ങളിലേക്ക് നീങ്ങാനും (lateral movement) സ്വയം മാറിക്കൊണ്ടിരിക്കുന്ന ഇൻഫ്രാസ്ട്രക്ചറുകൾ ഉപയോഗിക്കാനും ശേഷിയുള്ള ഒരു സ്വയംപ്രവർത്തിക്കുന്ന ഏജന്റ് ഫ്രെയിംവർക്ക് വഴിയാണ് ആക്രമണം നടന്നത്.
• ഗാർഡ്‌റെയിൽ വിടവ്: യഥാർത്ഥ ലോകത്തെ എക്സ്പ്ലോയിറ്റ് പേലോഡുകളുടെ വിശകലനം തടയുന്നതിലൂടെ വാണിജ്യ LLM സേഫ്റ്റി ഫിൽട്ടറുകൾ ഫോറൻസിക് അന്വേഷണങ്ങളെ തടസ്സപ്പെടുത്തിയേക്കാം.
• പ്രതിരോധത്തിന് പരമാധികാരം ആവശ്യമാണ്: യന്ത്രത്തിന്റെ വേഗതയിലുള്ള ആക്രമണങ്ങളെ നേരിടാൻ, സ്ഥാപനങ്ങൾ അവരുടെ സ്വകാര്യ ഇൻഫ്രാസ്ട്രക്ചറിൽ സ്വന്തം LLM അധിഷ്ഠിത സെക്യൂരിറ്റി ഏജന്റുകൾ വിന്യസിക്കണം.