Anthropic-ന്റെ പ്രോംപ്റ്റ്-ലീക്ക് ബഗ് ഒരാഴ്ചത്തെ ഉപയോക്താക്കളുടെ ഡാറ്റ പുറത്തുവിട്ടു.

ഈ സുരക്ഷാ വീഴ്ചയുടെ പ്രാധാന്യം

Anthropic-ന്റെ മോഡൽ ഇന്റർഫേസ് ഡെവലപ്പർമാരെ "prompts" അയക്കാൻ അനുവദിക്കുന്നു—അതായത് ഒരു ലാംഗ്വേജ് മോഡലിന്റെ പ്രതികരണത്തെ നയിക്കുന്ന ടെക്സ്റ്റ്. ഈ സംഭവത്തിൽ, സ്റ്റോറേജ് സംബന്ധിച്ച ഒരു പിഴവ് കാരണം അനധികൃത വ്യക്തികൾക്ക് ഏഴ് ദിവസത്തേക്ക് ആ പ്രോംപ്റ്റുകൾ വായിക്കാൻ സാധിച്ചു. ഇതൊരു വലിയ ഹാക്കിംഗ് ആയിരുന്നില്ല; പ്രോംപ്റ്റുകൾ എങ്ങനെ സേവ് ചെയ്യുന്നുവെന്നും അവ എങ്ങനെ വീണ്ടെടുക്കുന്നുവെന്നും ഉള്ള കാര്യത്തിലുള്ള ചെറിയൊരു വീഴ്ചയാണ് ഇതിന് കാരണമായത്.

എവിടെയാണ് പിഴവ് സംഭവിച്ചത്

ഉപയോക്താക്കളുടെ ഡാറ്റ മോഡൽ വെയ്റ്റുകളിൽ (model weights) നിന്ന് വേർതിരിച്ചു സൂക്ഷിക്കുന്നത് വിവരങ്ങൾ ചോരാനുള്ള സാധ്യത കുറയ്ക്കുന്നു. ഓഡിറ്റ് ട്രയലുകൾ (audit trails) നിർമ്മിക്കുന്നത് അസാധാരണമായ പ്രവർത്തനങ്ങൾ നേരത്തെ കണ്ടെത്താൻ സഹായിക്കും.

AI സ്റ്റാർട്ടപ്പുകൾ ഉടൻ ചെയ്യേണ്ട കാര്യങ്ങൾ

  • പ്രോംപ്റ്റ് കൈകാര്യം ചെയ്യുന്നത് കൂടുതൽ സുരക്ഷിതമാക്കുക – വരുന്ന ഓരോ പ്രോംപ്റ്റും സെൻസിറ്റീവ് ഇൻപുട്ട് ആയി പരിഗണിക്കുക. അവ എൻക്രിപ്റ്റ് ചെയ്യുക, റീഡ്/റൈറ്റ് (read/write) അവകാശങ്ങൾ ഏറ്റവും കുറഞ്ഞ സേവനങ്ങളിലേക്ക് മാത്രമായി പരിമിതപ്പെടുത്തുക, കൂടാതെ മോഡൽ എക്സിക്യൂഷൻ എഞ്ചിന് (model execution engine) മാത്രമേ അവ വീണ്ടെടുക്കാൻ കഴിയൂ എന്ന് ഉറപ്പാക്കുക.
  • ഉപയോക്താക്കളുടെ ഡാറ്റ മോഡൽ വെയ്റ്റുകളിൽ നിന്ന് വേർതിരിക്കുക – മോഡൽ ഫയലുകളിൽ നിന്ന് ഭൗതികമായും യുക്തിപരമായും (physically and logically) വേറിട്ട ഒരു പ്രത്യേക റിപ്പോസിറ്ററിയിൽ പ്രോംപ്റ്റുകൾ സൂക്ഷിക്കുക. ഈ വേർതിരിക്കൽ ഏതെങ്കിലും ഒരു സുരക്ഷാ വീഴ്ചയുടെ ആഘാതം കുറയ്ക്കാൻ സഹായിക്കും.
  • ഓഡിറ്റ് ട്രയലുകൾ നിർമ്മിക്കുക – പ്രോംപ്റ്റ് സ്റ്റോറേജ് ഉപയോഗിക്കുന്ന ഓരോ തവണയും ടൈംസ്റ്റാമ്പ്, യൂസർ ഐഡി, സോഴ്സ് ഐപി (source IP) എന്നിവ സഹിതം രേഖപ്പെടുത്തുക. അസാധാരണമായ ഡാറ്റ റീഡ് ചെയ്യുന്നതോ അല്ലെങ്കിൽ അപ്രതീക്ഷിതമായ സേവനങ്ങളിൽ നിന്നുള്ള പ്രവേശനമോ ഉണ്ടായാൽ അലേർട്ടുകൾ നൽകുന്ന റിയൽ-ടൈം അനലിറ്റിക്സ് ഉപയോഗിക്കുക.

ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

ചുരുക്കത്തിൽ: പ്രോംപ്റ്റ് കൈകാര്യം ചെയ്യുന്നതിലെ ഒരു ചെറിയ പിഴവ് ഒരാഴ്ച നീണ്ടുനിൽക്കുന്ന ഡാറ്റാ ചോർച്ചയ്ക്ക് കാരണമായേക്കാം. മറ്റ് ഉപയോക്തൃ ഡാറ്റാ സിസ്റ്റങ്ങളിൽ നൽകുന്ന അതേ ജാഗ്രത പ്രോംപ്റ്റ് സ്റ്റോറേജിനും AI സ്ഥാപകർ നൽകണം, അല്ലെങ്കിൽ അവർക്കും Anthropic-ന്റെ ഈ വലിയ പിഴവ് ആവർത്തിക്കേണ്ടി വരും.