Bun സുരക്ഷിതമല്ലാത്ത (unsafe) AI കോഡ് പുറത്തിറക്കി

Bun അടുത്തിടെ അതിന്റെ കോർ (core) Rust ഉപയോഗിച്ച് പുനർനിർമ്മിച്ചു. അവർ പരീക്ഷണാടിസ്ഥാനത്തിലുള്ള മൾത്തിത്രെഡിംഗും (multithreading) ഉൾപ്പെടുത്തിയിട്ടുണ്ട്. ഇവ വലിയ മാറ്റങ്ങളാണ്. എന്നിരുന്നാലും, ഈ ലക്ഷ്യങ്ങൾ കൈവരിക്കാൻ ഉപയോഗിച്ച രീതി ആശങ്കാജനകമാണ്.

Rust പുനർനിർമ്മാണത്തിന്റെ ഭൂരിഭാഗവും Claude AI ആണ് എഴുതിയതെന്ന് Bun ടീം സമ്മതിച്ചു. ഈ മാറ്റം കോഡ്ബേസിലേക്ക് 13,000-ലധികം unsafe ബ്ലോക്കുകൾ കൂട്ടിച്ചേർത്തു. കൂടാതെ, ഒരു കൺകറന്റ് ഗാർബേജ് കളക്ടർ (concurrent garbage collector) ഇല്ലാതെയാണ് ഇത് പുറത്തിറക്കിയത്.

സിസ്റ്റം പ്രോഗ്രാമിംഗിൽ, unsafe കോഡ് മെമ്മറി സുരക്ഷയെ (memory safety) അവഗണിക്കുന്നു. ഒരു unsafe ബ്ലോക്ക് പോലും ഒരു റിസ്കാണ്. ഒരു AI തയ്യാറാക്കിയ പതിമൂവായിരം ബ്ലോക്കുകൾ എന്നത് വലിയൊരു ബാധ്യതയാണ്.

വേഗതയുടെ ആവശ്യകത എനിക്ക് മനസ്സിലാകും. Node.js, Deno എന്നിവയോട് മത്സരിക്കാൻ ചെറിയ ടീമുകൾ വേഗത്തിൽ നീങ്ങേണ്ടതുണ്ട്. എന്നാൽ ശ്രദ്ധയില്ലാത്ത വേഗത അപകടകരമാണ്.

ഓരോ unsafe ബ്ലോക്കും സാധുവായ മെമ്മറി ആക്സസ് (memory access) ഉറപ്പുനൽകുന്ന ഒന്നാണ്. ഒരു AI ആണ് കോഡ് എഴുതുന്നതെങ്കിൽ, ആ ഉറപ്പിന് ആര് ഉത്തരവാദിത്തം ഏറ്റെടുക്കും?

റിസ്കുകൾ വ്യക്തമാണ്:

  • AI കോഡുകൾക്ക് മെമ്മറി മാനേജ്‌മെന്റിൽ മനുഷ്യസഹജമായ യുക്തിയുടെ (reasoning) കുറവുണ്ട്.
  • അതിവേഗത്തിലുള്ള കോഡ് നിർമ്മാണം അതിവേഗത്തിലുള്ള പരിശോധന ആവശ്യപ്പെടുന്നു.
  • ഒരു കൺകറന്റ് ഗാർബേജ് കളക്ടറിന്റെ അഭാവം മൾത്തിത്രെഡഡ് വർക്ക്ലോഡുകളെ (multithreaded workloads) അസ്ഥിരമാക്കുന്നു.

ഒരു റൺടൈം (runtime) എന്നത് വെറുമൊരു ലൈബ്രറി മാത്രമല്ല. അത് നിങ്ങളുടെ മുഴുവൻ ആപ്ലിക്കേഷന്റെയും അടിസ്ഥാനമാണ്. വിശ്വാസത്തിന്റെ അടിസ്ഥാനത്തിലാണ് നിങ്ങൾ ഒരു റൺടൈം തിരഞ്ഞെടുക്കുന്നത്. ഇൻഫ്രാസ്ട്രക്ചർ പരീക്ഷണാടിസ്ഥാനത്തിലുള്ളതാണെന്ന് തോന്നുമ്പോൾ, ഡെവലപ്പർമാർ Node.js പോലുള്ള സുസ്ഥിരമായ ടൂളുകളിലേക്ക് മടങ്ങുന്നു.

ഞാൻ ദിവസവും AI ടൂളുകൾ ഉപയോഗിക്കാറുണ്ട്. ഒരു ജൂനിയർ എഞ്ചിനീയർ നൽകുന്ന കോഡ് എങ്ങനെയോ, അതുപോലെയാണ് ഞാൻ AI കോഡിനെയും കാണുന്നത്. അതിന്റെ സ്വാധീനത്തിന് അനുസരിച്ചുള്ള പരിശോധന അതിന് ആവശ്യമാണ്.

ഒരു റൺടൈമിനുള്ളിലെ മൾത്തിത്രെഡിംഗിന്റെ സ്വാധീനം വളരെ വലുതാണ്. പതിമൂവായിരം unsafe ബ്ലോക്കുകൾക്ക് പതിമൂവായിരം നല്ല കാരണങ്ങൾ ആവശ്യമാണ്. അവയ്ക്ക് പതിമൂവായിരം വെറും അംഗീകാരങ്ങൾ (rubber stamps) മാത്രം പോരാ.

ലക്ഷ്യബോധമുള്ളവരായിരിക്കുക എന്നത് നല്ലതാണ്. എന്നാൽ സിസ്റ്റം കോഡുകളിൽ അശ്രദ്ധ കാണിക്കുന്നത് ഒരു ബാധ്യതയാണ്.

നിങ്ങളുടെ പ്രൊഡക്ഷൻ ആപ്പിൽ 13,000 AI-ജനറേറ്റഡ് unsafe ബ്ലോക്കുകൾ നിങ്ങൾ പ്രവർത്തിപ്പിക്കുമോ? ഇൻഫ്രാസ്ട്രക്ചറിനായി AI-യെ വിശ്വസിക്കുന്നതിൽ നിങ്ങളുടെ പരിധി എന്താണ്?

Source: https://dev.to/adioof/bun-shipped-a-million-lines-of-ai-generated-unsafe-code-thats-not-bold-its-reckless-h3g

Optional learning community: https://t.me/GyaanSetuAi