ഡ്രോണുകൾ, റോബോട്ടുകൾ, വിഷൻ സിസ്റ്റങ്ങൾ എന്നിവയിൽ നേരിട്ട് ജനറേറ്റീവ് AI പ്രവർത്തിപ്പിക്കാൻ സഹായിക്കുന്ന ഒരു എഡ്ജ്-കമ്പ്യൂട്ടിംഗ് മോഡ്യൂളായ Jetson Orin Nano 2 NVIDIA പ്രഖ്യാപിച്ചു.

ജനറേറ്റീവ് AI എഡ്ജിലേക്ക് എത്തിക്കുന്നു

വലിയ ജനറേറ്റീവ് മോഡലുകൾ പ്രവർത്തിപ്പിക്കാൻ മുമ്പ് ഡാറ്റാ സെന്റർ ജിപിയു (GPU) ആവശ്യമായിരുന്നു. എന്നാൽ Orin Nano 2 ഈ രീതിയെ മാറ്റുന്നു: ഡെവലപ്പർമാർക്ക് ഇപ്പോൾ ഈ മോഡലുകൾ ഉപകരണത്തിൽ തന്നെ പ്രവർത്തിപ്പിക്കാൻ കഴിയും. യന്ത്രങ്ങൾ ഇനി ക്ലൗഡ് നിർദ്ദേശങ്ങൾക്കായി കാത്തുനിൽക്കേണ്ടതില്ല; അവ സെൻസർ ഡാറ്റ പ്രോസസ്സ് ചെയ്യുകയും തത്സമയം പ്രവർത്തിക്കുകയും ചെയ്യുന്നു.

സ്റ്റാർട്ടപ്പുകളെ സംബന്ധിച്ചിടത്തോളം, ഇത് ലേറ്റൻസി (latency) കുറയ്ക്കുകയും ബാൻഡ്‌വിഡ്ത്ത് ഉപയോഗം കുറയ്ക്കുകയും ഡാറ്റ സ്വകാര്യമായി സൂക്ഷിക്കുകയും ചെയ്യുന്നു—വിദൂര സ്ഥലങ്ങൾക്കോ സുരക്ഷിതമായ സാഹചര്യങ്ങൾക്കോ ഇത് വളരെ പ്രധാനമാണ്.

സ്വയം പ്രവർത്തിക്കുന്ന യന്ത്രങ്ങൾക്കായി ഒരു പുതിയ മാനദണ്ഡം

ഓട്ടോണമസ് മൊബൈൽ റോബോട്ടുകൾ (AMRs), അൺമാൻഡ് ഏരിയൽ വെഹിക്കിൾസ് (UAVs) എന്നിവയാണ് ഈ ബോർഡ് ലക്ഷ്യമിടുന്നത്. ക്യാമറ, LiDAR, മറ്റ് സെൻസർ സ്ട്രീമുകൾ എന്നിവ ഒരേസമയം കൈകാര്യം ചെയ്യാൻ ആവശ്യമായ ശേഷി NVIDIA-യുടെ ആർക്കിടെക്ചർ നൽകുന്നു.

Orin Nano 2 ഘടിപ്പിച്ച റോബോട്ടുകൾക്ക് മുൻകൂട്ടി നിശ്ചയിച്ച പാതകൾക്ക് അപ്പുറത്തേക്ക് സഞ്ചരിക്കാൻ കഴിയും. വിഷൻ-ലാംഗ്വേജ് മോഡലുകൾ അവയ്ക്ക് ചുറ്റുപാടുകൾ മനസ്സിലാക്കാനും മനുഷ്യനെപ്പോലെ കാര്യങ്ങൾ ഗ്രഹിച്ചുകൊണ്ട് മാറിക്കൊണ്ടിരിക്കുന്ന സാഹചര്യങ്ങളിൽ സഞ്ചരിക്കാനും തടസ്സങ്ങൾക്കനുസരിച്ച് പെട്ടെന്ന് മാറാനും സഹായിക്കുന്നു.

AI ഇക്കോസിസ്റ്റത്തിന് ഇത് എന്തുകൊണ്ട് പ്രധാനമാകുന്നു

എഡ്ജ് AI എല്ലാവർക്കും ലഭ്യമാക്കാനുള്ള NVIDIA-യുടെ ശ്രമം, ക്ലൗഡ് അധിഷ്ഠിത ബുദ്ധിയിൽ നിന്ന് ഭൗതികമായ പ്രവർത്തനങ്ങളിലേക്കുള്ള (physical agency) മാറ്റത്തെ സൂചിപ്പിക്കുന്നു. LLM-കളും ഡിഫ്യൂഷൻ മോഡലുകളും വളരുന്നതോടെ, ഡിജിറ്റൽ വിവരങ്ങളെ ചലനമാക്കി മാറ്റുന്ന ഹാർഡ്‌വെയറുകൾ അത്യന്താപേക്ഷിതമായി മാറുന്നു.

ഒരു എൻട്രി-ലെവൽ ബോർഡ് വാഗ്ദാനം ചെയ്യുന്നതിലൂടെ, ഹാർഡ്‌വെയർ ഇന്നൊവേറ്റർമാർക്കുള്ള തടസ്സങ്ങൾ NVIDIA കുറയ്ക്കുന്നു. വലിയ സെർവർ ഫാമുകൾ ഉള്ള കമ്പനികൾക്ക് പുറമെ മറ്റുള്ളവരിലേക്കും റോബോട്ടിക്സ് രംഗത്തെ മുന്നേറ്റങ്ങൾ എത്തിക്കാൻ ഇത് സഹായിക്കുന്നു. ആധുനിക വ്യവസായ-ഉപഭോക്തൃ റോബോട്ടുകളെ നിർണ്ണയിക്കുന്നത് ഉടൻ തന്നെ എഡ്ജ് കമ്പ്യൂട്ടിംഗ് ആയിരിക്കും.

പ്രധാന കാര്യങ്ങൾ

  • ലോക്കലൈസ്ഡ് ഇന്റലിജൻസ്: Orin Nano 2 ജനറേറ്റീവ് AI ഉപകരണത്തിൽ തന്നെ പ്രവർത്തിപ്പിക്കുന്നു, ഇത് ലേറ്റൻസിയും ക്ലൗഡ് ആശ്രിതത്വവും കുറയ്ക്കുന്നു.
  • ലക്ഷ്യമിട്ടുള്ള ഉപയോഗങ്ങൾ: തത്സമയ പ്രോസസ്സിംഗ് ആവശ്യമുള്ള ഡ്രോണുകൾ, സ്വയം പ്രവർത്തിക്കുന്ന റോബോട്ടുകൾ, അത്യാധുനിക വിഷൻ സിസ്റ്റങ്ങൾ എന്നിവയ്ക്കായി ഒപ്റ്റിമൈസ് ചെയ്തിരിക്കുന്നു.
  • ഫിസിക്കൽ AI എല്ലാവർക്കും ലഭ്യമാക്കുന്നു: കുറഞ്ഞ ചിലവിലുള്ള ഒരു എഡ്ജ് മോഡ്യൂൾ ഡെവലപ്പർമാർക്കും സ്റ്റാർട്ടപ്പുകൾക്കും AI സംയോജനം വേഗത്തിലാക്കുന്നു.

റോബോട്ടുകൾ, ഡ്രോണുകൾ അല്ലെങ്കിൽ വിഷൻ സിസ്റ്റങ്ങൾ എന്നിവയിൽ നേരിട്ട് ജനറേറ്റീവ് AI മോഡലുകൾ പ്രവർത്തിപ്പിക്കാൻ കഴിയുന്ന ഒരു എൻട്രി-ലെവൽ എഡ്ജ് മോഡ്യൂളായ Jetson Orin Nano 2 NVIDIA പുറത്തിറക്കി. അടിസ്ഥാനപരമായ കാഴ്ചപ്പാടുകൾക്ക് (perception) അപ്പുറമുള്ള കാര്യങ്ങൾക്കായി മുമ്പ് ക്ലൗഡ് സെർവറുകളെ ആശ്രയിച്ചിരുന്ന ഡെവലപ്പർമാർക്ക്, തത്സമയവും ഉപകരണത്തിൽ തന്നെ പ്രവർത്തിക്കുന്നതുമായ ബുദ്ധിശക്തി ഇനി ലഭ്യമാകും.

എഡ്ജ് AI എന്തുകൊണ്ട് പ്രധാനമാകുന്നു

വലിയ ലാംഗ്വേജ് മോഡലുകളോ ഡിഫ്യൂഷൻ ജനറേറ്ററുകളോ പ്രവർത്തിപ്പിക്കുക എന്നത് പരമ്പരാഗതമായി സെൻസർ ഡാറ്റ ഒരു ഡാറ്റാ സെന്ററിലേക്ക് അയക്കുക, മറുപടിക്കായി കാത്തുനിൽക്കുക, തുടർന്ന് പ്രവർത്തിക്കുക എന്നതായിരുന്നു. ഈ പ്രക്രിയ സെക്കൻഡുകളുടെ കാലതാമസമുണ്ടാക്കുകയും ബാൻഡ്‌വിഡ്ത്ത് ഉപയോഗിക്കുകയും സ്വകാര്യതാ ആശങ്കകൾ ഉയർത്തുകയും ചെയ്യുന്നു. പെട്ടെന്ന് വീഴുന്ന ഒരു പാലെറ്റ് (pallet) ഒഴിവാക്കേണ്ടി വരുന്ന ഒരു വെയർഹൗസിലെ സ്വയം പ്രവർത്തിക്കുന്ന റോബോട്ടിന്റെ കാര്യത്തിലോ, തകർന്ന കെട്ടിടത്തിനുള്ളിലൂടെ സഞ്ചരിക്കുന്ന ഒരു തിരച്ചിൽ-രക്ഷാ ഡ്രോണിന്റെ കാര്യത്തിലോ, ക്ലൗഡ് മറുപടിക്കായി കാത്തുനിൽക്കുന്നത് വിജയവും പരാജയവും തമ്മിലുള്ള വ്യത്യാസമായി മാറിയേക്കാം.

എഡ്ജ് AI ഇടനിലക്കാരെ ഒഴിവാക്കുന്നു. വീഡിയോ, ലിഡാർ (lidar) അല്ലെങ്കിൽ മറ്റ് സെൻസർ സ്ട്രീമുകൾ പ്രാദേശികമായി പ്രോസസ്സ് ചെയ്യുന്നതിലൂടെ, ഒരു സ്ഥിരമായ ഇന്റർനെറ്റ് കണക്ഷൻ ഇല്ലാതെ തന്നെ ഉപകരണത്തിന് നിമിഷനേരത്തിനുള്ളിൽ തീരുമാനങ്ങൾ എടുക്കാൻ കഴിയും. ഇതിന്റെ ഗുണങ്ങൾ മൂന്നാണ്: വേഗത്തിലുള്ള പ്രതികരണ സമയം, കുറഞ്ഞ ഡാറ്റാ ട്രാഫിക്, കൂടാതെ റോ ഡാറ്റ (raw data) ഉപകരണത്തിൽ തന്നെ സൂക്ഷിക്കാനുള്ള കഴിവ് എന്നിവയിലൂടെ സ്വകാര്യതാ നിയമങ്ങൾ പാലിക്കുന്നത് എളുപ്പമാക്കുന്നു.

Orin Nano 2 എന്ത് നൽകുന്നു

പുതിയ മോഡ്യൂൾ NVIDIA-യുടെ Jetson കുടുംബത്തിന്റെ ഭാഗമാണ്, എന്നാൽ സ്റ്റാർട്ടപ്പുകളെയും ചെറിയ ഇന്റഗ്രേറ്റർമാരെയും ലക്ഷ്യമിട്ടുള്ള വിലയിൽ "ജനറേറ്റീവ് AI എഡ്ജിൽ" എന്ന് അവകാശപ്പെടുന്ന ആദ്യത്തെ മോഡ്യൂളാണിത്. ഇതിന്റെ ആർക്കിടെക്ചർ ഒരു GPU ശൈലിയിലുള്ള കോറിനെയും ഡെഡിക്കേറ്റഡ് ന്യൂറൽ നെറ്റ്‌വർക്ക് ആക്സിലറേറ്ററുകളെയും സംയോജിപ്പിക്കുന്നു, ഇത് വിഷൻ-ലാംഗ്വേജ് മോഡലുകൾക്കും ചെറിയ ഡിഫ്യൂഷൻ നെറ്റ്‌വർക്കുകൾക്കും മറ്റ് ജനറേറ്റീവ് വർക്ക്ലോഡുകൾക്കും ആവശ്യമായ സങ്കീർണ്ണമായ കണക്കുകൂട്ടലുകൾ കൈകാര്യം ചെയ്യുന്നു.

പ്രധാന ശേഷികൾ

  • മൾട്ടി-സെൻസർ ഫ്യൂഷൻ – പ്രോസസറിന് അമിതഭാരം നൽകാതെ തന്നെ ക്യാമറ ഫീഡുകൾ, ലിഡാർ പോയിന്റുകൾ, മറ്റ് ഇൻപുട്ടുകൾ എന്നിവ ഒരേസമയം സ്വീകരിക്കുന്നു.
  • ഓൺ-ഡിവൈസ് ഇൻഫറൻസ് – ഡാറ്റ പുറത്തേക്ക് അയക്കാതെ തന്നെ പ്രീ-ട്രെയിൻഡ് മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്നു, ഇത് ബാൻഡ്‌വിഡ്ത്തും രഹസ്യാത്മകതയും നിലനിർത്തുന്നു.
  • ഊർജ്ജക്ഷമതയുള്ള പ്രവർത്തനം – യുഎവി (UAV) അല്ലെങ്കിൽ ഹാൻഡ്‌ഹെൽഡ് ഇൻസ്പെക്ഷൻ ടൂളുകൾ പോലുള്ള ബാറ്ററിയുടെ ആയുസ്സോ താപനിലയോ പ്രധാന പരിമിതികളായ പ്ലാറ്റ്‌ഫോമുകൾക്കായി രൂപകൽപ്പന ചെയ്തിരിക്കുന്നു.

റോബോട്ടിക്സിലെ സ്വാധീനം

Orin Nano 2 ഉള്ള റോബോട്ടുകൾക്ക് മുൻകൂട്ടി നിശ്ചയിച്ച പാതകൾക്ക് അപ്പുറത്തേക്ക് നീങ്ങാൻ കഴിയും. "ഇടത് ഷെൽഫിലെ ചുവന്ന ടൂൾബോക്സ് എടുക്കുക" എന്നതുപോലുള്ള ഒരു കമാൻഡ് വ്യാഖ്യാനിക്കാനും, അവസാനമായി മാപ്പ് തയ്യാറാക്കിയതിന് ശേഷം ചുറ്റുപാടുകളിൽ മാറ്റം വന്നിട്ടുണ്ടെങ്കിൽ പോലും ആ വസ്തു കണ്ടെത്താനും വിഷൻ-ലാംഗ്വേജ് മോഡലുകൾ റോബോട്ടിനെ സഹായിക്കുന്നു.

ഡ്രോണുകൾക്ക് തത്സമയം ഭൂപ്രകൃതി വിലയിരുത്താനും, പുതിയ തടസ്സങ്ങൾ പ്രത്യക്ഷപ്പെടുമ്പോൾ പറക്കൽ പ്ലാനുകളിൽ പെട്ടെന്ന് മാറ്റം വരുത്താനും കഴിയും. ഈ മോഡ്യൂളിന്റെ ലഭ്യത പുതിയ കണ്ടുപിടുത്തക്കാരുടെ എണ്ണം വർദ്ധിപ്പിക്കും. ഓരോ ഇൻഫറൻസിനും വേണ്ടി ക്ലൗഡ് GPU സമയം വാടകയ്ക്ക് എടുത്തിരുന്ന ചെറിയ കമ്പനികൾക്ക് ഇപ്പോൾ ഒരു സിംഗിൾ ബോർഡിൽ തന്നെ പ്രോട്ടോടൈപ്പ് നിർമ്മിക്കാൻ സാധിക്കും. ഇത് മുൻകൂട്ടിയുള്ള ചിലവ് കുറയ്ക്കുകയും പ്രവർത്തന വേഗത വർദ്ധിപ്പിക്കുകയും ചെയ്യും. ഇത് ലോജിസ്റ്റിക്സ്, കൃഷി, ഇൻസ്പെക്ഷൻ, കൺസ്യൂമർ റോബോട്ടിക്സ് എന്നീ മേഖലകളിലെ സ്വയം പ്രവർത്തിക്കുന്ന (autonomous) സംവിധാനങ്ങളെ വേഗത്തിലാക്കാൻ സഹായിക്കും.

നേരിടാൻ സാധ്യതയുള്ള തടസ്സങ്ങൾ

എഡ്ജിൽ (edge) ജനറേറ്റീവ് മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്നത് ചില വിട്ടുവീഴ്ചകളോടെയുള്ള കാര്യമാണ്. ഡെഡിക്കേറ്റഡ് ആക്സിലറേറ്ററുകൾ ഉണ്ടെങ്കിൽ പോലും, ഒരു ക്രെഡിറ്റ് കാർഡ് വലുപ്പമുള്ള ബോർഡിന് സെർവർ ക്ലാസ് GPU-വിനോട് മത്സരിക്കാൻ കഴിയില്ല. ഡെവലപ്പർമാർക്ക് മോഡലുകൾ പ്രൂൺ (prune) ചെയ്യുകയോ ക്വാണ്ടൈസ് (quantize) ചെയ്യുകയോ ചെയ്യേണ്ടി വരും, അല്ലെങ്കിൽ വേഗതയ്ക്കായി റെസല്യൂഷൻ കുറയ്ക്കേണ്ടി വരും. കനത്ത ഇൻഫറൻസ് വർക്ക് ലോഡുകൾ പ്രവർത്തിപ്പിക്കുമ്പോൾ ഡ്രോണിന് എത്ര സമയം വായുവിൽ നിൽക്കാൻ കഴിയും എന്നതിനെ പവർ പരിധികൾ നിയന്ത്രിച്ചേക്കാം.

മറ്റൊരു വെല്ലുവിളി സോഫ്റ്റ്‌വെയർ ടൂളിംഗിലാണ്. NVIDIA ജെറ്റ്സൺ (Jetson) ഉപകരണങ്ങൾക്കായി ഒരു സ്റ്റാക്ക് നൽകുന്നുണ്ടെങ്കിലും, പരിമിതമായ ഹാർഡ്‌വെയറിൽ ജനറേറ്റീവ് മോഡലുകൾ പരിശീലിപ്പിക്കാനും വിന്യസിക്കാനുമുള്ള ഇക്കോസിസ്റ്റം ഇപ്പോഴും വികസിച്ചുകൊണ്ടിരിക്കുകയാണ്. ക്ലൗഡ് സ്കെയിൽ ഹാർഡ്‌വെയറിനായി നിർമ്മിച്ച മോഡലുകളെ മാറ്റിയെടുക്കാൻ ടീമുകൾക്ക് വലിയ പരിശ്രമം ആവശ്യമായി വന്നേക്കാം.

ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

Orin Nano 2-ന്റെ യഥാർത്ഥ പരീക്ഷണം വാണിജ്യ ഉൽപ്പന്നങ്ങളിലെ അതിന്റെ ഉപയോഗമായിരിക്കും. റോബോട്ടിക്സ് സ്റ്റാർട്ടപ്പുകൾ, ഡ്രോൺ നിർമ്മാതാക്കൾ അല്ലെങ്കിൽ OEMs എന്നിവരുടെ ആദ്യകാല ഫീൽഡ് ട്രയലുകൾ ഇതിന്റെ പ്രകടനവും വിലയും പ്രതീക്ഷിച്ച രീതിയിലാണോ എന്ന് വെളിപ്പെടുത്തും. മറ്റ് ചിപ്പ് നിർമ്മാതാക്കളുടെ സമാന്തരമായ വികസനങ്ങൾ, പവർ എഫിഷ്യൻസിയിലും സോഫ്റ്റ്‌വെയർ സപ്പോർട്ടിലും വേഗത്തിൽ മാറ്റങ്ങൾ വരുത്താൻ NVIDIA-യെ പ്രേരിപ്പിച്ചേക്കാം.

സുരക്ഷാപരമായ തീരുമാനങ്ങൾ എടുക്കുന്ന ഓൺ-ഡിവൈസ് AI-യെ നിയന്ത്രണ ഏജൻസികൾ നിരീക്ഷിച്ചു തുടങ്ങും. മനുഷ്യ ഇടപെടലില്ലാതെ (human in the loop) കൂടുതൽ സ്വയം പ്രവർത്തിക്കുന്ന സംവിധാനങ്ങൾ ഉപയോഗിക്കുമ്പോൾ, വെരിഫിക്കേഷൻ, വാലിഡേഷൻ, എക്സ്പ്ലനബിലിറ്റി എന്നിവയ്ക്കുള്ള മാനദണ്ഡങ്ങൾ നിർമ്മാതാക്കൾ എഡ്ജ് മോഡലുകൾ എങ്ങനെ ക്രമീകരിക്കണം എന്നതിനെ സ്വാധീനിച്ചേക്കാം.

ചുരുക്കത്തിൽ

കുറഞ്ഞ ചിലവിലും കുറഞ്ഞ പവറിലും പ്രവർത്തിക്കുന്ന ഒരു ബോർഡിലേക്ക് ജനറേറ്റീവ് AI എത്തിക്കുന്നതിലൂടെ, "ക്ലൗഡ് മാത്രമുള്ള ബുദ്ധിശക്തിയെ" ആവശ്യമായ റോബോട്ടുകൾക്കുള്ളിലെ ഒരു ഹാർഡ്‌വെയർ ഫീച്ചറായി NVIDIA മാറ്റുന്നു. ഈ മാറ്റം അത്യാധുനികമായ കാഴ്ചപ്പാടുകളെയും (perception) തീരുമാനമെടുക്കാനുള്ള കഴിവിനെയും എല്ലാവരിലേക്കും എത്തിച്ചേക്കാം, എന്നാൽ വലിയ മോഡലുകളെ എഡ്ജ് മോഡ്യൂളിന്റെ പരിമിതമായ വിഭവങ്ങളുമായി എത്രത്തോളം മികച്ച രീതിയിൽ യോജിപ്പിക്കാൻ ഡെവലപ്പർമാർക്ക് കഴിയുന്നു എന്നതിനെ ആശ്രയിച്ചിരിക്കും ഇതിന്റെ വിജയം. ഈ സന്തുലിതാവസ്ഥ നിലനിർത്താൻ കഴിഞ്ഞാൽ, അടുത്ത തലമുറയിലെ ഡ്രോണുകൾക്കും വെയർഹൗസ് ബോട്ടുകൾക്കും ഇൻസ്പെക്ഷൻ ക്യാമറകൾക്കും അവയുടെ ചലനത്തിനൊപ്പം തന്നെ ചിന്തിക്കാനും സാധിക്കും.