Gemma 4 12B ലോക്കൽ മൾട്ടിമോഡൽ AI എത്രത്തോളം മുന്നേറി എന്ന് കാണിച്ചുതരുന്നു

Google DeepMind-ൽ നിന്നുള്ള പുതിയൊരു റിലീസാണ് Gemma 4 12B. അത് അത്യാധുനിക മൾട്ടിമോഡൽ മോഡലുകളും ലാപ്ടോപ്പുകളിൽ പ്രവർത്തിപ്പിക്കാൻ കഴിയുന്ന മോഡലുകളും തമ്മിലുള്ള വ്യത്യാസം കുറയ്ക്കുന്നു. ഈ മോഡൽ ഡെൻസ് (dense), മൾട്ടിമോഡൽ രീതിയിലുള്ളതാണ്, കൂടാതെ പ്രായോഗികമായ മെമ്മറി പരിധിക്കുള്ളിൽ ഒതുങ്ങത്തക്ക രീതിയിലാണ് ഇത് രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. കൂടാതെ ഇതിൽ നേറ്റീവ് ഓഡിയോ ഇൻപുട്ടും (native audio input) ഉൾപ്പെടുത്തിയിട്ടുണ്ട്.

ഡെവലപ്പർമാരെ സംബന്ധിച്ചിടത്തോളം, ഈ ആർക്കിടെക്ചർ ലോക്കൽ പരീക്ഷണങ്ങളും ഓൺ-ഡിവൈസ് വർക്ക്ഫ്ലോകളും എളുപ്പമാക്കുന്നുണ്ടോ എന്നതാണ് പ്രധാന ചോദ്യം. ഈ കാര്യത്തിൽ ഉത്തരം 'അതെ' എന്നാണ്. ടെക്സ്റ്റ്, ഇമേജുകൾ, ഓഡിയോ എന്നിവ പിന്തുണയ്ക്കുന്ന ഒരു യൂണിഫൈഡ്, എൻകോഡർ-ഫ്രീ (encoder-free) മൾട്ടിമോഡൽ മോഡലാണ് Gemma 4 12B. 16 GB VRAM അല്ലെങ്കിൽ യൂണിഫൈഡ് മെമ്മറി ഉപയോഗിച്ച് പ്രവർത്തിപ്പിക്കാൻ പാകത്തിലാണ് ഇത് രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്.

ഇതിന്റെ ഇക്കോസിസ്റ്റം സപ്പോർട്ട് (ecosystem support) ശ്രദ്ധേയമാണ്. ഇത് LM Studio, Ollama, MLX തുടങ്ങിയ ടൂളുകളുമായി പൊരുത്തപ്പെടുന്നു. മോഡലുകൾ ടെസ്റ്റ് ചെയ്യാനും, ഫൈൻ-ട്യൂൺ ചെയ്യാനും, ഡിപ്ലോയ് ചെയ്യാനും ചുറ്റുമുള്ള ടൂളുകൾ എളുപ്പമാക്കുമ്പോൾ മാത്രമേ അവ പ്രയോജനപ്രദമാകൂ എന്നതുകൊണ്ട് തന്നെ ഇത് വളരെ പ്രധാനമാണ്.

പരമ്പരാഗത മൾട്ടിമോഡൽ സിസ്റ്റങ്ങളിൽ നിന്ന് വ്യത്യസ്തമായ ഒരു സമീപനമാണ് Gemma 4 12B സ്വീകരിക്കുന്നത്. ഇത് ഒരു ലൈറ്റ്വെയ്റ്റ് വിഷൻ എംബെഡിംഗ് മോഡ്യൂൾ (lightweight vision embedding module) ഉപയോഗിക്കുകയും റോ ഓഡിയോയെ (raw audio) ടെക്സ്റ്റ് ടോക്കണുകളുടെ അതേ ഇന്റേണൽ സ്പേസിലേക്ക് പ്രൊജക്റ്റ് ചെയ്യുകയും ചെയ്യുന്നു. ഈ ഡിസൈൻ തിരഞ്ഞെടുപ്പ് പ്രായോഗികമായ ചില ഫലങ്ങൾ നൽകുന്നു:

  • നിയന്ത്രിക്കാൻ കുറഞ്ഞ സ്പെഷ്യലൈസ്ഡ് സബ്മോഡ്യൂളുകൾ (specialized submodules)
  • കുറഞ്ഞ മെമ്മറി ഓവർഹെഡ് (memory overhead)
  • ഇൻഫറൻസ് സ്റ്റാക്കിലെ (inference stack) കുറഞ്ഞ സങ്കീർണ്ണത
  • ലോക്കൽ ഡിപ്ലോയ്മെന്റിനുള്ള ലളിതമായ മാർഗ്ഗം

ഏകദേശം 16 GB RAM അല്ലെങ്കിൽ VRAM ഉള്ള മെഷീനുകൾക്കായിട്ടാണ് ഈ മോഡൽ തയ്യാറാക്കിയിരിക്കുന്നത്. ഡാറ്റാസെന്റർ GPU-കളിൽ മാത്രം ഒതുങ്ങാതെ സാധാരണ ഡെവലപ്പർ ഹാർഡ്‌വെയറുകളെ ലക്ഷ്യം വെച്ചാണ് ഇത് നിർമ്മിച്ചിരിക്കുന്നത്. ചെറിയ എഡ്ജ് മോഡലുകളും (edge models) വളരെ വലിയ സിസ്റ്റങ്ങളും തമ്മിലുള്ള വിടവ് നികത്താനാണ് Gemma 4 12B ലക്ഷ്യമിടുന്നത്.

ഉറവിടം: Google ബ്ലോഗ് അറിയിപ്പ് ഓപ്ഷണൽ ലേണിംഗ് കമ്മ്യൂണിറ്റി: https://t.me/GyaanSetuAi