Microsoft-ന്റെ AI നിക്ഷേപം വിജയിക്കുന്നു

Microsoft-ന്റെ ഏറ്റവും പുതിയ വരുമാന റിപ്പോർട്ട് പ്രകാരം Azure-ന്റെ വളർച്ച വർഷം തോറും 28% ആണ്. ആ വളർച്ചയിൽ AI സേവനങ്ങളുടെ പങ്ക് 6 പോയിന്റാണ്. OpenAI-ൽ നടത്തുന്ന നിക്ഷേപം ഫലപ്രദമാണെന്ന് ഇത് തെളിയിക്കുന്നു.

Azure OpenAI ആണ് ഇതിന്റെ പ്രധാന ചാലകശക്തി. ഇത് കമ്പനികൾക്ക് എന്റർപ്രൈസ് സുരക്ഷയോടു കൂടി GPT-4 ഉപയോഗിക്കാനുള്ള സൗകര്യം നൽകുന്നു.

ഇത്തരം മോഡലുകൾ വലിയ തോതിൽ പ്രവർത്തിപ്പിക്കുന്നത് സാങ്കേതിക വെല്ലുവിളികൾ ഉയർത്തുന്നു. ഒരു ടീം റിക്വസ്റ്റ് ലിമിറ്റുകളിൽ (request limits) തടസ്സപ്പെട്ടതുകൊണ്ട് അവരുടെ ആർക്കിടെക്ചറിൽ മാറ്റം വരുത്തേണ്ടി വന്നു. അവർ ഒരു സിംഗിൾ ലോഡ് ബാലൻസറിൽ നിന്ന് മൂന്ന് റീജിയനുകളിലായി എൻഡ്‌പോയിന്റുകൾ ഷാർഡിംഗ് (sharding) ചെയ്യുന്ന രീതിയിലേക്ക് മാറി. ഈ മാറ്റം ലേറ്റൻസി (latency) കുറയ്ക്കാൻ സഹായിച്ചു. കൂടാതെ, വെക്റ്റർ ലുക്കപ്പുകൾ (vector lookups) 40% കുറയ്ക്കുന്നതിനായി അവർ ഒരു Redis cache ഉപയോഗിക്കുകയും ചെയ്തു.

Microsoft 365 Copilot മറ്റൊരു വളർച്ചാ ഘടകമാണ്. ഇതിന് പ്രതിമാസം ഓരോ ഉപഭോക്താവിനും 30 ഡോളർ ചെലവ് വരുന്നു. വാണിജ്യ ഉപഭോക്താക്കളിൽ 10% ഇത് സ്വീകരിച്ചാൽ, Microsoft-ന് പ്രതിവർഷം 14.4 ബില്യൺ ഡോളർ വരുമാനം ലഭിക്കും. ഇതൊരു വലിയ അവസരമാണ്.

ഇത് നടപ്പിലാക്കുന്നത് ശ്രദ്ധാപൂർവ്വമുള്ള ജോലിയാണ് ആവശ്യപ്പെടുന്നത്. ഒരു ആഗോള കൺസൾട്ടിംഗ് സ്ഥാപനം Copilot ഉപയോഗിച്ചതിന് ശേഷം ഡോക്യുമെന്റ് തയ്യാറാക്കുന്ന സമയത്തിൽ 15% കുറവ് കണ്ടു. എന്നിരുന്നാലും, ലൈസൻസിംഗ് നിയന്ത്രിക്കുന്നതിനായി അവർക്ക് കസ്റ്റം സ്ക്രിപ്റ്റുകൾ എഴുതേണ്ടി വന്നു. കൂടാതെ, ഉപഭോക്താക്കളുടെ വിവരങ്ങൾ സംരക്ഷിക്കുന്നതിനായി അവർ കർശനമായ ഡാറ്റാ പോളിസികൾ നടപ്പിലാക്കുകയും ചെയ്തു.

GitHub Copilot-ഉം കരുത്ത് പ്രകടിപ്പിക്കുന്നു. ഇതിന് 1.3 ദശലക്ഷം പണമടയ്ക്കുന്ന സബ്‌സ്‌ക്രൈബർഷിപ്പുകൾ ഉണ്ട്. പുതിയ എന്റർപ്രൈസ് പതിപ്പുകൾ വലിയ സ്ഥാപനങ്ങൾക്ക് കോഡ് മികച്ച രീതിയിൽ കൈകാര്യം ചെയ്യാൻ സഹായിക്കുന്നു.

Microsoft പ്രധാനമായും ഒരു റിസ്ക് നേരിടുന്നുണ്ട്. അവർ OpenAI-നെ വളരെയധികം ആശ്രയിക്കുന്നു. ആ ബന്ധത്തിൽ എന്തെങ്കിലും മാറ്റം വന്നാൽ അത് അവരുടെ വരുമാനത്തെ ബാധിക്കും. Azure-ലേക്ക് Llama 2, Mistral തുടങ്ങിയ മറ്റ് മോഡലുകൾ കൂടി ഉൾപ്പെടുത്തിക്കൊണ്ട് Microsoft ഈ സാഹചര്യം കൈകാര്യം ചെയ്യുന്നു.

ചെറിയ മോഡലുകൾ ഉപയോഗിക്കുന്നത് പണം ലാഭിക്കാൻ സഹായിക്കും. ഒരു Llama 2 മോഡലിന് ഒരു ദശലക്ഷം ടോക്കണുകൾക്ക് 0.35 ഡോളർ ആണ് ചെലവ്. അതേ അളവിൽ GPT-4-ന് 2.50 ഡോളർ വരുന്നു. ലളിതമായ ജോലികൾക്ക്, ഉയർന്ന ലേറ്റൻസി ഉണ്ടെങ്കിലും കുറഞ്ഞ ചെലവുള്ള മോഡൽ നന്നായി പ്രവർത്തിക്കുന്നു.

Microsoft Phi എന്ന് വിളിക്കപ്പെടുന്ന സ്വന്തം ചെറിയ മോഡലുകളും നിർമ്മിക്കുന്നുണ്ട്. ഇത് പുറത്തുള്ള പങ്കാളികളോടുള്ള അവരുടെ ആശ്രിതത്വം കുറയ്ക്കുന്നു.

Source: https://dev.to/lavkeshdwivedi/microsofts-ai-bet-pays-off-2df2

Optional learning community: https://t.me/GyaanSetuAi