Microsoft'un Yapay Zeka Hamlesi Meyvelerini Veriyor
Microsoft'un son kazanç raporu, Azure'un geçen yıla göre %28 büyüdüğünü gösteriyor. Yapay zeka hizmetleri bu büyümenin 6 puanını oluşturdu. Bu durum, OpenAI'a yapılan yatırımın işe yaradığını kanıtlıyor.
Ana itici güç Azure OpenAI. Şirketlere kurumsal güvenlik ile GPT-4'e erişim sağlıyor.
Bu modelleri ölçekli bir şekilde çalıştırmak teknik zorlukları beraberinde getiriyor. Bir ekip, istek sınırlarına takıldı ve mimarilerini değiştirmek zorunda kaldı. Tek bir yük dengeleyiciden (load balancer), uç noktaları (endpoints) üç bölgeye sharding yöntemiyle dağıtmaya geçtiler. Bu çözüm, gecikme süresini (latency) düşük tuttu. Ayrıca, vektör aramalarını %40 oranında azaltmak için bir Redis önbelleği (cache) kullandılar.
Microsoft 365 Copilot bir başka büyüme motoru. Kullanıcı başına aylık 30 dolar maliyeti var. Ticari kullanıcıların %10'u bunu benimserse, Microsoft yıllık 14,4 milyar dolar gelir elde eder. Bu, devasa bir fırsat.
Uygulama süreci titiz bir çalışma gerektiriyor. Küresel bir danışmanlık firması, Copilot kullanımından sonra belge taslağı oluşturma süresinde %15'lik bir azalma gördü. Ancak, lisans yönetimini sağlamak için özel betikler (scripts) yazmak zorunda kaldılar. Ayrıca, müşteri bilgilerini korumak için katı veri politikaları belirlemeleri gerekti.
GitHub Copilot da güç gösteriyor. 1,3 milyon ücretli abonesi bulunuyor. Yeni kurumsal sürümler, büyük kuruluşların kodu daha iyi yönetmesine yardımcı oluyor.
Microsoft bir ana riskle karşı karşıya. OpenAI'a büyük ölçüde bağımlılar. Eğer bu ilişki değişirse, bu durum gelirlerini etkiler. Microsoft, Azure'a Llama 2 ve Mistral gibi diğer modelleri ekleyerek bu durumu yönetiyor.
Daha küçük modeller kullanmak tasarruf sağlayabilir. Bir Llama 2 modeli, milyon token başına 0,35 dolar maliyet çıkarıyor. Aynı miktar için GPT-4'ün maliyeti 2,50 dolardır. Basit görevler için, daha yüksek gecikme süresine rağmen ucuz model iyi sonuç veriyor.
Microsoft ayrıca Phi adı verilen kendi küçük modellerini de geliştiriyor. Bu, dış ortaklara olan bağımlılıklarını azaltıyor.
Kaynak: https://dev.to/lavkeshdwivedi/microsofts-ai-bet-pays-off-2df2
İsteğe bağlı öğrenme topluluğu: https://t.me/GyaanSetuAi