La scommessa sull'IA di Microsoft sta dando i suoi frutti
L'ultimo rapporto sugli utili di Microsoft mostra che Azure è cresciuto del 28% su base annua. I servizi di IA hanno contribuito per 6 punti a tale crescita. Ciò dimostra che l'investimento in OpenAI sta funzionando.
Azure OpenAI è il principale motore di crescita. Offre alle aziende l'accesso a GPT-4 con sicurezza di livello enterprise.
Gestire questi modelli su larga scala comporta sfide tecniche. Un team ha raggiunto i limiti di richiesta e ha dovuto modificare la propria architettura. Sono passati da un singolo load balancer allo sharding degli endpoint su tre regioni. Questa soluzione ha mantenuto bassa la latenza. Hanno inoltre utilizzato una cache Redis per ridurre le ricerche vettoriali del 40%.
Microsoft 365 Copilot è un altro motore di crescita. Costa 30 dollari al mese per utente. Se il 10% degli utenti commerciali lo adottasse, Microsoft incasserebbe 14,4 miliardi di dollari di entrate annuali. Si tratta di un'opportunità enorme.
L'implementazione richiede un lavoro accurato. Una società di consulenza globale ha registrato una riduzione del 15% nei tempi di redazione dei documenti dopo l'uso di Copilot. Tuttavia, hanno dovuto scrivere script personalizzati per gestire le licenze. Hanno anche dovuto stabilire politiche di dati rigorose per proteggere le informazioni dei clienti.
Anche GitHub Copilot mostra forza. Ha 1,3 milioni di abbonati paganti. Le nuove versioni enterprise aiutano le grandi organizzazioni a gestire meglio il codice.
Microsoft affronta un rischio principale. Fa grande affidamento su OpenAI. Se questo rapporto dovesse cambiare, ciò influirebbe sui suoi ricavi. Microsoft sta gestendo la situazione aggiungendo altri modelli come Llama 2 e Mistral ad Azure.
L'utilizzo di modelli più piccoli può far risparmiare denaro. Un modello Llama 2 costa 0,35 dollari per milione di token. GPT-4 costa 2,50 dollari per la stessa quantità. Per i compiti semplici, il modello più economico funziona bene nonostante una latenza maggiore.
Microsoft sta anche sviluppando i propri piccoli modelli chiamati Phi. Ciò riduce la loro dipendenza da partner esterni.
Fonte: https://dev.to/lavkeshdwivedi/microsofts-ai-bet-pays-off-2df2
Community di apprendimento opzionale: https://t.me/GyaanSetuAi