Ставка Microsoft на ШІ виправдалася
Нещодавній звіт про прибутки Microsoft показує, що Azure зріс на 28% порівняно з минулим роком. Послуги ШІ забезпечили 6 пунктів цього зростання. Це доводить, що інвестиції в OpenAI працюють.
Azure OpenAI є головним рушієм. Він надає компаніям доступ до GPT-4 з корпоративним рівнем безпеки.
Запуск цих моделей у великих масштабах створює технічні виклики. Одна команда зіткнулася з лімітами запитів і була змушена змінити свою архітектуру. Вони перейшли від одного балансувальника навантаження до шардингу ендпоінтів у трьох регіонах. Це рішення дозволило зберегти низьку затримку. Вони також використали кеш Redis, щоб скоротити пошук векторів на 40%.
Microsoft 365 Copilot — ще один двигун зростання. Він коштує 30 доларів на користувача щомісяця. Якщо 10% комерційних користувачів почнуть його використовувати, Microsoft отримає 14,4 мільярда доларів річного доходу. Це величезна можливість.
Впровадження потребує ретельної роботи. Глобальна консалтингова фірма зафіксувала скорочення часу на підготовку документів на 15% після використання Copilot. Однак їм довелося писати спеціальні скрипти для управління ліцензуванням. Вони також мали встановити суворі політики щодо даних для захисту інформації клієнтів.
GitHub Copilot також демонструє успіх. Він має 1,3 мільйона платних підписників. Нові корпоративні версії допомагають великим організаціям краще керувати кодом.
Microsoft стикається з одним головним ризиком. Вони сильно залежать від OpenAI. Якщо ці відносини зміняться, це вплине на їхній дохід. Microsoft нівелює цей ризик, додаючи до Azure інші моделі, такі як Llama 2 та Mistral.
Використання менших моделей може заощадити кошти. Модель Llama 2 коштує 0,35 долара за мільйон токенів. GPT-4 коштує 2,50 долара за ту саму кількість. Для простих завдань дешевша модель працює добре, попри вищу затримку.
Microsoft також розробляє власні малі моделі під назвою Phi. Це зменшує їхню залежність від зовнішніх партнерів.
Джерело: https://dev.to/lavkeshdwivedi/microsofts-ai-bet-pays-off-2df2
Додаткова спільнота для навчання: https://t.me/GyaanSetuAi