شرط‌بندی هوش مصنوعی مایکروسافت به نتیجه رسید

گزارش سود اخیر مایکروسافت نشان می‌دهد که Azure نسبت به سال گذشته ۲۸٪ رشد کرده است. خدمات هوش مصنوعی ۶ واحد به این رشد کمک کرده‌اند. این موضوع ثابت می‌کند که سرمایه‌گذاری روی OpenAI نتیجه‌بخش است.

Azure OpenAI محرک اصلی این رشد است. این سرویس به شرکت‌ها اجازه می‌دهد با امنیت در سطح سازمانی به GPT-4 دسترسی داشته باشند.

اجرای این مدل‌ها در مقیاس بزرگ، چالش‌های فنی به همراه دارد. یک تیم با محدودیت تعداد درخواست‌ها مواجه شد و مجبور شد معماری خود را تغییر دهد. آن‌ها از یک توزیع‌کننده بار (load balancer) واحد به تقسیم‌بندی نقاط پایانی (sharding endpoints) در سه منطقه مختلف تغییر وضعیت دادند. این راهکار باعث پایین ماندن تأخیر (latency) شد. آن‌ها همچنین از یک حافظه پنهان Redis استفاده کردند تا جستجوهای برداری (vector lookups) را ۴۰٪ کاهش دهند.

Microsoft 365 Copilot موتور رشد دیگری است. هزینه آن ۳۰ دلار برای هر کاربر در ماه است. اگر ۱۰٪ از کاربران تجاری از آن استفاده کنند، مایکروسافت ۱۴.۴ میلیارد دلار درآمد سالانه کسب خواهد کرد. این یک فرصت عظیم است.

پیاده‌سازی این فناوری نیازمند کار دقیق است. یک شرکت مشاوره جهانی پس از استفاده از Copilot، شاهد کاهش ۱۵ درصدی در زمان پیش‌نویس اسناد بود. با این حال، آن‌ها مجبور شدند برای مدیریت لایسنس‌ها، اسکریپت‌های سفارشی بنویسند. آن‌ها همچنین ناچار شدند سیاست‌های داده‌ای سخت‌گیرانه‌ای را برای محافظت از اطلاعات مشتریان تعیین کنند.

GitHub Copilot نیز قدرت خود را نشان می‌دهد. این سرویس ۱.۳ میلیون مشترک پولی دارد. نسخه‌های جدید سازمانی به سازمان‌های بزرگ کمک می‌کند تا کدها را بهتر مدیریت کنند.

مایکروسافت با یک ریسک اصلی روبروست: وابستگی شدید به OpenAI. اگر این رابطه تغییر کند، بر درآمد آن‌ها تأثیر خواهد گذاشت. مایکروسافت با افزودن مدل‌های دیگر مانند Llama 2 و Mistral به Azure، در حال مدیریت این موضوع است.

استفاده از مدل‌های کوچک‌تر می‌تواند باعث صرفه‌جویی در هزینه‌ها شود. هزینه یک مدل Llama 2 حدود ۰.۳۵ دلار به ازای هر میلیون توکن است، در حالی که هزینه GPT-4 برای همان مقدار ۲.۵۰ دلار است. برای وظایف ساده، مدل ارزان‌تر با وجود تأخیر بیشتر، عملکرد خوبی دارد.

مایکروسافت همچنین در حال ساخت مدل‌های کوچک خود به نام Phi است. این کار وابستگی آن‌ها را به شرکای خارجی کاهش می‌دهد.

منبع: https://dev.to/lavkeshdwivedi/microsofts-ai-bet-pays-off-2df2

انجمن یادگیری اختیاری: https://t.me/GyaanSetuAi