微软的 AI 豪赌初见成效
微软最近的财报显示,Azure 同比增长了 28%。AI 服务为这一增长贡献了 6 个百分点。这证明了对 OpenAI 的投资是有效的。
Azure OpenAI 是主要驱动力。它让企业能够在具备企业级安全性的前提下使用 GPT-4。
大规模运行这些模型会带来技术挑战。有一个团队遇到了请求限制,不得不更改其架构。他们从单一负载均衡器转向将端点分片到三个区域。这一修复保持了低延迟。他们还使用了 Redis 缓存,将向量查找减少了 40%。
Microsoft 365 Copilot 是另一个增长引擎。其每月每用户成本为 30 美元。如果 10% 的商业用户采用它,微软每年的收入将达到 144 亿美元。这是一个巨大的机遇。
实施过程需要细致的工作。一家全球咨询公司在使用 Copilot 后,文档起草时间减少了 15%。然而,他们不得不编写自定义脚本来管理许可。他们还必须制定严格的数据政策以保护客户信息。
GitHub Copilot 也展现出了实力。它拥有 130 万付费订阅用户。新的企业版本有助于大型组织更好地管理代码。
微软面临一个主要风险。他们严重依赖 OpenAI。如果这种关系发生变化,将会影响其收入。微软正在通过向 Azure 添加 Llama 2 和 Mistral 等其他模型来应对这一风险。
使用较小的模型可以节省成本。Llama 2 模型每百万 token 的成本为 0.35 美元。GPT-4 在相同数量下的成本为 2.50 美元。对于简单的任务,尽管延迟较高,但较便宜的模型表现良好。
微软还在构建自己的名为 Phi 的小型模型。这减少了他们对外部合作伙伴的依赖。
来源:https://dev.to/lavkeshdwivedi/microsofts-ai-bet-pays-off-2df2
可选学习社区:https://t.me/GyaanSetuAi