GyaanSetu AI

AI、机器学习与 LLM 洞察。

1599 articlesDeep, practical knowledge

Claude 分层策略降低 35% API 支出,并将延迟降至 27 秒

作者构建了一个静态查找表,根据任务的模糊程度将其映射到 Haiku、Sonnet 或 Opus 模型,并增加了一个“两次失败后升级”的规则。在四周的时间里,该系统在保持质量的同时,将 API 支出降至原有的 65%,并将中位响应时间从 42 秒缩短至 27 秒。

AI · 3 分钟阅读

MiniMax 开源视频模型,但另有隐情

MiniMax 开源视频模型,但另有隐情。MiniMax 以开源权重的形式发布了 H3 视频模型。大多数新闻媒体都关注这一点,却忽略了最重要的细节。那个……

AI · 3 分钟阅读

Runway 推出全新的开发者优先生成式视频平台,进军 AWS

全新的 Runway Dev 平台通过单一 REST API 整合了视频、音频和图像生成功能,新增了用于连接 AI 组件的可视化媒体路由器 (Media Router),并引入了 Motion Brush、导演模式 (Director Mode) 和时序一致性 (Temporal Coherence),为创作者提供工作室级的控制力。

AI · 3 分钟阅读

TensorSharp 让 .NET 团队能够弃用 Python,实现 LLM 推理的原生嵌入

TensorSharp 是一个纯 C# 编写的推理引擎,支持在 Windows、macOS 和 Linux 上运行 GGUF 模型,并兼容 CPU、CUDA、MLX、Metal 和 Vulkan。基准测试表明,它在预填充(prefill)延迟方面通常优于 llama.cpp,同时保持了极具竞争力的解码速度,使 .NET 服务无需依赖 Python 辅助进程即可实现 AI 功能的原生嵌入。

AI · 2 分钟阅读