一个文件改动,将 33 个分块的 RAG 摄取时间从 50 秒缩短至 1.5 秒
通过一次文件改动实现 31.8 倍加速。我测试了一个 RAG 摄取流水线并发现了一个瓶颈。处理单个文档需要 50 秒。我的 CPU 使用率很低。应用并没有在挣扎……
AI、机器学习与 LLM 洞察。
通过一次文件改动实现 31.8 倍加速。我测试了一个 RAG 摄取流水线并发现了一个瓶颈。处理单个文档需要 50 秒。我的 CPU 使用率很低。应用并没有在挣扎……
FluxA 的 AgentCard 会为每笔 AI 驱动的交易生成一个一次性且设有金额上限的虚拟 Visa 或 Mastercard 卡号,并在使用后立即作废,从而消除了数据泄露、过度消费以及粗放式撤销的风险。
Genie系数衡量用户真实意图与AI智能体字面输出之间的差距,旨在识别可能在高风险领域导致数据泄露、资金损失或监管处罚的风险行为。
内置于 ChatGPT 桌面应用的 GPT-Live 让开发者能够通过语音发出“运行静态分析”或“添加单元测试”等指令,模型会通过语音确认操作并启动并行工作流——该功能面向付费订阅用户开放。
审计智能体技能:威胁模型。你会插上陌生人给的随机 USB 驱动器吗?你可能不会。大多数人都知道其中的风险。然而,开发者们却在进行数字层面的类似行为……
每日填字游戏是通过将最新新闻输入大语言模型来构建的,模型会生成“单词-线索”对,随后由数学求解器将其转化为可打印的网格。Mozilla 表示,这种额外的用户粘性有助于弥补更高的计算成本,并防止用户流向外部搜索站点。
Vercel 6 月份的网关数据显示,低成本的开源权重模型在两个月内,其 Token 占比从略高于十分之一跃升至近三分之一,其中仅 DeepSeek 一家就占了该流量的五分之一以上。
Encord 与德国初创公司 Zander Labs 合作,通过为操作员配备脑电图 (EEG) 头戴设备和前臂肌电图 (EMG) 传感器,旨在创建一个规模庞大到足以令 YouTube 视频库相形见绌的训练集,从而加速机器人的灵巧操作能力。
The Department of Education’s AGAP.AI rollout promises AI-powered tutoring, yet a Digital Maturity Assessment shows most public schools suffer frequent outages and run computers that can’t handle modern browsers, turning the $14.5 billion market forecast into a pipe dream for many learners.
你的 AI Agent 底层基础设施正在腐烂。大家都说 AI Agent 只需要一次 API 调用就能获得收件箱,但他们错了。我扫描了 671,693 个域名,以查看实际情况……
作者发现,四分之三所谓的“未命中”实际上包含了所需的事实,只是这些事实所在的页面与测试脚本预期的不同。通过将指标切换为事实级召回率,召回率便与 90% 的回答准确率保持了一致。
一位独立开发者将 Google 的 Gemma 模型精简至 2890 万参数,并将其压缩进 ESP32-S3 有限的 RAM 和闪存中,实现了在廉价硬件上的完全离线推理,这些硬件足以隐藏在任何传感器或可穿戴设备中。
Prateek Rai 开发的 tldraw-canvas-kit 提供了 19 种基于 JSON 的 Agent 技能,让 Claude Code、Cursor 或任何本地大语言模型 (LLM) 都能驱动 tldraw 桌面应用。该工具包运行本地 HTTP 服务器,将图表存储为纯 .tldraw 文件,并在无遥测的情况下保证更新的幂等性。
为 SigNoz 黑客松打造,AgentOps 能够监控错误激增、提取日志、精准定位故障代码行、编写沙箱补丁并重新运行请求——全程无需人工干预,每个修复周期仅需 30-60 秒。
尽管两种模型的 Token 费率完全相同,但 Opus 5 默认的自适应思考模式会将内部推理过程计入输出 Token,导致在处理简单查询时,账单金额最高会飙升 95%。禁用该功能即可恢复费率一致。
通过将仪表板和 CI/CD 运行器迁移到工作站或专用设备,并利用 SSH 传输最终容器,Openship 释放了运行中服务器的内存,提高了安全性并加快了构建速度——不过,当主机关闭时,桌面模式会随之消失。
Claude Opus 5 将上下文窗口扩展至一百万个 Token,输出量最高可达 128k Token,同时维持了 Opus 4.8 的定价。此外,它还引入了任务强度控制、强制思考阶段、针对 512 Token 提示词的提示词缓存,以及支持在对话中途切换工具的 Beta 功能。
在涵盖代码审查、JSON 生成、物理问题和摘要生成的七项任务测试集中,Fable 5 的速度提升了 24% 且 Token 使用量减少了 43%,但它失败了两项任务并触发了内容过滤器;相比之下,Opus 5 在仅进行一次重试后便成功完成了所有任务。
在对 SQLite 长达 835 页的 Rust 手册进行全面重写时,Cursor 的“双脑集群”实现了 100% 的正确率,将代码库精简至仅 9,908 行,并将费用大幅削减至 411 美元,而单次使用 GPT-5.5 运行的费用则高达 10,565 美元。
该 Bug 仅在用户发送速度极快,在 AI 开始思考前就触发了多个请求时才会出现。由于一个毫秒级的数据库锁失效,导致多个进程同时对同一个提示词进行响应,直到工程师引入了版本计数器、隔离定时器以及 CAS(比较并交换)租约机制才得以解决。
将检索增强生成 (RAG) 系统推向实际用户,取决于五个关键决策:分块策略、嵌入模型、向量数据库、混合搜索以及评估。每一项决策都将直接影响精确率、召回率、延迟,甚至包括支持成本。
缓存会将静态提示词片段(Sonnet 至少 1,024 个 token 或 Opus 至少 4,096 个 token)在 GPU 显存中存储五分钟,使重复调用能够跳过预热阶段,从而同时降低延迟并减少计费 token 数量。
Claude Code 的 Stop hook 中存在一个隐藏的 npx 查询,每轮会请求 npm 注册表六次,导致约 10 秒的延迟,并偶尔出现高达 113 秒的延迟峰值。通过将这些调用替换为全局安装的二进制文件,延迟缩减了一半。
Mowito 的种子前融资将用于建立底特律研发中心,并针对多品种、小批量制造商开展试点项目,旨在证明其视觉与强化学习软件能够缩短机器人重新编程的时间并降低成本。