GLM-5.3 移除了 “thinking: disabled” 标志,因此任何传递了 {"thinking":{"type":"disabled"}} 的集成现在都会返回错误而非响应。这一变化在一夜之间导致数十个测试套件失效,并迫使开发者必须重写一行代码才能维持应用程序运行。
为什么这一转变至关重要
在 GLM-5.2 中,API 允许调用者针对简单的提示词关闭思考模式。这种选项在自动化脚本、批处理流水线和低延迟机器人中是一种常见的模式。GLM-5.3 完全移除了该标志,并引入了三个 effort levels——low、high 和 max,其中 max 为默认值。新模型始终会生成推理轨迹;它无法再被完全静默。
哪些部分失效了以及影响如何扩散
当请求体包含 "type":"disabled" 时,服务器会拒绝该负载,并返回通用的失败响应。由于不会出现身份验证或语法错误,因此在完整的回归测试运行失败之前,问题可能很难被察觉。由于在许多代码库中,该标志都存在于单个可重用的辅助函数中,其影响波及了大型测试套件和生产端点。
确切的代码变更
替换旧的负载:
extra_body = {"thinking": {"type": "disabled"}}
为与 GLM-5.3 兼容的版本:
extra_body = {"thinking": {"type": "enabled", "effort": "low"}}
"type":"enabled" 键重新激活了推理引擎,而 "effort":"low" 则在模型允许的范围内,尽可能模拟以前禁用模式的速度。
性能影响
使用 low-effort 设置运行相同的代码审查提示词,得到的结果“接近旧的速度”,但并不完全相同。模型仍会输出推理轨迹,这会增加一些额外的 token 并带来轻微的延迟增加。在高吞吐量或延迟敏感型工作负载中,您应该针对自己的数据进行基准测试,以确认开销是否可以接受。
尽管有成本,为何仍要迁移
GLM-5.3 保留了其前代 7440 亿参数的架构,但重新专注于编码和智能体(agentic)任务。独立基准测试 (Terminal-Bench 3.0) 显示分数有显著提升,内部测试也报告称,在跨多个文件检测逻辑错误方面表现更好。对于依赖该模型进行复杂代码分析的团队来说,性能的提升可以抵消 token 消耗的小幅增加。
你无法忽视的权衡
如果应用程序确实需要零思考响应——例如纯 token 补全服务——它现在在 GLM-5.3 中没有原生选项。开发者必须要么接受额外的推理输出,要么切换到仍提供禁用模式的其他模型。
后续注意事项
- 延迟监控: 更改负载后,跟踪响应时间和 token 数量,以便及早发现回归问题。
- Effort 调优: 某些工作负载可能会从 “high” effort 中受益,而不会带来严重的性能惩罚,因此可以尝试 low 设置之外的选项。
- 未来的弃用: 单个标志的移除表明 API 可能会进行更多整合;请密切关注即将发布的发行说明。
总结: 将 thinking 负载更新为 {"type":"enabled","effort":"low"} 可恢复与 GLM-5.3 的兼容性。请验证流水线中的延迟和 token 使用情况,并决定改进后的编码能力是否值得承担不可避免的推理轨迹。
讨论和社区支持可在 GyaanSetu AI Telegram 频道获取。
