没有发布会、没有官宣海报,智谱用一次“悄悄灰度”,把国产大模型的输出速度推到了接近500 tokens/s的量级。
大模型行业的竞争,已经从“谁的跑分高”,卷到“谁的价格低”,现在又多了一个新战场——谁吐字快。
据智东西10月12日报道,智谱在其AI编程工具ZCode中悄然开启了高速旗舰模型GLM-5.3 HighSpeed的测试。X平台AI编程博主Leo(@leo114119)晒出灰度截图:该模型在ZCode中的输出速度超过490 tokens/s。量子位同日发布《智谱新模型,490 tokens/s!》,36氪也以《每秒狂喷近500个token,智谱GLM-5.3高速版悄悄亮相》为题做了转载。
没有预热海报,没有发布会,一次“悄悄灰度”,却把国产大模型的输出速度推到了一个此前没有量产模型触及的量级。接近500 tokens/s是什么水平?这个速度是当前国内主流模型API的数倍。更重要的是,它被放在了一个最需要速度的场景里——AI编程。
这篇文章,我们按四个层次把事情讲透:先看发生了什么,再算一笔速度账,然后拆一拆高速模型的技术底座,最后给不同类型的用户一份可上手的体验指南。
一、事件速览:一次没有发布会的“悄悄灰度”
先捋一遍事件本身的关键信息。
据智东西10月12日报道,智谱在自家AI编程工具ZCode中,悄然开启了高速旗舰模型GLM-5.3 HighSpeed的测试。这一次的曝光路径非常“社区化”:没有官方公告,而是由X平台AI编程博主Leo(@leo114119)率先晒出灰度截图——他的账号已经收到该模型,实测输出速度超过490 tokens/s。
一句话点题:没有发布会、没有官宣海报,智谱用一次“悄悄灰度”,把国产大模型的输出速度推到接近500 tokens/s的量级。
量子位的报道补充了几个关键细节:该模型目前在ZCode 3.15.1版本中开放体验,采取订阅用户随机获得的灰度机制——也就是说,不是所有人都能立刻看到这个模型,能不能“抽中”,目前看运气。
值得一提的是,这个模型其实早有踪迹。据智东西报道,GLM-5.3 HighSpeed一个月之前就出现在开源编程智能体Pi(pi.dev)harness的官网上,被收录进其模型目录。只是当时没有配套的速度数据,也没有太多人把它和“接近500 tokens/s”这个数字联系起来。
选择在编程工具里灰度,而不是先推公开API,这个动作本身就值得玩味——它暗示智谱把AI编程视为高速模型的第一个主战场。至于为什么,后文会详细展开。
二、490 tokens/s是什么概念:一笔速度账
“490 tokens/s”这个数字,单看可能没感觉。我们把它放进坐标系里,才知道它有多扎眼。
横向对比:数倍于当前国内主流水平
大模型API评测平台AI Ping的数据显示,目前国内主流模型的官方API输出速度大致是这个量级:
| 模型 / 通道 | 输出速度 | 备注 |
|---|---|---|
| GLM-5.3 HighSpeed(ZCode灰度实测) | 超490 tokens/s | 内测阶段,速度仅供参考 |
| GLM-5.3-FlashX(智谱官方API) | 最高200 tokens/s | 上月发布,公开API |
| DeepSeek V4.1 Flash(官方API) | 121.34 tokens/s | AI Ping数据 |
| GLM-5.3(智谱官方API) | 70.84 tokens/s | AI Ping数据 |
| GLM-5.3-Flash(Z.ai API) | 约60 tokens/s | Artificial Analysis测速 |
把这组数字放在一起看,结论非常直白:GLM-5.3 HighSpeed的灰度速度,达到了DeepSeek V4.1 Flash官方API的四倍左右,是智谱自家GLM-5.3官方API的近七倍。即便和智谱上个月才发布的GLM-5.3-FlashX(最高200 tokens/s)相比,HighSpeed也直接翻了一倍还多。
纵向体感:20秒写完一篇万字长文
如果觉得“tokens/s”太抽象,量子位给了一个更直观的换算口径:按近500 tokens/s的持续输出速度计算,生成1万token(约七八千字中文)的内容,单算生成阶段,大约只需要20秒。
作为对照,一个以70 tokens/s输出的模型,生成同样1万token需要两分多钟——而且这是理想状态,长输出时实际体验往往更慢。20秒和两分多钟,对于“等模型吐字”这件事来说,是完全不同的两种心理体验:前者你会觉得模型在“喷涌”,后者你会开始怀疑网络是不是断了。
一条重要的提醒
当然,需要强调的是:灰度内测展现的速度,只能作为参考。内测阶段的用户量、并发量都远小于正式服务,模型上线后对外规模化提供服务时的真实速度,才是最终答案。这一点量子位在报道中也做了明确提示。我们会在后文“体验路径”部分再次展开。
三、高速模型演进线:从企业定制到编程工具内测
GLM-5.3 HighSpeed并不是智谱第一次做“高速”这个概念。把时间线拉长看,会发现这是一条持续了半年多的产品演进路线。
-
2025年5月
智谱推出GLM-5.1-highspeed,面向部分企业用户开放,输出速度达到400 tokens/s。这一速度在当时刷新了全球大模型厂商API的速度上限。
-
2025年9月
GLM-5.3-FlashX上线,最高速度200 tokens/s,首次以公开API的形式开放高速能力——普通开发者可以直接调用。
-
2025年10月
GLM-5.3 HighSpeed在AI编程工具ZCode中灰度,博主实测输出速度超490 tokens/s,把上限再度推高一档。
| 时间 | 模型 | 速度 | 开放范围 |
|---|---|---|---|
| 2025年5月 | GLM-5.1-highspeed | 400 tokens/s | 部分企业用户 |
| 2025年9月 | GLM-5.3-FlashX | 最高200 tokens/s | 公开API |
| 2025年10月 | GLM-5.3 HighSpeed | 超490 tokens/s(实测) | ZCode订阅用户灰度 |
这条演进线的轨迹很清晰:从企业定制,到公开API,再到编程工具内测——高速旗舰模型的覆盖面在一步步扩大,速度上限也在一步步抬升。5月刷新行业上限的400 tokens/s,如今已被自家的490 tokens/s超越;而当初只服务少数企业客户的能力,正逐渐下沉到更广泛的用户群体。
另一个值得注意的信号是落地场景的变化:从企业API到编程工具,智谱正在把“高速”与“AI编程”做更强的绑定。这个选择的逻辑,我们在第六节展开。
四、模型规格:100万上下文 + 128k最大输出 + 三档思考强度
既然是灰度,很多参数官方还没正式披露。但目前能查到的信息已经勾勒出了这个模型的基本轮廓。
开源编程智能体Pi(pi.dev)的模型目录已收录GLM-5.3-Highspeed,其列出的规格如下:
| 参数项 | 规格 |
|---|---|
| 模型名称 | GLM-5.3-Highspeed |
| 上下文窗口 | 100万 token |
| 最大输出 | 131072 token(约128k) |
| 思考强度 | low / high / max 三档 |
| 价格 | 尚未披露 |
几个信息点值得划重点:
第一,配置与GLM-5.3普通版一致。100万token的上下文窗口、131072 token的最大生成上限、low/high/max三档思考强度配置,均与GLM-5.3普通版相同。这意味着HighSpeed大概率不是“缩水版”——它保持了旗舰模型的长上下文与可控思考能力,只是在输出速度上做了大幅优化。对于编程场景来说,100万token的上下文意味着可以一次性装下相当规模的代码仓库。
第二,价格尚未披露。这是目前最大的悬念之一。参考行业惯例,高速模型通常有成本溢价——推理速度的提升往往意味着更高的推理基建成本。HighSpeed最终如何定价、是否会显著贵于普通版API,需要等官方官宣。
第三,它一个月前就已“埋伏”在Pi harness官网上。据智东西报道,GLM-5.3 HighSpeed一个月之前就出现在开源编程智能体Pi harness的官网上。这说明该模型的推出有明确的准备周期,且从很早开始就面向编程智能体生态做适配——在正式灰度之前,这个模型已经把“服务Coding Agent”写进了它的出生设定里。
五、技术底座拆解:接近500 tokens/s是怎么堆出来的
速度不会凭空而来。虽然GLM-5.3 HighSpeed的具体技术细节尚未公开披露,但智谱此前在GLM-5.1高速版上完整展示过一条高速化路线,可以作为理解这一代高速模型的参照系。
三个层面的系统级优化
GLM-5.1高速版由智谱GLM团队与TileRT团队联合打造,在推理引擎、调度系统与底层基础设施三个层面做了系统级优化:
推理引擎层:重写核心推理路径,提升单卡吞吐。这是最“硬核”的一层——常规推理框架为了通用性,往往在执行路径上留了大量动态判断与调度逻辑,这些灵活性在大批量高速度场景下全部变成开销。重写核心推理路径,等于为高速场景量身定制一条更短、更直接的执行链路。
调度系统层:通过动态批处理、请求合并和KV缓存调度优化,降低高并发场景的尾延迟。大模型线上服务的难点从来不是“单次请求跑多快”,而是“成千上万请求并发时,最慢的那批请求等多久”。动态批处理让GPU始终有活干,请求合并减少重复计算,KV缓存的精细调度则决定了显存这个最稀缺资源能不能被榨干。
基础设施层:围绕推理集群部署、网络链路、负载均衡做协同优化。到了近500 tokens/s这个量级,任何一环的网络抖动、任何一台机器的负载不均,都会直接反映到用户侧的输出速度上。基建层的优化决定了高速性能能不能稳定地交付给海量用户。
TileRT的核心思路:把动态调度“编译死”
在这条路线中,TileRT团队的思路尤其值得展开。它的核心做法是:放弃传统Runtime层的动态算子调度,把整个推理计算图在编译期静态编排成一个常驻GPU的persistent Engine Kernel,把调度、访存和同步开销压到最低。
翻译成更通俗的话:传统推理过程像一家“按单点菜”的餐厅——每个算子来了才知道自己要做什么,层与层之间反复交接、反复等待;而TileRT的做法相当于把整桌菜提前编好一套固定的烹饪流程,让整个计算过程在GPU上“一口气跑完”,中间不换手、不停车。对于推理这种计算图相对固定的负载来说,这种编译期静态编排能把传统方案里散落在各处的隐性开销一笔一笔抠回来。
为什么这件事难?因为推理速度的提升不是调一个参数就能完成的——它需要模型团队、推理引擎团队、调度系统和底层基建的协同改造。这也正是为什么高速模型正在成为检验厂商推理基建硬实力的试金石。
需要说明的是,以上是以GLM-5.1高速版公开过的技术路线为参照的讨论。GLM-5.3 HighSpeed具体采用了哪些优化手段,还有待官方披露,但从它把速度从400 tokens/s再推到接近500 tokens/s的幅度看,这条“系统级优化”的路线大概率在延续和加深。
六、为什么AI编程最需要“速度”
读到这里你可能会问:聊天场景下,模型快点慢点似乎差别不大,为什么智谱偏偏选择在AI编程工具里灰度高速旗舰?答案在于:编程是所有大模型应用场景里,对速度最敏感的一个。
数十轮调用,慢是会复利的
一个典型的Coding Agent任务,往往要经历数十轮模型调用:理解需求、浏览代码库、定位文件、生成方案、逐个修改、运行验证、修复报错……每一轮都是一次完整的模型请求。
这意味着延迟是会复利的:单轮响应只要慢几秒,整体耗时就可能拉长十几分钟。假设一个任务需要50轮调用,每轮多等6秒,总时间就多出5分钟;如果单轮平均要等十几秒,一个中等复杂度的任务就会从“几分钟搞定”膨胀成“半小时起步”。对于把Coding Agent当作生产力工具的重度用户来说,这种等待是实实在在的时间成本。
速度就是编程体验的“10倍速”
更快的模型,相当于给写代码“开10倍速”。理想的交互状态是:模型一边理解工程上下文,一边持续生成代码与修改方案——用户刚输入需求,函数、接口与调用链已经同步展开。当输出速度达到每秒数百token时,代码不是“一个字一个字蹦出来”的,而是像瀑布一样流出来,人的阅读速度甚至开始跟不上模型的生成速度。
这种体验差异不只是“爽不爽”的问题。写作过代码的人都知道,保持上下文的连贯注意力非常宝贵——如果模型每轮都要等上半分钟,思路就被反复打断;而当响应接近即时,人可以像review一位极快的同事写代码一样,持续跟进、随时纠偏。
对长程Agent任务,速度就是产能
再往深一层看:对长程Agent任务,速度不仅是体验,还直接影响单位时间能完成的任务轮数。同样一小时,一个70 tokens/s的模型可能跑完30轮任务循环,一个近500 tokens/s的模型理论上可以跑完数倍于此的循环——在Agent自主完成多步骤工作的场景下,这意味着吞吐量的量级差异。
这也解释了为什么Pi(pi.dev)这样的编程智能体平台会在一个月前就把GLM-5.3 HighSpeed收进模型目录:对Agent框架来说,高速模型等于直接放大了整个系统的任务处理产能。
七、灰度机制与体验路径:怎么才能用上?
说回最实际的问题:普通用户现在能体验到GLM-5.3 HighSpeed吗?
根据目前已知的公开信息,情况是这样的:
灰度机制:GLM-5.3 HighSpeed目前只对ZCode订阅用户随机开放,没有明确的内测申请入口。也就是说,这不是一个“申请就能进”的测试,而是平台侧主动推送的灰度——能不能收到,目前取决于运气。量子位作者的实测提供了一个参考样本:Lite套餐用户暂时没能灰度到。
客户端版本:量子位提到,该模型在ZCode 3.15.1版本中开放体验。想把灰度概率抓在自己手里的用户,至少应该先把ZCode升级到这个版本。
三点提醒
- 内测速度仅供参考。灰度阶段用户量小、并发低,展现的490+ tokens/s只能作为参考。最终得看实际上线后,对外规模化提供服务时的速度——那才是你付费用时能拿到的真实体验。
- 价格待官宣。GLM-5.3 HighSpeed的价格尚未披露。高速推理通常伴随更高成本,最终定价如何、是否显著高于普通版API,还需等待官方信息。
- 普通用户的替代路线。现阶段想体验高速GLM,可以先关注GLM-5.3-FlashX(最高200 tokens/s)这条公开API路线——它是目前普通开发者无需蹲灰度就能直接调用的高速选项。
简单说:已经订阅ZCode的用户,可以蹲一蹲灰度;没有订阅或没被灰度到的用户,FlashX是目前最现实的过渡方案;所有人在等两件事——规模化后的真实速度,以及官方价格。
八、Omen Alpha之谜:那个匿名模型是它吗?
在社区讨论中,还有一条支线剧情值得一提——不过需要先声明:以下内容属于社区猜想,未经官方确认。
事情始于OpenCode。今年9月,OpenCode上新了一个匿名模型,代号Omen Alpha。这个模型没有公布身份,但性能表现引发了大量猜测,社区网友顺藤摸瓜,基本已将其与GLM联系到一起——不少实测细节指向了智谱的模型。
那么,Omen Alpha会不会就是这次在ZCode灰度的GLM-5.3-Highspeed?在Reddit等社区,网友观点并不统一:
一种猜测认为,Omen Alpha就是GLM-5.3-Highspeed——毕竟两者都在编程场景露出,且匿名模型的表现与高速旗舰的定位存在吻合之处;另一种猜测则认为它是GLM-5.3-Omni,即智谱的多模态方向模型;还有人猜是GLM-5.4-Flash,指向尚未发布的下一代Flash系列。
截至目前,智谱并未对Omen Alpha的真实身份做任何官方确认,“Omen Alpha即GLM-5.3-Highspeed”只是社区猜想之一。我们把它记录在这里,是因为这条支线反映了一个有趣的行业现象:头部厂商的新模型,已经开始以“匿名马甲”的形式在第三方编程平台接受实战检验,而社区则扮演起了“侦探”的角色。这种先匿名试用、后正式亮相的节奏,或许会成为新模型发布流程的常态补充。
谨慎声明:Omen Alpha与GLM系列存在关联,是社区网友根据实测特征做出的推测;它与GLM-5.3-Highspeed是否为同一模型,存在多种猜测且未经任何官方确认。请读者将其视为待验证的线索,而非结论。
九、行业观察:速度军备赛为什么现在开打
把镜头拉远,GLM-5.3 HighSpeed的灰度并不是一个孤立事件,而是行业竞争重心迁移的一个缩影。
竞争抓手的三段迁移
回顾这几年的大模型竞争史,厂商的发力点经历了一个清晰的迁移过程:
第一阶段,卷跑分。各家比拼基准测试成绩,MMLU、HumanEval等榜单分数是发布会的核心素材。但当头部模型的能力差距缩小到用户难以感知的程度,跑分的边际价值开始递减。
第二阶段,卷价格。API降价潮一轮接一轮,token单价屡创新低。价格战把调用成本打了下来,但当成本降到足够低的水平后,价格的进一步下探对用户的决策影响也在变弱。
第三阶段,卷速度。这正是当下正在发生的事——推理侧优化成为厂商新的竞争抓手。除了推出专门的快速模型,把旗舰模型的速度再拔高一个量级,正成为新的方向。智谱从5月的GLM-5.1-highspeed到10月的GLM-5.3 HighSpeed,正是这条路径的典型样本。
速度背后是推理基建的硬实力
为什么“卷速度”会在这个时间点开打?因为速度恰恰是最难速成的指标。
跑分可以通过训练策略优化,价格可以通过补贴拉低,但输出速度的每一个提升,都要靠推理引擎、调度系统、底层基建的实打实改造。TileRT所代表的技术路线——放弃传统Runtime层的动态算子调度、将推理计算图编译期静态编排为常驻GPU的persistent Engine Kernel——代表了把硬件利用率推向极限的系统工程方向。围绕推理集群部署、网络链路与负载均衡的协同优化,则需要长期的基建投入与运维经验积累。
在国产算力的语境下,这条路线还有额外的一层意义:推理侧的软件优化能力,直接决定了在给定算力资源下能榨出多少有效吞吐。智谱此前公开的TileRT合作路线,以及国产算力优化的一系列实践,都在指向同一个趋势——推理基建的软硬协同能力,正在成为大模型厂商的第二条护城河。谁能在同样的算力预算下交付更高的吞吐与更低的延迟,谁就在商业化上多一分底气。
对开发者:选型三要素变成了“智能、价格、速度”
对开发者而言,这场速度军备赛最直接的的影响是:在Agent工作流里,吞吐速度开始和智能水平、价格一样,成为选型三要素。
过去选模型,大家主要看两件事:能力够不够强,价格够不够便宜。但当工作流从“单次问答”进化为“数十轮Agent循环”,速度的影响被结构性放大了——一个能力略弱但快五倍的模型,在很多Agent场景下的综合产出反而更高。AI Ping这类平台的测速数据之所以越来越受关注,正是因为速度已经从“锦上添花”变成了“必查项”。
可以预见,随着GLM-5.3 HighSpeed这类近500 tokens/s量级的模型走向规模化,其他厂商大概率会跟进加码,“每秒几百token”可能很快从震撼指标变成标配门槛。
十、实操建议与结语
最后,针对三类不同读者,给一份可执行的建议清单。
给ZCode订阅用户
先把ZCode升级到3.15.1版本,然后蹲一蹲灰度。目前该模型对订阅用户随机开放,没有申请入口,Lite套餐用户暂时未被灰度到(量子位作者实测样本),这或许暗示灰度优先级与套餐档位相关——但这一机制随时可能调整,保持客户端更新是最基本的动作。抽中之后记得多跑几个真实项目:内测阶段的490+ tokens/s是参考值,你在自己工作负载里的实测速度,才是对你有意义的数据。
给普通开发者
现阶段不必执着于蹲灰度。GLM-5.3-FlashX(最高200 tokens/s)是目前无需等待的公开高速路线,配合Cline等编程智能体即可搭建一套体感明显快于主流速度的Agent工作流。GLM-5.3普通版官方API(AI Ping测得70.84 tokens/s)则适合对速度不敏感、更看重单轮质量的场景。同时关注智谱后续官宣——HighSpeed的规模化时间表与定价,将决定要不要切换主力模型。
给企业用户
参考GLM-5.1高速版的先例——今年5月那波400 tokens/s的能力,就是先面向部分企业用户开放的。高速API大概率会延续“企业场景先行”的节奏。如果你的业务存在高并发调用或长程Agent流水线,建议提前与厂商侧建立沟通渠道,评估高速模型在真实业务负载下的吞吐收益,并在价格披露后第一时间做成本测算。
结语:拼“体感”的时代
从跑分大战,到价格战,再到今天的速度战,大模型竞争正在进入拼“体感”的阶段。
这件事的本质并不复杂:当各家旗舰模型的能力差距缩小到普通用户难以分辨的程度,那些能被身体直接感知的维度——响应有多快、等待有多短——就成了新的差异点。在AI编程这个最讲效率的场景里,尤其如此。
当模型能力趋同,每秒多吐300个token,就是用户指尖上最直接的差距。
当然,490 tokens/s目前还只是灰度内测的数字,规模化之后能否守住这个水平、价格是否亲民、智能水平是否有取舍,都还是未知数。但方向已经足够清晰:速度这条战线,智谱抢先又推高了一档。接下来,就看同行们怎么接招了。
延伸阅读
- AI编程工具专题:Coding Agent与AI辅助开发工具盘点
- 大模型API速度对比:主流模型输出速度实测与选型指南
- 智谱GLM系列模型追踪:从GLM-5.1到GLM-5.3演进梳理
- 国产大模型推理优化:推理引擎与部署基建趋势解读
- Cline等开源编程智能体搭配国产API的实践指南
发表回复