只做判断的AI成新品类:Jev引爆决策模型热潮,国产开源五档跟进,4B量化仅2.71GB

作者:

在

深度解读 / THE AI EDIT约 16 分钟读完












🎯
不写一个字,只做判断:决策模型成AI新品类
Jev 两周引爆全球跟进,国产开源五档 0.8B~27B 全配齐,4B 量化后仅 2.71GB
AI
AI工具导航
@xcoolevdb · 2026年10月8日

搭过 Agent 的人都有体感:一个任务跑下来,模型被调用几十次,其中绝大多数不是在”写文章”,而是在做选择题——选哪个工具、点哪个按钮、要不要转人工。9 月 15 日,前 OpenAI 研究员创办的 TypeSafe AI 发布 Jev,把”判断”从”生成”里剥离出来:输入 0.042 美元/百万 Token、输出免费,24 小时刷新 Vercel AI Gateway 采用纪录。两周之内,OpenAI、Cloudflare、亚马逊全部下场,国内上海 AI 实验室和陈大年的 StartLux 直接开源对标——一个新品类,就这么在两周里从首发打成了群战。

📑 本文目录

· 一、Jev 是什么:一个只做判断的”哑巴模型”

· 二、为什么火:0.042 美元/百万 Token 的经济账

· 三、两周从首发到群战:巨头全部下场

· 四、国产跟进①:上海 AI 实验室 Intern-Decision,多模态 + 快 2~3 倍

· 五、国产跟进②:陈大年 StartLux 开源五档,3 天完成研发

· 六、成绩单对比:Decision Index 与七套测试

· 七、怎么用起来:四类落地场景与置信度门禁

· 八、冷思考:两周就被复制的品类,护城河在哪

一、Jev 是什么:一个只做判断的”哑巴模型”

先说清楚它是谁家的。Jev 由 TypeSafe AI 开发,9 月 15 日发布。创始人 Diogo Almeida 是位 90 后,曾供职 Google、OpenAI,参与过 ChatGPT 相关研发,自称是 OpenAI 内部少数公开”黑”ChatGPT 的人。2024 年离开 OpenAI 后,他带着一个问题创业:大模型聊天已经很强,为什么自动化软件还是不可靠、昂贵、缓慢?TypeSafe 团队隐身研发两年,一次性端出了这个产品。

TypeSafe 给 Jev 的定位叫 System One Model(系统一模型),名字取自卡尼曼《思考,快与慢》:系统一是人快速、直觉、低成本的那部分思维,负责瞬间判断;系统二负责缓慢审慎的深度推理。过去两年的大模型,几乎都在往系统二的方向卷——推理链更长、思考更深、价格更贵。而 Agent 真正跑起来之后,情况恰恰相反:密集发生的不是深度推理,而是大量琐碎判断。这张工单该分给哪个团队?这条命令能不能放行?页面上下一步点哪个按钮?任务到底完成没有?

过去这些判断只有两条路:要么交给大模型”顺便”做,生成一段文字再解析——又慢又贵;要么写死成规则——覆盖不了长尾。Jev 的做法是第三条路:只回答带预设选项的问题,单选、打分或者是非题,直接返回带概率的结构化结果。它也因此被网友戏称为”哑巴模型”——没有聊天框,不写代码,不做长篇推理。

🔧 接口长什么样

开发者提供两样东西:state(当前状态的文本或 JSON)+ questions(预设好的类型化问题)。三类原语:Choice(在候选里单选,返回各选项概率和置信度)、Score(按自定义等级评分)、Noul(判断是非,返回 0~1 概率)。多个问题可以在一次请求里并行处理——同一条客服工单,一次就能同时判出”该交给哪个团队、是否需要当天处理、影响程度如何”,程序拿到的直接是可以接 if/else 的结构化结果。

一个流传很广的演示:处理同一项数据分类任务,28 秒内 Jev 完成了 428 条数据的打标,而另一款模型只处理到第 6 条。因为不需要逐字生成回答文本,一次前向计算就能出判断,快得完全不像个大模型任务。

二、为什么火:0.042 美元/百万 Token 的经济账

便宜,是 Jev 走红的直接原因。官方定价:每百万输入 Token 0.042 美元,输出 Token 免费。TypeSafe 列出的对比数据显示,Jev 的输入成本最低仅为竞品的 1/238。厂商口径下响应时间约 70~500ms。按每次约 1000 Token 输入粗算,一百万次请求的模型费用约 42 美元——这笔钱放在传统大模型 API 上,可能只够跑一万次。

0.042$
每百万输入 Token(输出免费)

13%
Vercel 付费用户 24 小时内采用

428条/28秒
数据打标实测速度

约42美元
一百万次请求的模型费用

市场反应有多直接?Vercel 披露,Jev 上线 24 小时内,其 AI Gateway 上 13% 的付费用户就用上了它,是此前任何模型发布的两倍以上;发布视频在社交平台拿下近 4000 万次播放。资本层面同样疯狂:据 10 月 8 日报道,TypeSafe AI 正在洽谈至少 10 亿美元新融资,已有投资人给出超过 100 亿美元的估值报价——而这家公司浮出水面到今天还不到一个月。领投方 DCVC 合伙人透露,得益于极低的计算成本,公司已经实现盈利。

为什么敢定这个价?TypeSafe 用经济学家杰文斯(Jevons)的名字给模型命名,暗指那条著名的悖论:一样东西越便宜,需求反而越大。当一次智能判断的成本降到足够低,智能调用就会从少数几个大模型请求,扩散到软件里的每一个路由、审核、评分和监控节点。名越大,野心越大。

三、两周从首发到群战:巨头全部下场

一个新品类被验证有利可图,剧本就注定了。Jev 号称隐身研究了两年,但跟随者的速度一个比一个快:

OpenAI:Decisions API(约两周)

在开发者日上面向即时决策场景推出,基于自家小模型打造,几乎被外界视为对 Jev 的正面回应。社交平台上一个”Jev Is Dead”的帖子迅速流传——虽然 Jev 也因此获得了更大的曝光。

Cloudflare:Clef(10 月 1 日开源)

基于 Qwen 后训练的开源决策模型,并在 StartLux 发布第二天宣称自家 Clef 在同一套榜单上领先。做边缘计算的公司下场做判断层,逻辑很顺:判断本来就是离数据越近越好。

亚马逊:Strands Decider(约半个月)

同样用 Qwen 做底座。加上 APUS 的同类方案也跑在 Qwen 上——这一轮决策模型热潮里,中国开源基座已经成了全球玩家共用的”躯干”,这个细节比任何榜单都值得国内开发者细品。

国内:上海 AI 实验室 + StartLux(后文详述)

上海人工智能实验室开源 Intern-Decision,上海创业公司 StartLux(原点星辉)开源 StartLux-Decision——后者直接把”超过 Jev”写进了发布标题。

⏱️ 时间线感受一下

Jev 隐身研发两年 → OpenAI 用两周做出 Decisions API → StartLux 用 3 天 → Cloudflare 和亚马逊都在半个月内跟上。一个两周就能被复制的品类,本身很难成为壁垒——Jev 发布时就有人预判:它最终要和”前沿版本的自己”打价格战。

四、国产跟进①:上海 AI 实验室 Intern-Decision,多模态 + 快 2~3 倍

国内的跟进几乎是同步的。上海人工智能实验室开源了多模态决策模型 Intern-Decision,一口气给出 0.8B、2B、4B 三档规格。它最大的差异化是多模态:Jev 目前主要处理文本和结构化文本,图片、音频、视频尚未支持;而 Intern-Decision 能看懂图像和界面再做决策——这对浏览器自动化、GUI Agent 这类”看着屏幕操作”的场景是刚需。

性能上,团队给出的数据是推理速度比 Jev 快 2 到 3 倍;在后来被广泛引用的七套测试组合里,Intern-Decision-4B 平均准确率 90.02%,高于 Jev 1.13 的 88.74%。对想自己部署一套决策层的团队来说,这是一个可以直接拿来用的开源起点。

五、国产跟进②:陈大年 StartLux 开源五档,3 天完成研发

另一家更值得单独讲。9 月 30 日,成立不到五个月的上海公司 StartLux(原点星辉)发布开源决策模型 StartLux-Decision,一次性放出 0.8B、2B、4B、9B、27B 五档规格,每档都配齐原始权重和 Q8_0、Q4_K_M、BF16 三种 GGUF 版本,直接瞄准本地部署。这家公司的 CEO 来头不小:盛大网络联合创始人陈大年——1998 年写出上网计费软件 ENCounter,后来做了 WiFi 万能钥匙;CTO 是郭权玮博士。

3 天完成研发验证,靠的是他们的 Auto Research 研发管线——StartLux 推进的 RSI(递归式自我改进)体系的核心环节:让 AI 深度参与”假设—实验—验证—新假设”的循环,分析上一轮失败、构造数据、执行训练与评测,再提出下一轮改进;研究目标和关键取舍仍由人类研究员把关。换句话说,这次发布本身,就是”AI 研发 AI”的一次实践展示。

💻 本地部署的关键数字

4B 版本压到 Q4 量化后约 2.71GB,与原始权重的决策一致率仍有 98.3%——意味着一台普通笔记本、甚至迷你主机就能跑一个决策层。在 StartLux 的本地智能架构里,27B 模型承担通用能力,决策模型负责高频判断,上层是 Agent 和记忆,底层是量化与推理系统。对本地场景来说,决策模型不是追热点,而是整个系统能不能跑得动的关键零件——个人电脑的显存、内存和功耗都有硬上限,把高频判断交给小模型,才是本地 AI 的省电之道。

顺带一提这家公司的前科:此前以 Qwen3.6-27B 为基座后训练的 StartLux-27B,在中国信通院 MCP 专项测试中拿到 39.25 分,超过了 284B 参数的 DeepSeek-V4-Flash——虽是专项测试,但执行力可见一斑。

六、成绩单对比:Decision Index 与七套测试

把目前公开的数据放在一张表里(注意:StartLux 的成绩是团队自测,对照 9 月 28 日公开榜单快照,看看就好,别当圣旨):

对比项 Jev 1.13 StartLux-Decision-27B Intern-Decision-4B
发布方 TypeSafe AI(美国) StartLux 原点星辉(上海) 上海 AI 实验室
开源 / 本地部署 闭源托管,仅云端 API ✅ 开源五档 0.8B~27B ✅ 开源三档 0.8B~4B
Decision Index 0.2.1 57.91 63.88(38 项中 31 项更高) —(9B 版对照 58.63)
七套测试平均准确率 88.74% 91.82% 90.02%
JevBench(231 题) 答对 199 题 答对 208 题 答对 201 题
模态 文本 / 结构化文本 文本 多模态(图像、界面)
响应速度 约 70~500ms(厂商口径) 27B 单次 102.3ms(H200) 官方称比 Jev 快 2~3 倍
许可 商用闭源 代码 Apache-2.0;权重 CC BY-NC 4.0(商用需授权) 开源

延迟细节补充:在单卡 H200、BF16 精度、短请求条件下,StartLux-Decision 各档的单次响应为 0.8B 12.2ms、2B 15.5ms、9B 35.7ms、27B 102.3ms;4B 版本一次回答三个问题平均耗时 26ms。全部走本地 HTTP 并启用快速计算内核与 CUDA Graphs——判断层的延迟已经压到了”程序无感”的量级。

⚠️ 读榜单的正确姿势

「第一」在这个赛道的保质期极短:StartLux 9 月 30 日发布,第二天 Cloudflare 就宣称 Clef 同榜单领先。StartLux 还展示过一组国际象棋对弈(36 局赢 35 局)——但下棋本来就不是决策模型的主战场,更像吸睛演示。各家自测口径不一,真正值得等的是第三方对不同语言、不同领域、不同风险条件的长期评测。

七、怎么用起来:四类落地场景与置信度门禁

对开发者来说,决策模型最有价值的不是跑分,而是往现有系统里塞的位置。四类典型场景:

① Agent 的路由与护栏

选工具、定去向这类高频判断,通用大模型可能幻觉出不存在的 API 名,决策模型只会在给定列表里选。更实用的玩法是置信度门禁:置信度高的判断直接自动执行,中等的切给大模型细想,低的转人工介入;每个工具调用前还可以做一道 Allow / Deny / Ask 的安全审查。已经有开发者把 Jev 接进 Claude Code,专门清理无用上下文、判断任务是否完成。

② 高吞吐分类与工单流转

每天百万级的工单、邮件、内容审核,几百毫秒内判团队和紧急程度;模糊评价拆成多个维度并发打分——简历筛选、合规审计都是典型场景。一条用户反馈要同时判业务类别、紧急程度、信息是否齐全?一次请求并行出结果,延迟从三次相加变成一次。

③ 游戏与仿真

回合制或轻量实时操作里每秒多次的决策——有人拿 Jev 打马里奥,物理和渲染留给游戏引擎,判断交给决策模型。共同特征:输入可结构化、输出是有限动作集合。

④ 多指令并行解析

智能家居里一句话同时判出操作对象、范围、动作——一句话里的多个意图不必拆成多次调用,靠的就是并行评分能力。

选型方法论可以简化成三句话:生成类任务,找大模型;判断类任务,先看调用频率——低频判断直接用大模型加 Structured Outputs,别多接一个依赖;高频判断再在”专用小模型”和”决策模型”之间选:标签固定、数据充足就训小模型,候选多变、需要语义理解就试决策模型。无论选哪条路,先拿自己的数据校准置信度,再决定哪些判断可以自动执行。

🇨🇳 国内开发者的现实选项

Jev 闭源、只能走云端,对数据敏感、有跨境调用顾虑的国内团队来说本身就是门槛。开源 + 可本地部署的 Intern-Decision 和 StartLux-Decision 正好补位:数据不出内网,判断层跑在自己的机器上。入口:GitHub 搜 StartLuxLabs/Startlux-Decision,或 Hugging Face 的 startlux-models 合集;上海 AI 实验室 Intern-Decision 同样可在 GitHub / HuggingFace 获取。注意 StartLux 权重是 CC BY-NC 4.0(非商用),商用需另行授权。

八、冷思考:两周就被复制的品类,护城河在哪

热闹之外,三盆冷水必须端稳。

第一盆:类型安全 ≠ 事实正确。如果程序只允许 billing、technical、account 三个值,Jev 确实不会返回第四个格式错误的值——但它完全可能在这三个里选错。”不会幻觉”只能理解为”不会生成选项之外的内容”,不等于”判断总是对的”。它也可能对含糊、被篡改或超出分布的数据,给出一个格式正确、置信度很高、但事实错误的判断——把错误更快、更便宜地送进生产系统。

第二盆:护城河存疑。一个两周内从首发走到群战的品类,先发优势极难维持。Jev 要和”前沿版本的自己”(OpenAI Decisions API)打价格战,开源阵营还有 Clef、Intern-Decision、StartLux-Decision 在卷分数。独立的决策模型厂商,最终得靠服务质量、概率校准工具和集成能力留住客户。

第三盆:别高估单点,低估分层。这轮热潮真正的行业信号不是”又出了个新模型”,而是「智能分层、各司其职」这条路被市场用真金白银投了票:大模型负责想,决策模型负责判断,小模型负责专项,各干各的。决策模型未来大概率像数据库、缓存、消息队列一样,成为软件系统里的标准组件——竞争点会从”谁分数高”转向”谁的接口标准被采纳、概率可比较、可审计”。

📌 一文总结

① 决策模型 = 只做判断、不生成文本的新品类:输入 state + 预设问题,返回 Choice / Score / Noul 三类结构化结果与概率,天然适合 Agent 的高频判断点。

② Jev(TypeSafe AI,9/15 发布):输入 $0.042/百万 Token、输出免费,为竞品输入成本的 1/238;24 小时内 Vercel AI Gateway 13% 付费用户采用,估值报价已超 100 亿美元。

③ 两周群战:OpenAI Decisions API、Cloudflare Clef(Qwen 后训练)、亚马逊 Strands Decider(Qwen 底座)接连下场——中国开源基座成了全球决策模型的”躯干”。

④ 国产开源:上海 AI 实验室 Intern-Decision(0.8B/2B/4B,多模态,比 Jev 快 2~3 倍);陈大年 StartLux 的 StartLux-Decision(0.8B~27B 五档 + GGUF,Auto Research 3 天研发,4B Q4 量化仅 2.71GB、一致率 98.3%)。

⑤ 数据(自测口径):Decision Index 0.2.1 上 StartLux-27B 63.88 vs Jev 57.91;七套测试平均准确率 91.82% / 88.74%;0.8B 单次响应低至 12.2ms(H200)。

⑥ 冷思考:类型安全≠事实正确,两周被复制的品类难有护城河;真正的大趋势是”智能分层、各司其职”——大模型负责想,决策模型负责判断。

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注