DeepSeek联合北大开源DSpark：推理速度暴涨85%，AI基础设施再被加速

500亿融资后的第一个开源成果，不拼参数拼速度。梁文锋亲自署名的DSpark框架，用两套互补机制解决了推测解码的工程落地难题。

一、为什么大模型推理这么慢？

2026年6月27日，DeepSeek联合北京大学正式发布推理加速框架DSpark，并同步开源了全栈推测解码训练框架DeepSpec。这是DeepSeek完成500亿元融资后首次放出的开源新成果，论文由创始人梁文锋亲自署名。

先说清楚问题出在哪

大语言模型采用自回归方式生成文本——每生成一个新token，都需要基于全部前置token完成一次完整的前向传播。简单来说，让AI写500字回复，它需要连续做500次完整计算，每次只输出一个字。输出越长，等待越久，GPU利用率也越低。

这就是为什么你在用AI聊天时经常遇到”转圈等待”——尤其是在长文本生成和多轮对话场景下，延迟问题尤为突出。

但现有方案各有短板

目前推测解码的主流方案分为两派，都不完美：

• 自回归草稿模型（代表：Eagle3）：逐token串行生成，依赖关系建模强、接受率高，但草稿耗时随长度线性增长，只能用短块、浅层网络。
• 并行草稿模型（代表：DFlash）：一次前向传播直接预测整串token，速度极快。但各位置独立预测、彼此不知道对方结果，越往后越容易前后不一致，接受率断崖式下跌。

举个形象的例子：上下文同时支持”of course”和”no problem”两种续写，并行草稿可能会猜出”of problem”这种四不像组合。论文把这个现象称为”多模态冲突”（multi-modal collision），越靠后的token越容易被拒绝。

二、DSpark的两大核心创新

DSpark精准解决了上述两大瓶颈，提出了两套互补机制——一个改草稿，一个改验证。

创新一：半自回归生成架构

并行快但尾部不连贯，自回归连贯但慢——过去只能二选一。DSpark的做法是：两个都要。

繁重的计算仍由并行骨干网络（基于DFlash改进）一次性完成，产出全部候选位置的隐藏状态和基础logits。随后接一个轻量级串行模块，逐token注入前缀依赖信息，把连贯性补回来。

这个串行模块默认采用马尔可夫头（Markov Head）：只参考紧邻的前一个token，用低秩分解（r=256）把转移关系压得很小，几乎不增加计算量。回到刚才的例子：一旦第一个位置确定是”of”，它就会在下一个位置提高”course”的概率、压低”problem”，前后就接上了。

论文也试过记忆更长的RNN Head，效果略好，但实现复杂、部署不划算，最终默认还是Markov Head。代价很小——这个串行模块给整轮延迟只增加0.2%–1.3%。

创新二：置信度调度验证机制

草稿能写得很长，是不是就该整串都验证？答案是否定的。

在高并发的线上环境中，验证并不免费。多验证一个大概率会被拒绝的token，就会占用目标模型这一批的算力，而这部分算力本可以用来服务其他正在等待的请求。负载低时影响不大，负载一高就是明显的系统性浪费。

DSpark的解决方案分两层：

这意味着系统能根据实时并发量自动调整策略——闲时全力加速，忙时保住整体吞吐量。

三、实测数据：全面碾压Eagle3和DFlash

研究团队选取了Qwen3系列（4B/8B/14B）和Gemma4-12B作为目标模型，在三大类任务上进行了离线基准测试：

• 数学推理：GSM8K、MATH500、AIME25
• 代码生成：MBPP、HumanEval、LiveCodeBench
• 日常对话：MT-Bench、Alpaca、Arena-Hard

核心结论：DSpark在全部目标模型、全部评测领域下，稳定超越两类基线。

数据还揭示了一个有趣的领域差异：结构化任务（数学、代码）的可接受长度天然更高。以Qwen3-4B为例，数学任务平均接受长度5.57，代码任务5.12，而开放对话场景仅3.49。这印证了固定验证长度的局限——不同类型请求的最优验证块长本就不同，动态调度策略能让每类请求都拿到最优加速收益。

四、线上生产环境表现

DSpark不是停留在实验室的算法优化。它已经全面部署于DeepSeek-V4-Flash和DeepSeek-V4-Pro的预览版线上服务，替换了此前的MTP-1单token生产基线。真实用户流量验证结果如下：

值得注意的是，当SLA收紧至120 token/s时，单token基线已接近运行边界，而DSpark在维持可用并发批处理的前提下实现了标称661%的吞吐量优势。

调度器在系统并发数较低时会分配4-6个token的验证长度以充分利用空闲计算资源，随着并发数上升则平滑缩减验证长度以避免资源争用——表现出优秀的负载自适应能力。

五、开源详情与使用指南

开源内容

DeepSeek已在GitHub的DeepSpec项目中完整开源：

• DSpark、DFlash、Eagle3 三种草稿模型的训练代码
• 评估脚本与基准数据集
• 模型权重（HuggingFace可下载）
• 论文PDF
• MIT许可证——随便下、随便改、随便用

GitHub仓库: https://github.com/deepseek-ai/DeepSpec
论文PDF: https://github.com/deepseek-ai/DeepSpec/blob/main/DSpark_paper.pdf
模型下载: https://huggingface.co/deepseek-ai/DeepSeek-V4-Pro-DSpark

DeepSpec工作流

DeepSpec是一个用于训练和评估推测解码草稿模型的全栈代码库，包含数据准备工具、草稿模型实现、训练代码和评估脚本。工作流程分为三个阶段：

目前DeepSpec内置三种算法实现：DSpark、DFlash和Eagle3，支持Qwen3和Gemma4系列目标模型。项目欢迎社区贡献新算法。

六、行业影响与展望

DeepSeek在推理效率优化上一直投入颇多：V2的MLA压缩了KV cache，V3引入了MTP（多token预测），V3.2换用稀疏注意力。DSpark是这条线上的最新一步，也是第一次直接用在主力产品上。

这次开源的核心价值在于：对于缺乏底层算法团队的中小企业和ToB服务商，无需投入巨额研发即可复用成熟推理优化方案，大幅降低大模型私有化部署和线上服务的落地门槛。智能体、工业代码、金融舆情等场景的规模化落地速度有望加快。

已知局限

DSpark并非完美无缺。论文坦诚指出：即使后缀token最终被调度器截断，并行主干仍需为所有请求生成完整的初始候选块。对于接受率本身较低的复杂查询，这部分草稿计算开销无法回收。

未来的优化方向：在草稿模型内部引入难度感知的早退出机制，使低适配请求能够跳过完整块生成流程。

在生成式AI从实验室走向商业化的周期里，”更快、更省算力”正在取代单纯的模型跑分，成为厂商竞争力的关键指标。DeepSeek在完成大额融资后并未单纯追求参数扩容，而是关注落地效率——这或许才是真正的长期主义。

微信小微vs支付宝阿宝：国民级应用内置AI助手横评，谁更懂你？

2026年6月，微信和支付宝在短短一周内相继上线内置AI助手。一个叫”小微”，一个叫”阿宝”。两个月活超10亿的国民级应用同时拥抱AI，意味着什么？本文从功能体验、安全策略、技术架构到应用场景，做一次深度横评。

一、为什么大厂突然不约而同”藏AI”

过去两年，大厂做C端AI的思路很统一：做一个独立的AI App，让用户下载、打开、提问。豆包、通义千问、Kimi、元宝……每个产品都在争夺”AI入口”，但用户留存始终不理想。

2026年6月，情况变了。

• 6月16日，支付宝AI版正式启动邀测，内置AI助手”阿宝”上线
• 6月22日，微信原生AI助手”小微”开启灰度内测

两大国民级应用几乎同时把AI塞进了首页，背后的逻辑很清晰：用户不需要一个新的AI应用，用户需要的是在已经在用的应用里，AI随叫随到。

这标志着C端AI产品从”对话”走向”执行”，从”人找服务”变成”服务找人”。

二、微信小微：把Agent装进14亿人的聊天框

入口与唤醒

小微目前处于灰度测试阶段，获得资格的用户会在微信首页左上角看到一个绿色眼睛图标（带眨眼动效）。四种方式可唤起：

1. 首页快捷入口：点击绿色眼睛图标，或首页右滑
2. 聊天内调用：聊天输入框点”+”可找到”问小微”；长按文字可弹出小微入口
3. 文章内容调用：公众号/视频号文章右上角菜单一键唤起，自动提炼核心观点
4. 全局语音唤起：对话页按住麦克风说话，语音下达指令

值得注意的是，小微默认语音优先——即便切换过键盘输入，下次回来仍默认”按住说话转文字”。这个设计明显是面向更广泛的用户群体，降低使用门槛。

核心能力

小微不是一个独立的智能体，而是微信客户端内的AI助手，将Agent机制引入微信做体验升级。主模型是腾讯自研的WeLM，部分回答会借助DeepSeek配合。

实测亮点与不足

亮点：记者实测让小微”查找并点必胜客的牛肉披萨”，小微不仅打开了必胜客小程序搜索，还顺道查了个人中心的优惠券——发现2张快过期了，最终给出最划算的下单方案（优享卡立减配送费，合计约90.5元）。从搜索、比价、查券到定制配送地址，全程几分钟完成。

不足：

• 不支持单独创建会话——所有对话在一个主窗口里，长程多任务管理可能混乱
• 第一次调用每个小程序都需要隐私授权，体验有摩擦
• 缺乏”凑单”思维——人类会注意到买一赠一优惠，小微只执行单次命令
• 信息不够明确时反复追问，赶时间场景可能让人失去耐心

三、支付宝阿宝：服务找人，一句话办完

入口与界面

支付宝AI版与经典版可自由切换。右滑进入AI版后，首页被精简到极致——只剩”阿宝”和”资产”两大核心模块。

阿宝的设计哲学是：以前用户要在密密麻麻的菜单里翻找服务，现在只需对阿宝说一句话，服务自动推到你面前。据支付宝介绍，上万项服务都能在对话框里办完。

核心能力

实测亮点与不足

亮点：标准化程度高的服务表现稳定。打车场景自动填充起终点、展示车型和预估价格；充话费直接进入充值页面；查公积金直接展示结果。支付宝有大量工具和服务，但用户使用率不足10%——阿宝的目标就是激活这些沉睡功能。

不足：

• 复杂外卖场景容易”断链”——店铺选择、菜品挑选、优惠组合、配送确认任一环节卡住就退回入口跳转
• 算账有出入——实测要求计算全年收入时遗漏了数笔转账
• 复杂指令理解偏差——多约束条件（如”明天下午最快到上海的高铁，二等座，不要过道座”）处理困难
• 第三方小程序开放程度不一时，完成度参差不齐

四、核心横评：7大维度对比

五、安全策略：两种截然不同的思路

两大平台在AI支付安全上走了完全不同的路线，这也反映了各自的产品哲学。

微信：资金隔离，专款专用

6月17日，微信支付发布专为AI智能体支付场景设计的”AI专属卡”。用户需要在微信钱包单独绑定、预存资金，授权后AI才可自主完成下单支付。即使AI出错，也不会触碰主账户资金。这套方案适合企业办公、日常小额消费场景，安全拉满但体验有摩擦。

支付宝：全域开放，最终确权

支付宝选择全域AI升级，AI负责听懂需求、匹配服务、梳理流程，但凡涉及扣款、支付的关键一步，全部交由用户手动确认。AI没有自主付款权限。配合”你敢付，我敢赔”的兜底保障，在便捷和安全间寻找平衡。

六、技术架构：小程序如何变成AI的”手”

两大平台面临的核心技术挑战是一样的：如何让AI理解和操控小程序。

这不是简单的API对接。小程序需要被”翻译”成AI能理解的语言——功能、参数、流程都要标准化。微信小程序服务商透露，接入AI生态需要把小程序功能原子化，让小微能快速理解、识别、调用和操作。

关键问题在于：小程序愿意对AI开放到什么程度，直接影响AI的分析结果和操作能力。

• 部分应用允许AI通过授权进行屏幕识别和模拟点击——完成度高
• 部分应用限制严格，AI只能读取基本信息——完成度低
• 微信更注重生态参与者感受，没有让小微完全接管小程序
• 支付宝自身掌控的服务（打车、充值、查公积金）完成度最高

这意味着，AI助手的实际体验高度依赖生态合作深度，而非单纯的AI理解能力。这也是为什么同一个AI助手，在不同服务上的表现差异巨大。

七、办公与生活场景实测

场景1：点外卖

小微：说”帮我在最近的瑞幸点一杯生椰拿铁，去冰、不另外加糖”，小微定位附近门店，提示温度选项，给出三个解决方案。选好后调起美团外卖小程序，规格已选好，用户只需确认付款。整个过程约1分钟。

阿宝：能自动进入星巴克小程序操作至付款界面，但换汉堡王时仅返回淘宝闪购搜索结果。差异源于第三方小程序授权程度不同。

场景2：群聊总结

小微：在群聊界面点”问小微”，可提炼聊天记录重点，适合工作群、家长群等消息密集场景。还会在群里帮你组织回复话术——老板甩了模糊需求，小微帮你写一段不卑不亢的回复。

阿宝：不涉及社交场景，无类似功能。

场景3：打车

小微：关联上下文记忆——如果你之前提过旅游计划，小微会追问”是配合之前暑假旅游的那趟航班吗”，然后自动定位到机场并搜索送机小程序。

阿宝：自动填充起点终点、展示车型与预估价格，用户仅需最后确认叫车。标准化程度高，体验流畅。

场景4：文档处理

小微：支持对PDF、Word、TXT等文件一键生成摘要、提炼核心观点，长文档几分钟读完。公众号文章也可一键唤起小微自动提炼核心观点。

阿宝：不主打文档处理能力。

场景5：一句话创建工具

小微：说”帮我打造一个专注30分钟的番茄钟”，小微快速完成工具制作，制作完成后在小微内即可打开使用。支持生活记录、习惯养成、个人管理类工具。

阿宝：无类似功能。

八、总结与建议

谁更适合你？

行业趋势判断

2026年6月的这一波内置AI助手潮，标志着C端AI产品进入新阶段：

1. AI不需要独立入口——藏在国民级应用里，比单独下载一个AI App更有效
2. 从”对话”到”执行”——用户要的不是跟AI聊天，而是让AI帮自己办事
3. 安全是底线而非选项——两大平台都在支付环节保留人工确认，AI自主支付仍有距离
4. 生态决定体验上限——AI助手的能力取决于小程序开放程度，而非模型能力本身
5. “第二桌面”争夺战——超级App通过AI兼容内外部服务，争夺用户入口

目前小微和阿宝都处于测试阶段，很多功能还不完善。但方向已经清晰：AI正在从”你需要去用的工具”变成”帮你把事做完的助手”。对于普通用户来说，这意味着不需要学新软件、不需要记操作路径，说一句话就够了。

这或许才是AI真正走向大众的方式。

MiniMax M3 深度测评：1M 上下文 + 原生多模态，国产开源模型新标杆

428B 参数、MSA 稀疏注意力架构、百万级上下文、从零多模态训练——MiniMax M3 能否撼动 GPT-5.5 的编程王座？我们从技术架构、跑分表现、实测体验到部署方案，给你一份最硬核的解读。

一、M3 是什么：三大核心能力一次拉满

2026 年 6 月 1 日，MiniMax 正式发布新一代旗舰大模型 MiniMax M3。这不是一次普通的版本迭代——M3 是目前全球唯一同时集齐以下三大能力的开源模型：

二、MSA 稀疏注意力：百万上下文不再”卡到飞起”

M3 最大的架构突破不是参数规模，而是 MSA（MiniMax Sparse Attention）稀疏注意力。传统 Transformer 的注意力计算复杂度是 O(n²)，上下文越长越慢越贵。M3 用 MSA 彻底改变了这个计算逻辑：

MSA 核心原理

MSA 引入了一个”预筛选”阶段：在计算注意力之前，先智能识别与当前 Token 相关的上下文区块，仅对这些有效信息做精细注意力计算，跳过无关冗余。这就像一个学霸读厚书——不是逐字逐句啃，而是先看目录和关键词，精准定位核心段落。

速度与成本对比

三、跑分数据：编程超越 GPT-5.5，Agent 能力全球前沿

跑分不是万能的，但不看跑分是万万不能的。M3 在多个权威评测中表现抢眼：

编程能力

Agent & 工具调用能力

多模态能力

在 OmniDocBench 多模态文档理解评测中，M3 得分超越 Gemini 3.1 Pro。作为原生多模态模型，M3 在图表读取、PDF 扫描件解析、视频帧理解等场景表现尤为突出。

四、原生多模态：不是外挂，是”天生”

市面上很多”多模态模型”其实是文本模型训练完成后，外接一个视觉编码器——相当于给一本英汉词典贴了张图片封面。M3 的做法完全不同：

为什么原生多模态重要？

因为 Agent 要在真实世界中干活，而真实世界不只是文字。一个 Agent 需要读截图、看图表、理解 UI、甚至看视频学习操作流程。”外挂视觉”的做法在这些场景下经常出现”看着图但理解错”的问题，而原生多模态模型从训练阶段就学会了图文关联，精准度显著更高。

五、价格屠夫：比 Opus 便宜 94%

开源 ≠ 免费部署。对大多数开发者来说，API 调用才是最实际的使用方式。M3 的定价直接把性价比拉到了新高度：

M3 还支持”双模式切换”：复杂推理任务用 Thinking Mode（深度思考），延迟敏感的补全场景用 Non-Thinking Mode（快速响应），同一价格档位，按需切换。

六、实测体验：长文档 / 编程 / Agent 实战

场景 1：长文档解析

输入一份 30 万字的技术文档，M3 能够准确提取关键信息、回答细节问题，且不会出现”只记住尾部内容”的长文本失忆问题。MSA 架构确保了全文本范围的信息检索精度。对比 M2.5 在同场景下的表现，信息召回率显著提升。

场景 2：编程实战

加载一个 88 万 Token 的完整代码仓库，M3 可以独立完成”读取代码→理解架构→定位 Bug→编写修复→跑测试→打包部署”的全流程。过去同等规模项目需要开发团队数周分工协作，借助 M3 辅助可在数小时内输出可运行成果。

场景 3：Agent 自动化

M3 兼容 Claude Code、OpenClaw 等主流 Agent 框架，支持 ReAct、Plan-and-Execute 等多轮规划模式。实测中，M3 在连续 40+ 轮工具调用后仍保持稳定，未出现指令遗忘或逻辑混乱——这在开源模型中非常少见。

七、部署方案：API / 开源自建 / 国产算力

M3 提供三种部署路径，覆盖不同需求：

方案 1：官方 API（推荐上手最快）

直接调用 MiniMax 官方 API，支持 1M 上下文，512K 以内按标准费率。无需运维，按量付费。

方案 2：开源自建（需 GPU 集群）

模型权重已在 Hugging Face 开源（MiniMaxAI/MiniMax-M3），支持 TensorRT-LLM、SGLang、vLLM 三大推理框架。但需要注意硬件门槛：428B 总参数（BF16 约 850GB），即使 MXFP8 量化也需 8xH100/A100 级别 GPU。推荐最低配置：8xH100 80GB 或 8xA100 80GB。Ollama / llama.cpp 已有 GGUF 量化版，但 Q4_K_M 约 264GB，个人设备基本无法运行。

方案 3：国产算力适配（企业级）

M3 开源当日即完成华为昇腾、摩尔线程、寒武纪、昆仑芯等全部主流国产算力平台的 Day-0 适配。华为云 CloudMatrix 已基于昇腾算力为 M3 提供 Tokens 支持，摩尔线程 MTT S5000 也完成了 vLLM 和 SGLang 的同步适配。

八、适合谁？不适合谁？

✅ 推荐场景

• 企业级长文本处理：百万字文档解析、合同审核、论文精读、日志分析
• 复杂 AI Agent 开发：长流程自动化、多步骤规划、多轮工具调用智能体
• 工程编程落地：项目级代码生成、代码重构、Bug 排查、自动化脚本
• 多模态自动化：图片/视频理解、桌面操作、视觉+文本联合推理
• 预算敏感团队：API 价格比海外闭源模型便宜一个数量级

❌ 不推荐场景

• 纯日常闲聊：428B 模型的优势在闲聊场景无法发挥，性价比不如小模型
• 本地个人部署：硬件门槛过高，Q4 量化需 264GB 显存，个人设备无法运行
• 复杂科学计算：海外闭源模型在前沿科学推理、复杂数学证明等场景仍有优势

九、总结与展望

MiniMax M3 的发布，标志着国产开源大模型进入了一个新阶段：

客观地说，M3 并非没有短板：部分多模态深度理解、复杂逻辑推理、前沿科学计算赛道，海外头部闭源模型仍保留优势；本地部署门槛过高也是现实。但对于 Agent 开发者、AI 工程师、预算敏感的企业团队来说，M3 是目前性价比最高的开源选择，没有之一。