泉源:华为盘算(企业公众号)
2026 年 4 月 24 日,,,,,,DeepSeek V4-Pro 和 DeepSeek V4-Flash 正式宣布并开源,,,,,,模子上下文处置惩罚长度由原有 128K 显著扩展至 1M,,,,,,实现近 10 倍容量提升。。。。。模子首次增添 KV Cache 滑窗和压缩算法,,,,,,大幅镌汰 Attention 盘算和访存开销,,,,,,并通过架构立异更好地支持 Agent 与 Coding 场景。。。。。
昇腾一直同步支持 DeepSeek 系列模子,,,,,,本次通过双方芯模手艺细密协同,,,,,,实现昇腾超节点全系列产品支持 DeepSeek V4 系列模子。。。。。昇腾 950 通过融合 kernel 和多流并行手艺降低盘算开销,,,,,,团结多种量化算法,,,,,,实现高吞吐、低时延的推理安排;;;;;昇腾 A3 超节点系列产品周全适配,,,,,,同时提供基于 A3 超节点的训练参考实现,,,,,,利便用户快速微调。。。。。
基于昇腾 950 底层架构三大升级,,,,,,实现极致性能体现:
· 原生精度加速:周全支持 FP8、MXFP8、MXFP4 等名堂,,,,,,包管精度同时内存占用降低 50%+,,,,,,盘算能力翻倍。。。。。
· 希罕访存优化:针对 MoE 模子离散访存特征,,,,,,提升硬件级希罕访存能力,,,,,,解决专家路由带宽瓶颈。。。。。
· Vector 与 Cube 共享 Memory:立异存储架构,,,,,,消除大宗片上数据搬运开销,,,,,,显著降低端到端时延。。。。。
性能实测:
· DeepSeek V4-Pro:8K 输入场景,,,,,,TPOT 约 20ms,,,,,,单卡 Decode 吞吐 4700TPS。。。。。
· DeepSeek V4-Flash:8K 输入场景,,,,,,TPOT 约 10ms,,,,,,单卡 Decode 吞吐 1600TPS。。。。。
同时,,,,,,昇腾团结界说超节点架构,,,,,,实现低本钱、高扩展、万卡级集群规模,,,,,,支持 4K–1M 序列长度全规模低延迟高吞吐,,,,,,并可基于 NAND SSU 实现超低本钱、超大容量 KV Cache,,,,,,支持长序列应用。。。。。
Atlas 900 A3 SuperPoD 液冷超节点及 Atlas 800 A3 风冷超节点接纳一律架构、全局内存统一编址,,,,,,点对点互联带宽达 784GB/s,,,,,,提供 32 到 384 多种规格,,,,,,是海内唯一成熟规模商用的超节点产品,,,,,,可知足互联网、运营商、金融等行业大模子推理的极致性能需求。。。。。
基于昇腾 A3 64 卡超节点团结大 EP 模式安排,,,,,,在 vLLM 引擎下,,,,,,DeepSeek V4-Flash 模子可实现单卡 Decode 吞吐 2000+TPS,,,,,,性能一连提升;;;;;同时已支持 DeepSeek V4-Pro 推理安排。。。。。
为解决自界说算子开发门槛高、周期长的痛点,,,,,,昇腾 CANN 推出 PyPTO 编程范式:
· 高效算子开发:提供 Python API,,,,,,自动完成流水编排与内存治理,,,,,,DeepSeek V4 新一代模子算子开发周期缩短至天级。。。。。
· 高性能 Kernel 自动天生:针对 Attention、Compressor、mHC 等重大算子自动天生优化 Kernel,,,,,,缩短算法验证到安排周期。。。。。
· PTO ISA 虚拟指令集跨代兼容:统一指令接口,,,,,,实现一套代码多代芯片兼容,,,,,,借助毕昇编译器实现更优融合。。。。。
TileLang-Ascend 针对昇腾平台深度优化,,,,,,提供 AscendC 基础指令和 PTO AS 两种对接条理,,,,,,相关 DeepSeek V4 模子实现已在 TileAI 开源社区宣布。。。。。
现在,,,,,,昇腾 A2、A3 及 950 全系列产品已完成 DeepSeek V4-Flash、DeepSeek V4-Pro 适配。。。。。昇腾将一连以极致算力与开放生态,,,,,,为大模子工业提供高效支持,,,,,,与客户及开发者携手推进 AI 工业昌盛。。。。。
版权声明:本文转载自华为盘算官方公众号,,,,,,仅用于行业资讯交流与手艺分享,,,,,,不代表本公司立。。。。。,不必于任何商业用途。。。。。版权归原作者及原出地方有,,,,,,若有侵权,,,,,,请联系OLE777实时删除。。。。。
原文链接:https://mp.weixin.qq.com/s/i9P0B0FLEBFg2jhOkxSpQg
上一条无问芯穹再获超7亿融资|首发AI生产力公式,,,,,,跻身Token经济枢纽2026.05.07
下一条培育智能原生新业态新模式2026.04.10
_1757660066.png)
4008-770-775