OLE777

中文 English
DeepSeek V4正式宣布,,,,,,昇腾超节点系列产品周全支持
2026.04.24

泉源:华为盘算(企业公众号)

2026 年 4 月 24 日,,,,,,DeepSeek V4-Pro 和 DeepSeek V4-Flash 正式宣布并开源,,,,,,模子上下文处置惩罚长度由原有 128K 显著扩展至 1M,,,,,,实现近 10 倍容量提升。 。。。。模子首次增添 KV Cache 滑窗和压缩算法,,,,,,大幅镌汰 Attention 盘算和访存开销,,,,,,并通过架构立异更好地支持 Agent 与 Coding 场景。 。。。。

昇腾一直同步支持 DeepSeek 系列模子,,,,,,本次通过双方芯模手艺细密协同,,,,,,实现昇腾超节点全系列产品支持 DeepSeek V4 系列模子。 。。。。昇腾 950 通过融合 kernel 和多流并行手艺降低盘算开销,,,,,,团结多种量化算法,,,,,,实现高吞吐、低时延的推理安排;;;;;昇腾 A3 超节点系列产品周全适配,,,,,,同时提供基于 A3 超节点的训练参考实现,,,,,,利便用户快速微调。 。。。。

一、昇腾 950 超节点:重新界说长文本推理性能天花板

基于昇腾 950 底层架构三大升级,,,,,,实现极致性能体现:

 · 原生精度加速:周全支持 FP8、MXFP8、MXFP4 等名堂,,,,,,包管精度同时内存占用降低 50%+,,,,,,盘算能力翻倍。 。。。。

 · 希罕访存优化:针对 MoE 模子离散访存特征,,,,,,提升硬件级希罕访存能力,,,,,,解决专家路由带宽瓶颈。 。。。。

 · Vector 与 Cube 共享 Memory:立异存储架构,,,,,,消除大宗片上数据搬运开销,,,,,,显著降低端到端时延。 。。。。

性能实测:

  •  · DeepSeek V4-Pro:8K 输入场景,,,,,,TPOT 约 20ms,,,,,,单卡 Decode 吞吐 4700TPS。 。。。。

  •  · DeepSeek V4-Flash:8K 输入场景,,,,,,TPOT 约 10ms,,,,,,单卡 Decode 吞吐 1600TPS。 。。。。

同时,,,,,,昇腾团结界说超节点架构,,,,,,实现低本钱、高扩展、万卡级集群规模,,,,,,支持 4K–1M 序列长度全规模低延迟高吞吐,,,,,,并可基于 NAND SSU 实现超低本钱、超大容量 KV Cache,,,,,,支持长序列应用。 。。。。

二、昇腾 A3 超节点:单卡吞吐突破 2000+TPS

Atlas 900 A3 SuperPoD 液冷超节点及 Atlas 800 A3 风冷超节点接纳一律架构、全局内存统一编址,,,,,,点对点互联带宽达 784GB/s,,,,,,提供 32 到 384 多种规格,,,,,,是海内唯一成熟规模商用的超节点产品,,,,,,可知足互联网、运营商、金融等行业大模子推理的极致性能需求。 。。。。

基于昇腾 A3 64 卡超节点团结大 EP 模式安排,,,,,,在 vLLM 引擎下,,,,,,DeepSeek V4-Flash 模子可实现单卡 Decode 吞吐 2000+TPS,,,,,,性能一连提升;;;;;同时已支持 DeepSeek V4-Pro 推理安排。 。。。。

三、PyPTO 编程新范式与 TileLang 计划同步开源

为解决自界说算子开发门槛高、周期长的痛点,,,,,,昇腾 CANN 推出 PyPTO 编程范式:

  •  · 高效算子开发:提供 Python API,,,,,,自动完成流水编排与内存治理,,,,,,DeepSeek V4 新一代模子算子开发周期缩短至天级。 。。。。

  •  · 高性能 Kernel 自动天生:针对 Attention、Compressor、mHC 等重大算子自动天生优化 Kernel,,,,,,缩短算法验证到安排周期。 。。。。

  •  · PTO ISA 虚拟指令集跨代兼容:统一指令接口,,,,,,实现一套代码多代芯片兼容,,,,,,借助毕昇编译器实现更优融合。 。。。。

TileLang-Ascend 针对昇腾平台深度优化,,,,,,提供 AscendC 基础指令和 PTO AS 两种对接条理,,,,,,相关 DeepSeek V4 模子实现已在 TileAI 开源社区宣布。 。。。。

四、全系列产品适配,,,,,,开放生态加速 AI 落地

现在,,,,,,昇腾 A2、A3 及 950 全系列产品已完成 DeepSeek V4-Flash、DeepSeek V4-Pro 适配。 。。。。昇腾将一连以极致算力与开放生态,,,,,,为大模子工业提供高效支持,,,,,,与客户及开发者携手推进 AI 工业昌盛。 。。。。



版权声明:本文转载自华为盘算官方公众号,,,,,,仅用于行业资讯交流与手艺分享,,,,,,不代表本公司立。 。。。。,不必于任何商业用途。 。。。。版权归原作者及原出地方有,,,,,,若有侵权,,,,,,请联系OLE777实时删除。 。。。。

原文链接:https://mp.weixin.qq.com/s/i9P0B0FLEBFg2jhOkxSpQg

OLE777官方网站 - 豪利OLE(中国)

OLE777官方网站 - 豪利OLE(中国)
在线咨询

4008-770-775

OLE777官方网站 - 豪利OLE(中国)
电话咨询
OLE777官方网站 - 豪利OLE(中国) TOP
【网站地图】【sitemap】