7月18日,云天励飞在2026 WAIC公布未来两年多AI推理芯片路线图。公司计划推出DeepVerse100P、DeepVerse100D、DeepVerse100L三款芯片,分别针对AI推理中Prefill、Decode和Decode FFN环节的负载特征进行专用优化。 三款芯片将面向万卡异构集群进行协同设计与部署,通过对不同推理阶段进行解耦,为不同负载配置更加适配的芯片和算力资源,进一步提升系统整体效率,持续降低Token生成成本。 推理负载持续分化,算力优化走向精细化 从负载特征来看,当前大模型推理应用正在形成不同类型:以对话、知识问答为代表的通用AI助手,以复杂推理、编程为代表的深度推理应用,以及以Agentic Coding、多Agent协同为代表的实时智能体系统。 随着AI应用不断深入,单次任务的上下文长度、推理链路复杂度以及实时交互要求持续提高,对推理系统的吞吐、延迟和成本提出了更高要求。对于大规模推理部署而言,峰值算力已难以单独反映系统效率,计算、访存、互联和系统调度等因素,共同影响Token生成效率和成本。 大模型推理不同阶段的计算特征也存在明显差异。Prefill需要集中处理输入上下文,对计算能力要求较高;Decode采用逐Token生成方式,对内存带宽和数据访问效率更加敏感。随着MoE等模型架构发展,Decode阶段内部的Attention与FFN在计算、访存等方面也呈现出不同的资源需求。 针对推理负载的变化,云天励飞计划在未来推出DeepVerse100P、DeepVerse100D和DeepVerse100L三款云端大算力推理芯片。 DeepVerse100P面向百万级上下文Prefill场景打造。在传统混部架构中,长上下文Prefil与Decode共享算力与带宽资源,会造成资源抢占,对Decode生成吞吐造成影响。 DeepV
ARTICLE
/
雷锋网
WAIC 2026 直击:云天励飞发布未来算力蓝图,三款芯片+超节点直指“百亿Token一分钱”
2026年07月18日 22:07 · 来自 雷锋网