ARTICLE / 雷锋网

被遗忘十年的LPU翻红,一门新生意成立了吗?

2026年06月25日 17:45 · 来自 雷锋网

阅读原文 → 收藏

当AI从训练走向推理时代之后,单一通用架构开始触及效率边界。变化由此发生——“只用GPU打天下”的故事难以延续,专业化分工逐渐成为芯片行业的共识。 越来越多企业尝试将不同计算任务拆解给不同类型芯片处理。 谷歌在新一代TPU上推进训推分离;Anthropic押注存内计算架构;SambaNova推出“CPU+GPU+RDU”系统方案;Cerebras则选择以晶圆级芯片挑战传统GPU集群。 其中最具代表性的案例,是被黄仁勋“捧红”的Groq。 随着Groq LPU(Language Processing Unit,语言处理单元)被纳入英伟达Vera Rubin平台,原本被视为“小众路线”的LPU第一次进入主流AI基础设施体系。对于行业而言,这不仅宣告了一种新芯片获得认可,更意味着推理时代开始接受不同芯片处理不同任务的逻辑。 国内市场同样感受到这股风向。围绕数据流架构、SRAM高带宽存储以及其他推理加速方向,各类新方案不断涌现,想要讲出自己那版LPU故事的玩家也接连冒头。(更多技术故事和商业内幕,欢迎添加作者微信Evelynn7778交流) 当AI芯片专业化分工趋势日渐明朗,LPU究竟是一种阶段性热点,还是推理时代长期存在的新工种?而当赛道逐渐变得拥挤,LPU或许是一种成立的需求,但独立LPU公司会是一门成立的生意吗? 被遗忘十年的LPU,为什么突然红了? 用25%的Groq LPU搭配75%的Vera Rubin来应对源源不断的高价值Token生成需求,这是英伟达给出的最新方案。 打法背后,是Agent时代对规则的改写:AI应用不再只是一次性问答,持续推理的工作流正在引发Token洪流;基础设施竞争不断升维,从单芯片性能比拼迈向系统层级的效率优化。 于是,Transformer推理过程中的每一道工序开始被重新丈量和打磨。 最先被看清的是Prefill与Decode——一个更关注算力密度,另一个更依赖响应速度和系统吞吐能力。 但行业很快发现,即使在Decode内部,不同工作负载的最大诉求也不尽相同:Attention(