ARTICLE / 雷锋网

万卡集群利用率不足20%,TaaS平台如何破解算力「空转」难题?

2026年03月30日 10:46 · 来自 雷锋网

阅读原文 → 收藏

当AI产业从模型能力竞争逐步转向规模化应用竞争,围绕“Token推理效率”进行系统性优化成为行业的核心命题。 “随着智能体、AI Coding等应用的爆发式增长, Token消耗量呈百倍、千倍级跃升,2026年已成为名副其实的‘Token爆发元年’。 AI产业的核心关注焦点,正从模型参数规模、模型可用性全面转向稳定、低成本、高质量交付的Token产能。”郑纬民院士表示。 但与此同时,国内算力利用率正深陷结构性困境。 首先,资源配比严重失衡,Token生成过度绑定GPU, 高端内存、集群SSD、IB互联等昂贵闲置资源利用率不足10%,整机综合利用率不及20% ,造成巨额智算成本空耗。 软硬协同样存在短板,硬件算力持续迭代,但软件优化与分布式并行组合稳定性不足, 超80%理论算力被浪费,粗放调度又隐形损耗超50%算力。 面对大量行业痛点,雷峰网获悉,3月27日2026中关村论坛期间,趋境科技发布全新一代AI推理平台——趋境ATaaS高效能AI Token生产服务平台(Approaching.AI Token as a Service),为破解算力投入与Token产出失衡难题提供了系统性解决方案。 这一产品落地,也折射出AI基础设施产业的演进趋势:行业竞争不再单纯比拼算力规模, 而是转向综合衡量Token生产核心指标 ,涵盖首包响应时延(TTFT)、Token吞吐效率(TPS)与全域资源利用率等关键维度。 那么,趋境ATaaS通过哪些底层技术优化,破解行业算力利用的结构性矛盾?又将如何通过生态共建,系统性打通产业割裂痛点? <span sty