近日,由中科创星参投的清程极智团队系统构建了以赤兔推理引擎、AI Ping评测路由平台、八卦炉智能软件栈为核心的全链路Token解决方案。清程极智围绕大模型推理降本、国产算力生态适配、Token服务质量与性价比三大行业关键痛点,集中推出了多项核心技术突破与规模化落地成果,以技术创新推动中国AI产业从“能用”迈向好用、省钱、自主可控的新阶段。(雷峰网) 清程极智成立于2023年12月,核心团队来自清华大学计算机系高性能计算所,已完成天使轮、PreA、PreA+三轮融资,获得中科创星、中金资本、考拉基金、联想创投、中关村科学城公司等多家国资与明星投资机构加持,是国内专注AI基础设施(AI Infra)的标杆企业,致力于打造一站式全链路Token解决方案。 当前,全球 AI 产业已进入规模化落地的关键阶段,Token 成为 AI 时代的 “水电煤”,是大模型服务与智能应用的核心生产要素。数据显示,2024 年初至 2026 年 3 月,中国 Token 日均调用量激增约1400 倍,规模突破140 万亿。伴随 Agent 智能体、多模态应用快速普及,Token 正从交互用量转向生产用量,直接推动产业对推理效率、部署成本、服务稳定性的要求持续攀升。 在 Token 需求爆发的同时,国产算力与国产模型迎来高速发展,但二者之间的推理环节却长期依赖海外引擎,难以充分释放国产硬件性能;而 Token 服务市场也面临乱、贵、慢、选型难等突出问题,供需错位、成本高企、体验不一,成为制约 AI 技术普惠化、规模化落地的核心瓶颈。 针对大模型部署成本高、国产算力适配不足的痛点,清程极智推出赤兔推理引擎。作为完全自主研发的国产推理引擎,赤兔打破海外技术垄断,构建“国产算力+国产引擎+国产模型”全国产化闭环,针对昇腾、海光、沐曦、摩尔线程等国产芯片的硬件特性深度优化,实现标量向量计算、数据表达、硬件调度、卡间互联的全维度适配,解决国产算力“能用不好用”的难题。 在性能与成本上,赤兔推理引擎实现突破性提升:通过软件方案在不具备FP4/FP8硬件能力的算力设备上支持FP4/FP8低位宽量化,使用FP8量化可降低50%算力门槛,FP4量化可降低75%算力门槛;部署DeepSeek‑V3满血版模型时,仅需1台8卡910B服务器即可替代传
ARTICLE
/
雷锋网
清程极智:Token成为AI时代的 “水电煤”,中国AI产业从能用迈向好用
2026年05月28日 11:40 · 来自 雷锋网