清华教授翟季冬：Benchmark正在「失效」，智能路由终结大模型选型乱象

作者 | 赵之齐 编辑 | 包永刚 北京一月的初雪落下前，我们在清华见到了翟季冬教授。他手持保温杯，说话很利落，即便一边思考一边叙述，言辞间也几乎没有停顿、没有模糊地带。 这位曾带队拿下15次世界超算冠军的清华计算机系长聘教授，此刻正在拆解一个行业怪象： 为什么在大模型参数狂飙、算力价格下探的当下，用户的AI落地负担却越来越重？ 他指出，如今Benchmark（基准测试）上的高分，在比对用户真实需求时不一定管用，有时，同个模型在不同MaaS平台上跑出来的效果可能差异巨大，因为部分服务商为了降低成本，会对模型进行“阉割级”量化。而面对眼花缭乱的MaaS供应商，用户要在性能、价格与稳定性之间做取舍，往往光调研一轮市场报价，就已耗尽精力。 “把选型的主动权完全交给用户，其实是很大的挑战” ， 翟季冬直言。这种“选择悖论”不仅折磨着开发者，更在吞噬企业的利润——对于企业来说， 降本增效的核心可能并非追求最顶尖的模型，而是如何调度能力恰当的模型，让昂贵的大模型处理复杂指令，让轻量的小模型应付日常任务。 洞察到这一痛点后，由翟季冬的几位毕业学生发起的AI Infra厂商——清程极智，开发出智能路由产品AI Ping（AI 评），希望成为算力界的“大众点评”。 他们将分散的性能数据系统性整理，并收集用户的使用习惯，公开不同模型与供应商的测评数据，并给用户推荐合适的、高性价比方案。翟季冬认为，这种产品形态， 有助于撬动算力行业的马太效应——他相信，当数据越集中，模型的选择就越精准；选择越精准，用户需要付出的成本就越低。 翟季冬 </