ARTICLE / 极客公园

大模型的中场战事:CoE or MoE ?

2024年08月05日 12:40 · 来自 极客公园

阅读原文 → 收藏

残暴的欢愉,终将以残暴结束。 当盛宴开启之时,没人想到,大模型的淘汰赛,会来的如此之快。 火药味首先表现在创投市场 。PitchBook 最新报告披露,相比 2023 年一季度,全球 2024 年一季度大模型融资额,从 216.9 亿美元增长到了 258.7 亿美元,但涉及的交易数量,却从 1909 笔下滑至 1545 笔——产业格局正迅速向强者收拢。 大厂的价格战,则彻底关上了后来者进入的大门。 5 月 6 日,幻方量化率先打响降价「大战」第一枪,随后将字节、百度、阿里、京东、腾讯、智谱,全部拖下水,轻量级模型每千 tokens,价格内卷「从分到厘」。不到一个月时间里,后来者的感慨就从跟不上,变成了跟不起。 秋风扫落叶式的前后夹击,使得短短两年不到,技术尚未走到尽头,产业侧就完成了从萌芽到江山初定的格局演练。 然而,胜利者同时也被拖入了另一场更漫长的消耗战中。三朵阴云始终判断在大模型行业的头顶挥之不去: 以目前的技术迭代速度,GPU 还够吗?究竟是模型参数的膨胀速度更快,还是账上现金的消耗更快?十项全能、没有幻觉的通用大模型,真存在吗? <span s