首个产业级2Bit量化新突破，腾讯混元推出0.3B端侧模型

2月10日，腾讯混元推出面向消费级硬件场景的“极小”模型HY-1.8B-2Bit。该模型基于1.8B参数的小尺寸模型，通过2Bit量化技术，等效参数量约为0.3B，实际存储占用仅约600MB，比常用的一些手机应用还小，实现了端侧部署的新突破。 该模型基于混元团队首创的产业级2Bit端侧量化方案，通过对HY-1.8B-Instruct模型进行2比特量化感知训练（QAT）产出，模型大小减少至原始精度模型的1/6，同时在真实端侧设备上生成速度提升2-3倍，可大幅提升使用体验。能力上，模型还保留了原版的思维链，可以为不同复杂度的任务提供相应深度的推理过程。这是业界首个实现2bit产业级量化的端侧模型实践。 左图为HY-1.8B原始精度模型，右图为HY-1.8B-2Bit模型，量化后的模型速度明显更快 随着大语言模型普及，如何将模型在比如手机、耳机或者智能家居设备应用，成为业界难题，尤其不少应用对模型的离线部署、私密性等都有更高的需求，这就需要更多能够在端侧运行的又小又强的模型。端侧部署的展开，本质上是一条在“小而精，快而准”的艰难探索之路，我们既需要模型足够聪明，能应对千变万化的真实需求，又必须将它约束在极其有限的硬件资源内部署并快速推理，这就好像在给