东南大学耿新团队：模型不是不会做，而是被「挤掉了能力」丨CVPR 2026

你可能遇到过这样一种情况，一个模型原本只做一件事的时候表现很好，但一旦不断往里面加新任务，它反而开始变差了。不是彻底失效，而是变得不稳定，有些能力开始下降，有些结果开始波动。问题不在于模型不会，而在于它原本会的东西，被后来加入的任务“挤掉了一部分”。 这背后其实有一个很少被说清楚的问题。模型的能力并不是一块一块独立放进去的，而是共享同一套内部表示空间。简单理解，就是所有任务都在“用同一块地方存信息”。 当任务变多时，它们不是并排存在，而是在争这块空间里最重要的那些位置。谁占得多，谁就更稳定；谁被挤掉，谁的性能就下降。这就是为什么，多任务融合经常不是越多越强，而是越多越乱。 现实中，这种问题其实非常普遍。比如一个持续迭代的系统，不断往里加新能力，每一次看起来只是“多做了一件事”，但实际上是在重新分配内部的表示空间。如果没有好的机制，新的能力往往会影响旧的能力，最后系统变成一个需要不断修补的状态，而不是自然扩展。 在这样的背景下，来自东南大学的耿新团队提出了论文《Model Merging in the Essential Subspace》。他们没有再去做更复杂的参数融合，而是换了一个更关键的问题来思考，也就是模型里的“重要信息到底在哪里”。 近年来，耿新团队提出的“学习基因”思想（即在多任务之间共享核心的关键模型参数）为这一问题提供新的解决方案。研究团队发现，模型的有效能力其实并不是均匀分布在所有参数里，而是集中在少数几个关键方向上，这些方向才是真正决定任务表现的部分。 一旦这样理解，问题就变清楚了。多任务融合失败，不是因为参数没合好，而是因为这些关键方向发生了重叠和冲突。于是，这项研究做的事情就变成两步，一步是把不同任务的重要方向尽量分开，避免它们互相挤占；另一步是让更重要的信息被保留下来，而不重要的部分被压下去。这样一来，不同任务就有可能在同一个模型里稳定共存。 从这个角度看，这篇工作真正改变的，不只是方法本身，而是看问题的方式。它把模型融合从简单的参数操作，变成了一个关于信息如何分配、如何共存的问题，也让多任务系统不再只是不断叠加能力，而开始有可能真正“长”出更多能力，而不互相干扰。 <img src="