作者|Li Yuan 编辑| 郑玄 过去两年,关于 AI 模型的故事,几乎都在围绕两个版本展开:无所不能的云,和充满想象的端。 曾经,一个被广泛描绘的行业蓝图是:随着轻量化模型能力的持续增强,AI 摆脱云端束缚,在每个人的设备上实现永不离线的贴身智能,似乎只是一个时间问题。 然而,喧嚣过后,一个尴尬的现实摆在眼前:不论是近期爆火的 AI 玩具,还是备受瞩目的 AI 眼镜,其核心交互和智能依然牢牢地系于云端。即使是算力更强的手机和 PC,真正实现了离线 AI 能力的,却依然凤毛麟角。 技术演示里,端侧模型看起来无所不能。但最后说好的离线智能,怎么还是离不开网络? 矛盾的一面,是用户对体验的极致渴求:即时响应不能等,隐私数据不想传,断网时刻不失联。而另一面,是端侧设备永远无法回避的「物理天花板」——有限的算力、功耗和内存,像一道无形的墙,残酷地阻隔了绝大多数高性能模型的落地。 更深层的矛盾,则在于商业的引力。对于手握最强模型的巨头而言,云端是彰显技术领导力的标杆,更是利润滚滚而来的收费站。当所有的目光和资源都聚焦于云端时,那个更苦、更累、商业回报更不明朗的端侧,自然成了被忽略的角落。 那么,那些真正致力于推动「离线智能」的少数派,他们到底在做什么?在今年的世界人工智能大会(WAIC)上,一家名为 RockAI 的公司给出了自己的答案。他们正
ARTICLE
/
极客公园
离线智能,什么时候迎来 DeepSeek 时刻?
2025年07月27日 16:35 · 来自 极客公园