ARTICLE / 极客公园

端侧 AI 新篇章!商汤科技发布「速度最快」的端侧模型

2024年04月25日 15:21 · 来自 极客公园

阅读原文 → 收藏

>p style="text-align: left;"<>span style="font-weight: bold;"<作者 | Li Yuan>/span<&nbsp;>/p<>p style="text-align: left;"<>span style="font-weight: bold;"<编辑 | 郑玄>/span<>/p<>p<&nbsp;>/p<>p style="text-align: left;"<设计行程、生成文案、做总结、智能扩图,端侧模型竟然能做到这些了?而且这么快?>/p<>p style="text-align: left;"<4 月 23 日,商汤发布了日日新 5.0 大模型体系,其中,商量端侧模型 SenseChat-Lite 成为了此次发布的亮点,不但全面领先所有开源 2B 的同级别模型,并在测评上部分超越 Llama-2 7B 模型的效果。>/p<>p style="text-align: left;"<自去年以来,端侧大模型一直是消费电子行业和人工智能行业共同关注的热点。>/p<>p style="text-align: left;"<端侧大模型,是运行在设备端的大模型,通常比我们熟悉的 GPT 等大模型参数量更小,因此可以使用端侧算力直接运行。端侧 AI 有着在任何网络条件下都可以生成回答、隐私不必离开设备、且无需云端算力因此成本更低等种种优势。>/p<>p style="text-align: left;"<更强的端侧 AI 能力,意味着原本做不到的用户场景将被进一步打开:工作文件也可以直接用手机大模型进行处理,无需担心机密外泄;没有网的飞机上也可以和外国人流畅聊天;不想给孩子的手机联网,但也可以让孩子能够在不联网的情况下学习知识,听故事。>/p<>p style="text