英伟达放出4GB端侧模型Bolt E4B：手机本地跑语音助手
一、4GB 是个什么概念
据 explainx.ai、Hugging Face 10 月 23 日消息，英伟达发布 Nemotron 3.5 Bolt E4B，基于 Google Gemma 4 E4B-it 后训练，总参数约 8B、有效约 4B，4 位量化后大约 4GB 内存就能跑。翻译成人话：你手机或笔记本不用上云，本地就能养一个能对话、能办事的小模型。门槛低到这个程度，端侧真的从「演示」走向「日常可用」了。对普通设备来说，4GB 意味着不用专门升级硬件，现有机器就能跑，这才叫真正下沉。
二、它香在哪
支持 64K 上下文、对话模式，还能设「思考预算」。在 Brevity Benchmark 上拿到 82.52 分，比原版 Gemma 4 E4B-it 的 79.99、Qwen3.5 4B 的 75.35 都高。最关键的是许可：走的是允许商用的 OpenMDW-1.1。对企业来说，能本地跑、还能商用，这颗模型比很多「只能玩」的开源小模型实在——你真能把它塞进产品里卖，而不只是自己折腾。商用许可清晰，是它和一大堆「仅研究」模型最大的区别。
三、英伟达在端侧布的什么局
同一天英伟达还有个 Bolt 74B-A9B 的 24GB 版本，定位本地 PC 智能体。俩模型一搭配，就从「数据中心」补到了「桌面和边缘」，把三级部署谱系凑齐了。看得出英伟达不只想卖训练卡，端侧推理这块它也要占坑——毕竟模型越往下沉，推理芯片的盘子越大，谁占住端侧，谁就握住下一波入口。从云到边到端，它想把每一层都插上自己的旗。
四、适合谁用
如果你是做本地语音助手、游戏 NPC、机器人，或者单纯不想把数据传上云，Bolt E4B 值得一试。4GB 意味着很多现有设备直接能跑，不用专门买卡。当然，它毕竟是小模型，复杂长程任务别指望它一步到位，当「本地轻量副驾」最现实——比如离线语音指令、简单问答、本地文档摘要这类活儿它完全扛得住。把重活留给云端，轻活交给它，分工最舒服。
五、端侧趋势的小结
把讯飞 X2.6-4B、英伟达 Bolt E4B 这些放一起看，方向很清楚：4GB 到 24GB 内存就能跑的智能体模型，正把复杂任务从云端往手机、PC、机器人上搬。瓶颈已经从「能不能跑」变成「内存带宽和延迟」。对咱做应用的，本地化、隐私友好会是越来越值钱的两个标签，尤其在做涉及敏感数据的场景时，本地跑比上云更容易过合规那道关。
六、选型上的小提醒
别看它小就轻视。端侧模型的核心卖点从来不是「最聪明」，而是「够用、便宜、隐私好、不掉线」。评估它时，别拿它和云端旗舰比智商，那不公平；该比的是：在你的目标设备上跑得动吗、延迟你能接受吗、商用的 license 清不清楚。把这几项问清楚，Bolt E4B 会不会进你的技术栈，答案自然就出来了。记住，端侧要的是「刚好够用」，不是「越大越好」。
