当前位置:首页 > 行业观察

端侧大模型撞线前夜:能跑进手机的AI不再只是概念

端侧大模型撞线前夜:能跑进手机的AI不再只是概念 行业观察

这波端侧智能,到底撞的是哪条线

要我说啊,端侧大模型这词儿喊了不是一年两年了,早些年大伙儿一听“AI跑在手机上”就乐,乐完该干嘛干嘛。这回不太一样:面壁智能首席科学家姚远在11月5号分享会上直接扔了句“撞线前夜”,团队已把35B的MoE模型塞进手机跑起来,不是实验室Demo,是能掏出来给人看的活物。

米岸AI翻了下最近半个月的动静,发现信号成串来:芯片量产了、模型压下去了、整机开卖了,端侧大模型才算从“讲道理”变成“看实物”。前几年“我的冰箱也能AI”的嗓子眼儿话,这回先咽回去。

芯片先动:存算一体把功耗摁住了

端侧最大的拦路虎从来不是“能不能算”,是“算的时候别把电池吸干了”。后摩智能的M50芯片走的是存算一体路子,单芯片160 TOPS算力、典型功耗才10瓦,能效比干到16 TOPS/W。更硬的是交付——M50量产不到一年就拿下150多个产品定点,覆盖AI PC、移动终端、机器人和边缘服务器四个方向。对芯片厂来说,“定点”比发布会实在,它意味着客户真把你写进BOM清单了。

高通也没闲着。11月3号高通AI Hub中国版正式对国内开发者开放,搬来230多个预优化模型,从模型探索到部署全链路打通。平台加模组这套打法,摆明了是要把端侧AI的开发门槛往下拽。

模型侧:小参数也能干正经活

模型这边玩的是“瘦身”。面壁和清华的“密度定律”说,开源大模型能力密度约每三个半月翻一番——人话版:达到同样智能,所需参数正指数级往下掉。MiniCPM5-1B这类十亿级小模型,四比特量化后权重才半GB,手机浏览器直接跑。蒸馏、量化、剪枝三板斧一叠,小模型在某些活儿上已不虚大哥。

这不扯犊子。一个2亿参数的基因组模型干翻体量两百倍的对手,2026年屡见不鲜。参数“军备竞赛”的逻辑,正被“单位功耗产出多少智能”替代。

整机开卖,才是真信号

光有芯片和模型还不够,得有敢标价的整机。联想那台AI主机P7,掌心大小、300克重,塞了M50芯片,最高本地跑125B大模型,充电宝就能供着,定位“Agent时代的Token自由终端”。长城笔记本、绿联家庭Agent中枢也跟着用上了。当厂子真把端侧Agent算力做成量产货往外卖,市场空间才算被确认,不是PPT里的饼。

斑马智能司罗在11月5号乌镇也补了句:智舱端模型的价值在把硬件本事榨出来,高频、弱网、隐私敏感的活儿优先车端干,复杂推理交给云端,俩配合着来。

别上头:三道坎还横在那

话又说回来,咱这老程序员见过的“马上颠覆”多了去了,最后多半是“马上”了半天。端侧大模型眼下还卡三道:内存涨价卡着成本,模型压缩过头保真度掉,还有最要命的——到底哪些活儿非得在端上干、用户愿不愿意为它多掏钱。端和云不是二选一,是看任务、看成本、看安全要求把算力搁最合适的地方。这道理谁都懂,落地全是坑。

所以结论:端侧大模型这回真过了“能不能”那关,但离“随手用、人人用”还歇着一截。唱衰的别急,高潮的也别急,看戏最稳。

常见问题

问:端侧大模型和云端大模型,普通人该关心啥区别?

答:最直观就三条——断网能用、隐私不出设备、不按调用次数花钱。出差路上、客户现场不让联网、工资表这种敏感东西,端侧跑着踏实,云端再强没网也是零。

问:是不是以后不用买算力、全本地跑了?

答:想多了。端侧适合高频轻活和隐私活,复杂推理、知识更新还得靠云端。米岸AI看这事儿得是“端云配合”,不是谁替谁。谁跟你说“以后全本地、云死了”,基本是卖芯片的台词。

问:现在值得换带端侧AI的手机或电脑不?

答:不急着为这个单独掏钱。现有设备先凑合用,等真有你天天离不了的端侧功能再说。这玩意儿跟5G刚出那会儿一个德行,先建设施,应用慢慢补。

相关文章

人形机器人进厂常态化:从试点演示到真实产线的分水岭

人形机器人进厂常态化:从试点演示到真实产线的分水岭

15 台人形机器人在汽车零部件产线连续干活,意义不在数量,而在“常态化”三个字。这篇结合 10 月 17 日证券日报的报道,讲清楚从试点演示到常态运行的门槛在哪,以及这笔商业账该怎么算。不预测行业规模…

行业智能体开始交成绩单,但很多会进“试点坟场”

行业智能体开始交成绩单,但很多会进“试点坟场”

电商、钢铁行业的智能体已经拿出可量化的成绩,但另一份预测说四成项目会在两年内被砍。这篇把“跑通”和“跑死”之间的差别讲清楚,重点落在治理前提,不夸大、不荐股、不预测规模与个股,只给可执行的、可落地的判…

算力服务化拐点:从卖服务器到卖词元,一笔跨境合同透露的信号

算力服务化拐点:从卖服务器到卖词元,一笔跨境合同透露的信号

10 月 18 日晚,润建股份子公司签下一笔 2 亿美元的 AI 词元跨境销售服务合同:算力部署在境内南宁智算中心,境外客户通过 API 跨境调用,还设了年度保底条款。买的不再是机器,而是按用量结算的…

推理算力首超训练:HBM 与存储成最紧绷环节

推理算力首超训练:HBM 与存储成最紧绷环节

长期围绕 AI 基建的讨论都盯着训练芯片,但 10 月 20 日新浪财经援引 SEMI 中国判断:2026 年全球 AI 基础设施支出约 4500 亿美元,推理算力占比首次超过 70%,存储正取代逻辑…

大厂砍第三方 AI 工具预算:自研替代的苗头开始显现

大厂砍第三方 AI 工具预算:自研替代的苗头开始显现

10 月上旬媒体报道,微软把对 Anthropic Claude 的内部年支出砍掉超三分之一、转推 GitHub Copilot;Meta 把 Claude Code 用户从约 6 万减到 3 万、转…

小模型与垂直模型的价值重估:不是所有任务都需要千亿通用大模型

小模型与垂直模型的价值重估:不是所有任务都需要千亿通用大模型

过去一年行业叙事被更大模型主导,但 10 月 20 日 Mistral 发布参数最小仅 500 万的时间序列模型 Timestral,把重心放到具体垂直赛道。这篇讲清为什么不是所有任务都需要千亿通用大…

企业 AI 治理从口号到岗位:AI 治理官与审计成刚需

企业 AI 治理从口号到岗位:AI 治理官与审计成刚需

当各部门都在悄悄用 AI、却没人说得清公司到底跑了多少个模型,治理就从 PPT 走到了工位。这篇结合 2026 年企业设立 AI 治理岗的公开案例与欧盟 AI 法案的硬性节点,说明为什么有人负责 AI…

DeepSeek 千亿融资信号:国产大模型进了重工业阶段

DeepSeek 千亿融资信号:国产大模型进了重工业阶段

DeepSeek 据报完成约千亿人民币新一轮融资,股东名单读起来像一份供应链名册。本文从产业资本结构、资金去向和行业格局三个角度,判断国产大模型正在进入重工业式竞争阶段,并划清已确认事实与未官宣揣测的…