模型剪枝是啥？AI 大模型是怎么给自己“减肥”的

模型剪枝（Pruning）说白了就是给 AI “减肥”。一个训练好的大模型，里头成千上万亿个参数，真管用的可能就一小半，剩下不少是平时基本不吭声的“闲人”。模型剪枝干的事，就是把这批闲人请走，模型体积缩了、跑起来快了，效果还不怎么掉。这活儿在手机、摄像头这些带不动大模型的设备上，简直是救命稻草。

模型里咋就有这么多“闲人”

你琢磨琢磨，训练的时候模型为了不漏掉任何特征，恨不得把每个神经元都留着。结果就是一大盘棋里，好多连接的权重小到几乎为零，等于摆设。好比一个班组二十号人，真天天干活的就五六个，剩下那些你裁了，活儿照样转。模型剪枝要的就是这个效果——把接近零的那些连接咔嚓掉。

剪法分两种，粗暴的和讲理的

剪枝也分门派。一种叫“非结构化”，挨个神经元看，谁没用砍谁，结果是模型里满是零散的洞，省了算力但硬件不一定买账，因为零零散散不好加速。另一种叫“结构化”，直接成片砍——整根通道、整层不要，虽然狠了点，但剩下的规整，芯片跑得动。要我说，落地还是后者更实在。

老哥见过“剪秃了”的惨案

这事儿我当年真见过翻车的。有个项目图省事，一把剪掉七成参数，指标当场塌了，模型连训练集都认不全。为啥？剪太狠，把真管用的也误伤了。后来才懂，剪完得重新“回炉”微调一阵，让剩下的神经元重新适应，这叫剪后重训。减肥可以，但不能把骨头也减了。

剪完不是万事大吉

以为咔嚓完就完事？没那么简单。剪出来的稀疏模型，得有配套的推理框架认它、加速它，不然省了参数却没省时间，等于白剪。好在现在不少工具链都支持，端侧跑大模型才成了可能。米岸AI 之前聊过的端侧 AI，背后常就有模型剪枝一份功。

和普通人有啥关系

关系大了。你手机相册能本地识别人脸、输入法能本地预测下一个词，很多时候就是模型被剪小了才塞得进那点内存。没这招，这些功能要么卡成幻灯片，要么非得把你的数据传到云上，又慢又让人犯嘀咕。所以模型剪枝这手艺，是藏在咱兜里的。

常见问题

问：模型剪枝和模型量化是一回事吗？

答：不是一家，但常搭伙干。量化是把数字存得“粗糙”点（比如用更少的位数），模型剪枝是直接删参数。一个让数变小，一个让数变少，目标都是瘦身，经常一起上。

问：剪完模型会不会变傻？

答：剪得讲究，基本看不出来；剪狠了真会掉链子。关键在剪完重训和拿捏比例，不是越狠越好。老话讲，过犹不及，模型也一样。

问：我的手机 APP 用到模型剪枝了吗？

答：但凡有“本地就能跑、不联网也成”的 AI 功能，背后多半动过模型剪枝或量化的手脚。不然那点内存，装不下原版的大块头。

问：普通用户能自己给模型剪枝吗？

答：得会点代码和框架，不是点几下的事。但网上开源工具不少，想折腾的能玩；图省事的话，直接用厂商剪好的现成模型最稳妥。

（本文由米岸AI整理）