当前位置:首页 > AI科普

喂给 AI 的料得先洗洗:聊聊特征工程这步不能省的活儿

xinhack1周前 (10-30)AI科普19

喂给 AI 的料得先洗洗:聊聊特征工程这步不能省的活儿 AI科普

先泼冷水:模型再牛也救不了脏数据

说白了,特征工程就是把原始数据收拾成模型好消化的样子。你品品,同样是「用户消费」,原始表里有的是金额、有的是文字、有的是空着——直接喂进去模型当场懵。工程师得先把缺失的补上、把单位统一、把类别变成数字。业内老话:数据和特征定了上限,模型只是在逼近它。咱做业务复盘也是一个理,料不对,再漂亮的分析也歪。好多新手把时间全花调模型,却懒得洗数据,结果怎么调都上不去,根子就在这,绕都绕不开。

清洗:先治病,再谈养生

第一步往往是清洗:缺值填不填、怎么填(平均数?同类中位?),异常值(比如有人年龄写 999)砍不砍,重复行删不删。你品品,这像收菜先挑烂叶。别小看这步,很多模型翻车不是算法差,是数据里藏了几个离谱值把整体带偏。咱不是大厂,但脏数据这关谁都逃不掉。还有个隐蔽坑:测试集混进了训练集,成绩虚高,上线原形毕露,清洗时切分也得干净,不然自己骗自己。

编码:把文字变成模型认得的数字

模型只认数,可现实满地是文字——颜色红黄蓝、城市北上广。得把它们翻成数字:简单的用零一二标(有序的),多的用独热(红等于零一零、黄等于零一零)。你品品,相当于给每个类别发个工牌号。弄错了(比如把红黄蓝当一二三,模型会以为红到蓝有大小关系)模型就学出歪理。细节里全是坑。还有种按类别均值替数字的招,好用但容易过拟合,得加噪声或交叉验证才稳,不能裸用。

归一化:别让一个大数盖了一切

还有个常踩的雷:不同特征量纲差太大。比如「收入」几万、「年龄」几十,不处理模型光盯着收入跑。归一化(缩到零到一或调成均值为零)就是让大伙儿站同一起跑线。比喻一下:比身高体重,不统一单位谁都看不出谁壮。咱调参时这步省了,训练十有八九慢又飘。像距离类算法对量纲尤其敏感,不归一化基本废了一半功,这步看着小,实则救命。

构造特征:老手的杀手锏

高手不止洗数据,还造数据——从现有字段里抠出新信号。比如有下单时间和现在,算出「间隔天数」;有省市,映射出「是否一线城市」。这叫特征构造,往往比换模型提分更猛。你品品,同样一堆原料,大厨能变出花儿。咱做用户分层、风控,多在这层下功夫。业界有句话:上了深度学习才少依赖特征工程,但表格类问题里,人工构造特征至今仍是提分主力,老法子照样香。

对咱们有啥用?别迷信自动建模

看懂特征工程,你至少有数:一是听到自动机器学习也别全信,底层清洗编码偷不得懒;二是自己搞表格预测,先把数据收拾干净再谈模型;三是验收别人交付,多问一句特征怎么处理的,显专业也防坑。一句话:好模型是洗出来的,不止训出来的。咱干活儿,料先备齐,后头才顺,这道理放哪儿都通。

最后再啰嗦一句:特征工程不是一次性的,数据变了、业务换了,特征也得跟着迭代。别指望训一次就一劳永逸。咱做长期项目,把这层当日常维护,模型才不容易悄悄退化。这活儿看着不起眼,却是数据和模型之间那座最实在的桥,谁也绕不过去。

相关文章

什么是多模态?AI 怎么同时看懂文字、图片和声音

什么是多模态?AI 怎么同时看懂文字、图片和声音

文字、图片、声音、视频,在我们眼里是同一种信息,对电脑却曾是三座孤岛。多模态模型正试图把它们打通。本文解释多模态是什么、它如何把不同信息放进同一个理解框架,以及普通人能用它做什么。…

嵌入到底是什么?一文看懂文字变成坐标的原理

嵌入到底是什么?一文看懂文字变成坐标的原理

你会说“苹果”和“香蕉”很接近、“苹果”和“坦克”很远,但计算机只认 0 和 1。嵌入(Embedding)就是把每个词变成一长串数字坐标,让意思相近的词在坐标系里也挨得近。这篇文章用“地图”和“图书…

数据标注是什么?AI 背后的“人工”功课由谁打标

数据标注是什么?AI 背后的“人工”功课由谁打标

我们总说 AI 靠数据训练,却很少问:那些训练用的“标准答案”是谁写的?很大一部分来自数据标注——真人一条条给图片打框、给文本分类、给语音转写。没有这层笨功夫,很多模型根本学不会。这篇文章用“给老师批…

反向传播是什么?神经网络的错误怎么一层层传回去

反向传播是什么?神经网络的错误怎么一层层传回去

模型做错题,错的不只是最后一层。反向传播就是把「总错误」沿着网络一层层往回分,算出每个权重该为这次失误负多少责。本文用传话出错追责和工厂返工的比喻,讲清这个让深度学习得以训练的核心算法,以及它为什么能…

循环神经网络是什么?让 AI 把「前文」记在心上

循环神经网络是什么?让 AI 把「前文」记在心上

普通神经网络看一句话,是一个字一个字孤立地看,看完上句就忘了下句。循环神经网络(RNN)给模型加了「记忆」,让信息能顺着顺序流动。本文用带笔记本的阅卷人和接力传话的比喻,讲清 RNN 怎么处理时间序列…

决策树与随机森林:AI 是怎么一层层「分而治之」做判断的

决策树与随机森林:AI 是怎么一层层「分而治之」做判断的

不是所有 AI 都靠神经网络。决策树用一连串「是或否」的问题就把复杂判断拆解清楚,随机森林再把很多棵树凑一起投票。本文用银行放贷和聚会分桌的比喻,讲清这套直观又稳健的经典算法,以及它为什么至今仍被广泛…

残差连接是什么?神经网络为什么能堆到上百层还不崩

残差连接是什么?神经网络为什么能堆到上百层还不崩

把神经网络层数堆深,本想学得更精细,可早年一加深就反而变差——不是算力不够,是信息传不下去。残差连接给了个极简解法:给数据开一条「直通车」,让它跳过几层直接往后传。本文用走楼梯和坐电梯的比喻,讲清这招…

批归一化是什么?深度学习训练为什么要先把每层摆正

批归一化是什么?深度学习训练为什么要先把每层摆正

训练神经网络时有个隐蔽麻烦:前面层一变,后面层输入的分布就跟着飘,模型得不断重新适应,学得慢又抖。批归一化的解法是,在每个小批次里把层的输入「摆正」——均值拉到 0、方差归到 1。本文用军训排队和恒温…