当前位置:首页 > AI科普

「数据一边倒咋办?聊聊类别不平衡这个坑」

xinhack2天前AI科普21

「数据一边倒咋办?聊聊类别不平衡这个坑」 AI科普

先给结论:数据一边倒,模型最容易学会躺平

做分类任务,最怕训练集里猫有九千张、狗只有一百张。模型一算账,管你给啥图,我闭眼喊猫,准确率就能到九十九。它才不跟你讲道理,哪儿省事往哪儿走。米岸AI 当年带团队调模型就栽过这跟头,报表漂亮,上线就现原形。所以看见高准确率先别乐,得问问数据本身平不平,这坑专坑不看数据分布的人。

为啥准确率会骗人

准确率是猜对的除以总题数。九千张猫全中、一百张狗全错,准确率九十九,看着没毛病,可狗一张都没认出来,这模型有啥用?所以不平衡的数据集上,光看准确率等于自欺。得看召回率、F1 这些分细了的指标,才知道少数类到底认得咋样。要我说,这就跟班里全是及格的,你算平均分看不出有几个不及格一个理,得单拎出来数。

模型偷懒的两种姿势

一种叫多数类偏见,模型把决策边界往少数类那边推,宁错少数不放多数。另一种更隐蔽,它其实学到了猜多类比猜少数更安全,于是对模糊样本一律归到大类。要我说,这跟考试专挑送分题做、难题直接空着一个德行,总分不低,真本事没长。等你拿它去认那一百张狗,才发现它压根没学会,全靠多数类撑场面。

常用的补法:先把数据掰匀

最直觉的是重采样。少数类太少就过采样,复制或合成一些;多数类太多就欠采样,砍掉一部分。两边数量拉近,模型没空偷懒。合成那条路里最有名的叫 SMOTE,思路是拿两个少数类样本生个中间样本,相当于给稀有的那拨补点兵。这招比单纯复制强,因为造出来的是新样本,模型不至于死记硬背那几张图。

不调数据,调损失也行

另一路是从算法下手,给少数类样本加权,它错一次罚得狠,模型就不敢随便牺牲它。这叫类别加权损失。好处是不动数据量,坏处是权重得调,调不好又矫枉过正。两路都能用,实战里常常双管齐下,既重采样又把损失加上,两头堵才稳。不过加权别太猛,否则模型又走向另一个极端,光顾着少数类把多数类搞砸。

常见问题

问:不平衡到啥程度才需要处理?

答:没死规定。一般少数类低于总样本一成,就该上心了;差出一两个数量级,基本必处理,不然模型铁定躺平,报表再好看也是假象。

问:过采样复制会不会过拟合?

答:单纯复制确实容易让模型死记那几张图。所以多用 SMOTE 这类造新样本的法子,或者配合数据增强,别光复读,让它见点新花样。

问:加权会不会让模型太偏向少数类?

答:会,权重给猛了少数类召回上去了、多数类准确率掉下来。得在验证集上慢慢试,找个两头都不太难看的平衡点,别走极端。

问:米岸AI 提这个,普通读者用得上吗?

答:用得上。你拿 AI 做筛选、风控、质检,数据天然就歪,懂这坑能少交不少学费,至少知道高准确率未必真管用。

本文由米岸AI整理。

相关文章

知识蒸馏是什么?大模型怎么把本事传给小模型

知识蒸馏是什么?大模型怎么把本事传给小模型

大模型的本事强,但太重,跑不动在手机上;小模型轻,但没那么聪明。知识蒸馏像“师傅带徒弟”:让大模型一边答题一边把思路教给小模型,小模型不用重头学,也能学到七八成本事。这篇文章用师徒关系讲清蒸馏的原理和…

模型量化是什么?一文看懂手机为什么能跑大模型

模型量化是什么?一文看懂手机为什么能跑大模型

同样一个模型,在云端跑得动,塞进手机却卡死,问题常常出在“精度”。量化(Quantization)就是把模型里成千上万的小数“四舍五入”成更小的数,体积和算力需求大幅降下来,效果却几乎不掉。这篇文章用…

梯度下降是什么?模型靠不断试错找到最优解

梯度下降是什么?模型靠不断试错找到最优解

训练一个 AI 模型,本质是解一道没有标准答案的难题:怎么调那几十亿个参数,让模型的预测最接近真实?梯度下降就是工程师手里最常用的“导航仪”——它不要求一步到位,而是每次朝“让错误变小”的方向挪一小步…

激活函数是什么?为什么 AI 需要「非线性」这道弯

激活函数是什么?为什么 AI 需要「非线性」这道弯

神经网络靠一层层加权求和做判断,但如果只做加减乘除,它永远只能画直线。激活函数就是给网络加上的'非线性开关',让 AI 能拟合曲线、分辨复杂图案。本文用开关和闸口的比喻,讲清它为什么不可或缺,以及选它…

损失函数是什么?模型靠什么知道自己错了多少

损失函数是什么?模型靠什么知道自己错了多少

模型训练的过程,其实就是不断「减小错误」的过程。损失函数就是那把丈量错误的尺子:它把模型的预测和真实答案之间的差距,算成一个具体的数字。本文用考试扣分和温度计的比喻,讲清损失函数怎样指挥训练往正确的方…

生成对抗网络是什么?造假者与鉴别者的猫鼠游戏

生成对抗网络是什么?造假者与鉴别者的猫鼠游戏

大多数模型在「判断」,生成对抗网络(GAN)却另辟蹊径地「创造」——它能凭空画出人脸、生成逼真照片。诀窍是让两个模型互相较劲:一个拼命造假,一个拼命打假。本文用假币与验钞的比喻,讲清这场猫鼠游戏怎么把…

决策树与随机森林:AI 是怎么一层层「分而治之」做判断的

决策树与随机森林:AI 是怎么一层层「分而治之」做判断的

不是所有 AI 都靠神经网络。决策树用一连串「是或否」的问题就把复杂判断拆解清楚,随机森林再把很多棵树凑一起投票。本文用银行放贷和聚会分桌的比喻,讲清这套直观又稳健的经典算法,以及它为什么至今仍被广泛…

批归一化是什么?深度学习训练为什么要先把每层摆正

批归一化是什么?深度学习训练为什么要先把每层摆正

训练神经网络时有个隐蔽麻烦:前面层一变,后面层输入的分布就跟着飘,模型得不断重新适应,学得慢又抖。批归一化的解法是,在每个小批次里把层的输入「摆正」——均值拉到 0、方差归到 1。本文用军训排队和恒温…