当前位置:首页 > AI科普

什么是检索增强(RAG)?让 AI 先翻书再开口

xinhack3周前 (10-18)AI科普51

什么是检索增强(RAG)?让 AI 先翻书再开口 AI科普

大模型的一个老毛病:记不准

大模型的知识来自训练时的数据,一旦训练完,它的"脑子"就定格了,新发生的事它不知道。更麻烦的是,遇到不熟悉的问题,它有时会自信地编一段看似合理、其实错的答案——这就是常说的幻觉。拿它查公司内部的资料,它更是两眼一抹黑,因为那些内容从没进过它的训练集,它根本没有可凭的依据。这个毛病,单靠把模型做得更大,并不能真正解决。

RAG 是什么:先查资料再回答

RAG,全称检索增强生成,思路很朴素:别让模型凭记忆硬答,先去资料库里搜出相关内容,再让它照着这些资料组织答案。相当于开卷考试——模型不是靠背,而是现查现答,答案后面还能附上出处。这样哪怕模型本身不知道,也能靠检索到的材料给你一个靠谱答复,而不是凭空发挥。对用户来说,最直观的好处是:答案变得可核查,不再是一句来路不明的断言。

它怎么工作:检索+拼接+生成

流程分三步:先把你的文档切成一截截小片段,提前转成可搜索的向量;你提问时,系统先找出最相关的几段;最后把这些片段和你的问句一起交给大模型,让它基于给定材料作答。关键点在于,模型这次"有书可翻",自然不容易胡说。如果资料里没有,它也会更诚实地说"我没找到",而不是硬编一个听起来很像那么回事的答案。整条链路里,检索准不准,决定了答案的下限。

什么时候该用 RAG

它有三类典型场景:一是资料私有或常更新,比如企业手册、产品文档;二是要求答案可溯源,每条结论都能指回原文;三是领域专业、通用模型没掌握。很多客服助手、内部知识库,底层都是 RAG 在撑着。它把"通用聪明"和"专用资料"拼到了一起,让模型既懂语言,又懂你的具体业务。比起重新训练,它便宜、快,还能随时更新资料,因此成了落地最广泛的方案之一。

RAG 不是万能的

检索质量决定了上限:资料没切好、搜不准,模型再强也白搭。它也不能替代模型本身的推理。把它理解为"给 AI 配了个小图书馆",而不是让 AI 变聪明——图书馆再全,也得读者会查。检索和生成任何一环掉链子,结果都会打折。所以上 RAG 之前,先要把文档整理干净、分好块,这往往比换一个更贵的模型更见效,也更省钱。说到底,RAG 解决的是"让 AI 说人话、还说得有据"这件事;它不替代模型,只是给模型配了一本随时能翻的参考书,让答案站得住脚。

相关文章

上下文窗口是什么?为什么 AI 会忘记你说过的话

上下文窗口是什么?为什么 AI 会忘记你说过的话

大模型没有长期记忆,只有一张固定大小的'桌子'。讲清上下文窗口的原理、窗口大小与能力的关系,以及四个实用协作建议。…

什么是多模态?AI 怎么同时看懂文字、图片和声音

什么是多模态?AI 怎么同时看懂文字、图片和声音

文字、图片、声音、视频,在我们眼里是同一种信息,对电脑却曾是三座孤岛。多模态模型正试图把它们打通。本文解释多模态是什么、它如何把不同信息放进同一个理解框架,以及普通人能用它做什么。…

模型量化是什么?一文看懂手机为什么能跑大模型

模型量化是什么?一文看懂手机为什么能跑大模型

同样一个模型,在云端跑得动,塞进手机却卡死,问题常常出在“精度”。量化(Quantization)就是把模型里成千上万的小数“四舍五入”成更小的数,体积和算力需求大幅降下来,效果却几乎不掉。这篇文章用…

监督学习、无监督学习、强化学习,三种学习方式一文分清

监督学习、无监督学习、强化学习,三种学习方式一文分清

一提到“训练 AI”,很多人以为都是同一种学法。其实机器学习主要有三种路子:有人手把手指正的(监督学习)、没人教全靠自己找规律的(无监督学习)、在试错和奖励中摸索的(强化学习)。它们适用场景完全不同。…

迁移学习是什么?让 AI 把在一个领域学的本事用在新地方

迁移学习是什么?让 AI 把在一个领域学的本事用在新地方

人学会骑自行车后,再学骑电动车会快很多——因为平衡感这类“底层能力”是通用的。AI 也有类似本事,叫迁移学习:把模型在任务 A 上练出的基础能力,搬去帮任务 B 上手。它让小数据也能训练出好模型。这篇…

损失函数是什么?模型靠什么知道自己错了多少

损失函数是什么?模型靠什么知道自己错了多少

模型训练的过程,其实就是不断「减小错误」的过程。损失函数就是那把丈量错误的尺子:它把模型的预测和真实答案之间的差距,算成一个具体的数字。本文用考试扣分和温度计的比喻,讲清损失函数怎样指挥训练往正确的方…

预训练是什么?大模型上岗前先读的「万卷书」

预训练是什么?大模型上岗前先读的「万卷书」

我们常说大模型「见多识广」,它的见识来自一个叫预训练的阶段:在正式干活前,先用海量文本自己琢磨语言规律。本文用通识教育和入职培训的比喻,讲清预训练到底是什么,以及它和微调、推理各司何职。读完你会明白大…

正则化是什么?给模型上道「紧箍咒」防它背答案

正则化是什么?给模型上道「紧箍咒」防它背答案

模型在训练集上考满分、一上实战就翻车,多半是「记」而不是「学」。正则化就是给这种死记硬背加一道约束,逼模型抓住更通用的规律。本文用减肥和控制开销的比喻,讲清 L2、Dropout 等手段怎么帮模型「减…