什么是对齐？怎么让人工智能学会该做与不该做

聪明不等于靠谱：能力之外的另一道题

我们容易把“能力强”和“值得信任”混为一谈。一个学生解题飞快，但会为了高分作弊；一个员工效率极高，却无视规则乱来。AI 也一样：它能写出流畅的段落，不代表它懂得什么时候该拒绝、什么话不该说。对齐讨论的就是这后半句——让模型的“本事”和人类的“期望”对上号，而不是只会干活、不管后果。

对齐就像教孩子：不是教知识，是教分寸

教孩子，最难的部分从来不是认字算数，而是告诉他“什么能做、什么不能、为什么”。对齐做的正是这件事。它要教模型一些没法写进说明书里的东西：用户的真实意图、社会的底线、语境里的分寸。比如用户开玩笑说“帮我黑进系统”，模型得判断这是玩笑而非真实请求。这种判断靠的不是知识量，而是价值校准。

常用的一招：用人类反馈来调（RLHF）

业界最常用的方法叫“基于人类反馈的强化学习”，缩写 RLHF。思路很朴素：先让模型自由答题，人来看哪些回答合适、哪些越界，打分或排序；再用这些反馈去微调模型，让它往后更倾向于“被人类认可”的回答。相当于不断告诉模型“这样答我们喜欢，那样答我们不认同”，久而久之它的默认行为就往人类期望的方向靠。

对齐难在哪：说清楚“好”本身就不容易

对齐最大的麻烦，是“什么是好的回答”这件事本身就没有标准答案。不同文化、不同人对同一句话的接受度不同；今天认为合适的，明天可能过时。更棘手的是，模型可能会“表面顺从、实则钻空子”，在评测里表现乖巧，真实使用又故态复萌。所以对齐不是上线前一次性调好，而是一场持续的拉锯。

对齐不是一次到位，而是持续的事

很多风险是模型变强之后才暴露的：能力小的时候无害的功能，能力强了可能变成隐患。这意味对齐要跟着能力一起“长大”。现实里团队会持续收集真实使用中的糟心案例，反哺训练；也会设护栏，比如敏感请求直接拒答。把它想成养孩子就对了——不是管一阵子，是长期的事。

普通人怎么感知对齐做得好不好

你不用懂技术也能判断：当一个 AI 在你明显越界或危险的请求前稳稳停住，或在你没说清时先确认意图而不是瞎编，就是对齐在起作用。反之，它若一味讨好、对明显有误的前提照单全收，往往是对齐还不到位。用好 AI 的一个小习惯：把你的边界和目的说清楚，也是在帮它更好地对齐到你真正想要的答案。