对齐

让模型行为符合人类意图与使用规范的一整套训练和约束手段，覆盖有用、诚实、无害三个方向。

它决定了模型在普通任务上敢不敢直说、在敏感问题上会不会敷衍，理解它才能大致预期模型会在哪里收着、为什么收着。

像入职培训加上日常督导：上岗前先教规矩，运行时还得有人复核，而规矩本身也会随争议不断修订。

模型被训练成对不确定的事实先说不确定、对可能造成伤害的请求给出安全替代，这就是日常使用中感受到的那种「分寸感」；但规则过严时，它也会拒答其实无害的问题。

• 误解：对齐只是过滤敏感词。 事实：它更多来自训练阶段的偏好优化与规则约束，关键词过滤只是最表层的一环。

• 误解：对齐意味着绝对安全。 事实：越狱与提示词注入仍在发生，安全是概率性的降低，而不是零风险。

• 误解：模型回答保守就说明能力差。 事实：有时只是拒答策略偏严，换一个允许更直接作答的模型同样能完成任务。

• 误解：对齐一经设定就永久固定。 事实：它会随产品政策、法规与公众反馈不断调整，不同版本之间的行为可能明显不同。

• 大模型用海量文本训练出的巨型神经网络，靠「看着上文预测下一个词」生成连贯自然的文字。
• 幻觉模型用「看起来该这么答」代替「确认这是真的」，于是会一本正经地编造不存在的引用和数字。
• 微调用特定领域的数据继续训练已有模型，让它固定掌握某种格式、口吻与任务模式，输出更稳定。
• 开源与闭源闭源指权重不公开、只能走官方服务；开源指权重可下载，可本地部署或微调，按许可证约定使用。