幻觉

模型用「看起来该这么答」代替「确认这是真的」，于是会一本正经地编造不存在的引用和数字。

这是普通人使用 AI 最容易踩的坑。合同条款、法条编号、财报数字一旦被编出来，直接引用就可能造成实际损失。

像一本脉络清晰但细节记错的百科全书：章节齐全、逻辑也通，唯独关键的人名、日期和数据全是编的。

让它列出「《民法典》中关于高空抛物的具体第几条」，答案可能看着像模像样却对不上原文；稳妥做法是先让它检索条文原文，或只要大意并明确标注需要你自行核对。

• 误解：只有小模型才会胡说。 事实：参数再多也不能保证真实，闭源旗舰模型同样会编造来源和引文。

• 误解：胡说只发生在冷门话题上。 事实：越是具体、可验证的数字与引注越容易出错，这正是模型的弱项区。

• 误解：要求它「不确定就说不确定」就能解决。 事实：这样能降低但不能消除幻觉，关键数字仍然要靠工具或人工核对。

• 误解：让它标注来源就没问题了。 事实：来源本身可能就是编出来的，必须回到原始文档或数据库验证。

• 检索增强生成先把你的资料切成片段建索引，提问时先检索出相关段落，再连同问题一起交给模型作答的方案。
• 温度控制输出随机性的参数：越低越保守稳定，越高越发散有创意，但出错概率也随之上升。
• 对齐让模型行为符合人类意图与使用规范的一整套训练和约束手段，覆盖有用、诚实、无害三个方向。
• 提示词你交给模型的任务说明，包含角色、任务、材料和输出格式，直接决定结果质量的上限。
• 大模型用海量文本训练出的巨型神经网络，靠「看着上文预测下一个词」生成连贯自然的文字。