让 AI Agent 干活，第一道坎不是能力不够，是它可能一本正经地胡说八道。编数据、造来源、把猜的当真的说——这种问题在聊天场景里最多让你尴尬一下，但在 Agent 场景里会直接放大成事故：它拿着幻觉去调工具、改文件、发消息，错误就从「一句话」变成了「一个动作」。
幻觉治不治得干净？坦诚说，治不干净。大语言模型的生成机制决定了它必然有幻觉，但好消息是：幻觉可以控到「出不了大事」。这篇把幻觉治理的完整解法讲清楚——五层防线，从最便宜的到最重的，按需配置。
先搞清楚：Agent 为什么会一本正经地胡说八道
大语言模型本质是「下一个词预测器」，不是数据库。它生成回答时优化的目标是「流畅、合理、像人话」，而不是「真实、正确」。所以它会在不知道答案时，编一个听起来很合理的答案——这就是幻觉的机制根源，跟提示词写得漂不漂亮没有必然关系。
幻觉的典型表现就三种：编数据（数字、日期、统计结果张口就来）、造来源（引用根本不存在的论文、网址、文档）、把猜测说成事实（「根据最新政策……」，其实根本没这回事）。
为什么在 Agent 场景里特别危险？因为问答说错一句，用户还能自己判断；Agent 会拿着幻觉去执行下一步——查一个不存在的单号、改一个猜出来的参数、发一条错误的消息。错误被自动化放大，后果完全不在一个量级。
解法一：提示约束，先让它学会说「不知道」
最便宜、见效最快的一招：在系统提示词里写死「不知道就承认」。给 Agent 立三条军规：
一是没有把握的内容，明确说「我需要核实」，而不是给一个看似确定的答案；二是涉及数据、日期、金额的表述，必须标注来源或置信度；三是宁可拒绝回答，也不编造答案。
这招的成本几乎为零，效果是「把幻觉从自信变成心虚」——它至少不敢一本正经地胡说八道了。但要清醒：提示约束只是降低幻觉的显性程度，机制层面的幻觉它管不了。别指望靠提示词根治。
解法二：知识库校准，回答必须有出处
对知识密集型的 Agent（客服、政策咨询、内部制度问答），最有效的做法是别让模型「背知识」，而是让它「查知识」——RAG 检索增强生成。先检索相关文档，再基于检索结果回答，并且要求引用出处。
关键点：检索质量决定幻觉上限。检索不到正确内容，模型就只能靠猜。切片大小、召回策略、排序方式、改写质量四个环节都要调，具体清单可以参考 知识库检索怎么做才准确 那篇。另外，知识库本身会过期，陈旧内容和现实矛盾也是幻觉的温床，需要定期巡检，做法见 知识库陈旧内容巡检。
解法三：工具验证，关键事实用工具核
对付数值、日期、状态类幻觉，最硬的手段是「能查的不猜」：让 Agent 用计算器算数、用数据库查单、用 API 拉状态，而不是让模型「背」出来。工具返回的结果就是事实，模型只需基于工具结果组织语言。
这就是为什么我们一直强调给 Agent 配工具能力——MCP 工具不只是「扩能力」，更是「治幻觉」。接入方式见 OpenClaw 怎么接 MCP 工具。原则很简单：凡是能通过工具核实的事实，一律禁止模型直接生成。
解法四：引用白名单，没检索到的不许说
比「回答必须有出处」更严一级的做法：引用白名单。规定 Agent 只能使用检索到或工具返回的内容作为事实来源，白名单之外的信息一律视为「不确定」，不许作为事实陈述。
这背后的思路和 AI Agent 证据包怎么留 一致：每个结论都要有证据支撑，没有证据的结论不许说。白名单相当于给 Agent 划了一条信息来源的边界——和权限管理里「最小权限」是同一个哲学，见 AI Agent 权限管理怎么做。
解法五：质量门禁与人工复核，最后一道兜底
前四层防线再严密，也拦不住漏网之鱼。高风险场景（对外发消息、财务、医疗建议）必须加兜底：对低置信度、高风险的回答，强制进入 人工复核抽检 流程；回答在放行之前，过一遍 质量门禁 的校验；实在兜不住的，按 转人工队列 的处理规则升级给真人。
这里有个成本意识：工具验证和人工复核都花钱。别所有回答都上重装备，按风险分级——闲聊级不拦，业务级提示约束 + 知识库校准，高风险级才上工具验证 + 人工兜底。
落地顺序与适合人群
幻觉治理别一上来就上全套。推荐落地顺序：先做提示约束（零成本，立刻有效）→ 再做引用白名单（把「不许编」变成硬规则）→ 然后知识库校准（把知识域交给检索）→ 再上工具验证（把关键事实交给工具）→ 最后按风险给关键场景配人工复核。
这套组合最值得投入的，是「说错话要担责」的场景：客服、金融、医疗、法务、内部知识问答。纯娱乐闲聊的 Agent 可以只用第一层。另外提醒一句：幻觉率应该成为 Agent 上线和迭代的核心指标，纳入 AI Agent 评测怎么做 的评测体系，用数据盯着它。
总结
AI Agent 幻觉治理，核心五层：提示约束让它学会说不知道、知识库校准让回答有出处、工具验证让关键事实可核实、引用白名单让没证据的不许说、人工复核兜底高风险场景。记住一句话——幻觉治不干净，但可以控到「出不了大事」。别追求消灭幻觉，追求的是：Agent 说的每句话，你都能追到它是从哪来的。
