如何减少 AI 幻觉：让多个模型互相辩论并核查事实

语言模型的训练目标是生成看起来合理的文本，而不是知道自己什么时候错了。当训练数据稀薄或相互矛盾时，模型依然会给出答案——它会用最像样的续写去填补空白，而这可能是编造的数据、记错的日期，或者一条根本不存在的引用。

对模型行为的研究反复发现两个会加剧这一问题的习惯：谄媚（顺着用户的说法附和）和校准不足（很少主动表达自己的不确定）。单独运作时，模型没有对手，也没有理由去标记一条站不住脚的说法——于是这条说法就这样被端了出来。

把同一个问题抛给由不同公司、用不同数据训练出来的多个模型，并让它们互相回应。这时一条陈述必须经受住交叉质询：Grok 会质疑 Claude 的假设，GPT 会要求 Gemini 把一句含糊的话说具体，一个只有一个模型相信的数字会被挑战，而不是被直接采纳。

这是一种粗糙但确实有效的偏见控制手段。不同厂商在对齐策略、训练数据和拒答行为上各不相同，因此一条能被四个互相竞争的模型共同坚持的陈述，就很难再被归咎于某一个模型的个别怪癖。薄弱的论点通常在第二轮就会被淘汰，走不到最终答案里。

辩论能减少糟糕的推理，但本身并不能核实事实。这就是为什么辩论结束后会单独运行一次核查：它会从对话记录中提取每一条独立成立的事实性陈述，并逐条用自己的网络搜索单独核实。

输出结果是一张逐条陈述的表格——标注为 VERIFIED（已核实）、DISPUTED（有争议）、FALSE（错误）或 UNVERIFIABLE（无法核实）——每条判定旁边都附有来源链接。你不需要盲目相信一个绿色标签，点一下就能打开来源、核对任何一条陈述。这把「AI 说的」变成了一个可核查的流程。

选择至少三个来自不同厂商的模型，打开 Fact-check（事实核查），并把问题措辞成可以从多个角度展开论证的形式。对于任何和时效性或数字相关的问题，打开联网功能，让模型的陈述基于最新来源，而不是依赖训练时的记忆。

先看判定表，再看正文：把标为 DISPUTED 和 UNVERIFIABLE 的陈述当作待确认的问题，对任何重要的内容都去核对来源，并保留导出的对话记录作为审计留痕。目标不是打造一个永不出错的模型，而是建立一个能在你依赖某个结论之前就把错误抓出来的流程。