什么是幻觉

幻觉是 LLM 生成不基于训练数据或上下文的虚构内容。这是当前 LLM 最受关注的问题之一。

幻觉的成因

  • 训练数据的噪声和不一致性
  • 最大似然训练目标不直接优化事实性
  • 解码策略（如 top-p sampling）引入的随机性

缓解方案

RAG

检索增强生成是当前最有效的幻觉缓解方法。通过提供外部知识源，模型有据可查。原理见 RAG 检索增强生成实战。

Self-Reflection

让模型先生成答案，再自我检查是否有事实错误。

事实性评估

使用 NLI 模型或专门的事实性评估基准来衡量模型的幻觉程度。