主题
处理大模型幻觉时有一个常见误区:看到模型答错就笼统归因于“模型能力不行”,或以为“上一个 RAG 就能解决”。更有效的思路是精准定位错误来源,分类治理、对症下药。幻觉可以拆成三大底层成因。
第一是知识缺失,也是最常见的一类。模型没有可靠事实来源,却强行补全生成。比如问最新政策、内部系统状态或私有文档内容时,模型在预训练中没见过这些知识,仍会生成一个听起来合理但错误的答案。治理方式是接入权威数据源(如检索增强 RAG)、外部工具查询,并建立安全拒答机制,让模型在没有依据时可以选择不答。
第二是上下文冲突。输入证据内部自相矛盾,导致模型混淆和误选。典型场景是新旧文档同时被召回,或用户输入与知识库内容不一致。在冲突环境下,模型往往倾向选择位置靠前、描述更详细、更像答案的片段,而不一定是最新事实。治理方式包括版本控制、来源溯源、时间戳校验和证据排序,让正确证据更容易被选中。
第三是注意力偏移,更隐蔽。在长上下文或有噪声的环境里,模型关注了错误片段。此时并非没有客观证据,而是关键证据被噪声淹没、没被正确使用。典型表现有两种:错误关联(关注到相似但不相关的片段)和约束丢失(在多跳推理中漏掉约束条件)。治理方式包括上下文压缩、信息重排、引用约束和分步验证。
评估幻觉时也不能只看最终答案,还要对过程做多维验证:是否检索到了回答所需的关键证据、多源证据之间是否存在矛盾、生成内容是否严格忠实于所提供的证据。核心仍是分类治理,不同病因用不同药,不能指望单一方案覆盖所有情况。
