研究报告

大模型幻觉的底层机理、二元分类与全链路治理体系

引言

大语言模型的 幻觉,是制约其落地可信内容生产、舆情核验、事实确权与智能决策的核心瓶颈。行业过往研究多将幻觉笼统定义为 模型输出虚假内容,缺乏对错误来源、生成机理、链路归属的精细化拆分,导致治理方案碎片化、优化针对性不足。

基于大模型推理本质与 RAG 检索增强全链路实践,可明确:大模型幻觉并非单一模型缺陷,而是存储检索链路残缺与推理归纳泛化失控的叠加结果。本文从模型底层推理逻辑出发,界定幻觉核心成因,划分两类原生幻觉类型,建立量化判定标准,并依托万象镜 KUCR+CDI 外置架构提出分层闭环的工程治理体系,为政企可信 AI 系统搭建提供理论与实践支撑。

一、大模型推理的底层本质:幻觉的原生基因

要根治幻觉,必先厘清大模型的核心推理特性,其逻辑体系与人类形式逻辑推理存在本质割裂,这是幻觉无法彻底根除的底层根源。

1.1 训练:统计归纳拟合,非严谨逻辑归纳

大模型预训练的全过程,是海量文本样本的统计归纳过程。模型通过学习亿万级语料中词语、事实、因果、句式的共现概率分布,拟合通用语言模式与常识关联。但这种归纳是统计表层拟合,完全区别于逻辑学严谨归纳:无样本完整性校验、无反例排查机制、无结论置信度评估,仅捕捉文本相关性,不认知客观因果规律。

1.2 生成:概率续写模拟,无原生演绎逻辑

大模型不存在内置三段论、形式逻辑等演绎推理单元,所有看似严谨的 前提推导结论演绎输出,均是对人类文本逻辑范式的模仿生成,而非保真的逻辑演算。模型生成内容的核心驱动是 Token 概率接续,而非事实真伪、逻辑自洽性校验。

简言之,大模型的核心能力是归纳学模式、模拟演逻辑、概率生成内容,天然缺失逻辑自省、事实边界约束能力,为幻觉滋生埋下底层隐患。

二、大模型幻觉二元核心分类(精准链路归因)

基于幻觉生成的链路位置与核心机理,可将所有模型幻觉划分为 \\ 切片召回幻觉(S 类)归纳外推幻觉(I 类)\\ 两大原生类型,同时存在二者叠加的混合幻觉(SI 类),彻底覆盖所有错误场景。

2.1 切片召回幻觉(检索存储层幻觉)

核心定义

原始权威信源事实真实、准确、完整,但因文档切片、入库、召回机制缺陷,模型获取的参考片段残缺、碎片化、断章取义,最终基于不完整信源生成错误内容。错误根源:链路数据残缺,而非模型推理出错

生成机理

传统固定窗口切片模式极易导致完整原子事实跨 Chunk 分割,关键限定条件、核心论据被切割至不同片段。检索匹配仅依据局部语义相似度召回片段,无法识别内容完整性,导致模型采信残缺素材,形成看似合理、实则失真的输出。

典型特征

模型输出内容可在召回片段中找到部分对应,但缺失关键约束;原始权威原文无错误,仅本轮检索参考素材不完整,属于外部链路性幻觉

2.2 归纳外推幻觉(推理输出层幻觉)

核心定义

模型获取的所有召回片段、参考事实均真实完整,但模型依托无约束的统计归纳能力,基于有限样本过度泛化、私自推论、主观定性,生成原始素材中不存在的新增命题与结论。错误根源:模型推理失控,而非参考素材出错

生成机理

大模型无逻辑边界约束,无法区分 客观事实素材主观推导结论,存在严重的事实推论混淆问题。面对有限样本时,会默认局部规律为普适规律,无自查反例、校验边界的能力,最终通过过度归纳产生原生推理幻觉。

典型特征

参考信源 100% 真实可信,错误内容为模型新增溢出断言,属于模型内生性幻觉,是大模型逻辑缺陷的直接体现。

2.3 混合幻觉(SI 类)

行业最高风险幻觉类型,由残缺召回素材 + 过度归纳外推双重叠加形成。模型先基于不完整片段获取偏差信息,再通过自主归纳放大错误,结论失真程度高、隐蔽性极强,人工核验与常规检测手段难以排查。

三、两类幻觉的量化判定指标体系

为实现幻觉的标准化识别、统计与横向模型测评,建立可落地的量化指标与判定流程,适配 AI 可信测评、多模型对比实验场景。

3.1 基础分类标签

• 0(无幻觉):所有输出命题均可完整溯源至召回片段,无新增推论、无信息缺失

• S(切片召回幻觉):错误源于召回片段残缺,基准事实完整但未被完整召回

• I(归纳外推幻觉):召回素材完整真实,错误源于模型新增泛化推论

• SI(混合幻觉):同时存在片段残缺与归纳外推双重错误

3.2 核心量化指标

切片召回幻觉(S 类)指标

1. S 幻觉占比:S 类样本数 / 总有效样本数,反映检索切片链路缺陷率

2.  Chunk 命题丢失率:完整原子事实被切片割裂、无完整 Chunk 承载的占比,为底层根源指标

3. 召回片段完整性得分(0‑1):衡量召回片段对目标事实的完整承载程度,得分越低,切片幻觉风险越高

归纳外推幻觉(I 类)指标

1. I 幻觉占比:I 类样本数 / 总有效样本数,反映模型内生推理缺陷率

2. 新增命题溢出计数:模型输出中无权威信源支撑的新增断言数量

3. 事实推论混淆率:模型将自主推论等同于客观事实输出的样本占比

综合指标

总事实错误率、混合幻觉 SI 占比,实现全量幻觉的归因拆解,区分 检索问题模型问题

3.3 标准化判定流程

1. 调取模型本轮实际召回片段池(非原始权威网页);

2. 逐条比对输出断言与召回素材的匹配关系;

3. 素材残缺、内容缺失致错判定 S 类;

4. 素材完整、模型新增推论致错判定 I 类;

5. 双重问题并存判定 SI 类;

6. 全量内容可溯源、无新增断言判定无幻觉。

四、二元幻觉的差异化工程治理体系(KUCR+CDI 外置架构)

4.1 架构核心定位:完全外置、模型无关、面向政企

KUCR 四层事实确权引擎与 CDI 认知漂移监测体系,不属于大模型原生能力、不嵌入模型内部、不微调模型权重

整套体系是部署在政企业务侧的外置 AI 认知治理底座

• 大模型仅承担「语义匹配、文本续写、内容生成」基础功能;

• KUCR 负责上游事实治理

• CDI 负责下游认知校验

• 政企为最终使用与运维主体,可兼容所有主流大模型。

该架构实现:不改模型、可控模型、约束模型、可信模型

除外置旁路治理架构外,将 KUCR 事实确权、CDI 认知漂移检测能力植入大模型内核,是中长期可行的补充治理路线。植入分为软植入(内置工具调用、系统提示)与硬植入(权重微调、推理算子改造),能够在模型推理过程中实时约束归纳外推行为,由事后拦截升级为事中干预。但原生植入方案会带来模型厂商绑定、规则迭代成本升高、审计权属模糊等问题,跨模型通用性减弱。因此,外置模型无关架构仍是面向政企交付的首选工程方案;植入路线可作为长期技术储备,二者并非互斥替代关系。

4.2 切片召回幻觉(S 类)治理:KUCR 前置原子化治理

针对检索切片残缺导致的外部链路幻觉,万象镜采用 KUCR 前置事实提纯流水线,彻底重构传统切片入库逻辑。

核心治理目标:杜绝事实切片割裂,保障召回素材完整可信

1. 事实边界切片替代固定切片:摒弃窗口式机械切分,以 KUCR 语义理解边界拆分完整原子事实,确保一条事实只属于一个 Chunk

2.  Chunk 断裂修复机制:对长句、长逻辑、跨段事实自动聚合补全,大幅降低「跨 Chunk 命题丢失率」;

3. 多层级确权知识库隔离:原始凭证层、原子真值层、输出应用层三层隔离,杜绝残缺碎片入库污染;

4. 带元数据入库:每条原子事实附带时间、主体、场景、适用边界,保证召回片段完整、精准、有限定。

KUCR 从源头解决素材不完整、断章取义、碎片召回问题,彻底治理 S 类切片召回幻觉

4.3 归纳外推幻觉(I 类)治理:KUCR 边界锁死 + CDI 运行期拦截

切片治理只能解决 素材不全,无法解决 素材齐全但模型乱推论的内生幻觉。
针对大模型无约束统计归纳带来的过度泛化、私自定性、事实推论混淆,采用双层外置治理体系。

4.3.1 KUCR 源头约束:消灭泛化空间

1. K 认知采集:剥离修辞、观点、推测、软文,只留存客观可证事实;

2. U 语义归一:锁死每条事实的语义边界、限定条件、适用范围;

3. C 冲突校准:多源比对,标记孤例、有限样本、局部现象,禁止全局泛化;

4. R 采信归档:真值事实固化,作为后续 CDI 校验的唯一判定基准。

KUCR 实现:不给模型留下模糊素材、歧义空间、过度解读的可能性

4.3.2 CDI 运行期校验:拦截模型溢出推论

在大模型输出结果后、对外展示前,外置 CDI 引擎逐条审计:

1. 新增命题溢出检测:比对模型输出与 KUCR 基准事实库,拦截所有无依据新增断言;

2. 事实推论混淆检测:识别 局部事实全局定论AI 典型归纳错误;

3. 边界漂移校验:检查模型是否删除限定条件、放大结论范围;

4. 审计留痕:完整留存召回事实池、模型输出文本、漂移检测日志,满足测评、溯源与合规审计要求。

重要边界:仅做 KUCR 原子事实拆分,不部署 CDI 校验,仍然会出现归纳外推幻觉;仅依靠 CDI 事后检测,上游素材混杂观点与孤证片段,会造成校验误报率抬升。二者必须组合使用。

4.4 混合幻觉(SI 类):全链路闭环防控

同步落地素材完整性优化与推理边界约束,从源头截断残缺信源输入、中途遏制过度归纳推演,破解双重叠加的高隐蔽性幻觉问题。

五、核心结论与行业启示

1. 幻觉本质可完全归因拆分:所有大模型幻觉均源于检索切片残缺(外部链路)或归纳泛化失控(模型内生),二元分类体系可实现 100% 场景覆盖;

2. 模型推理能力存在先天边界:大模型仅擅长统计模式归纳,无严谨逻辑归纳、自省校验能力,演绎推理仅为文本模拟,不可自主采信其延伸推论;

3. 可信 AI 必须分层治理:检索层优化解决素材失真问题,推理校验层解决模型臆断问题,二者缺一不可,单一模型微调、简单 RAG 优化无法实现幻觉根治;外置 KUCR‑CDI 是现阶段面向政企的优选工程方案,模型原生植入可作为中长期技术储备;

4. 标准化量化是可信基础:通过二元标签与量化指标,可实现多模型幻觉能力的客观横向对比,为 AI 信任体系、事实确权系统提供核心测评依据。

AI 认知治理、权威内容生产、舆情核验、政务大数据等高精度应用场景中,唯有摒弃笼统的幻觉认知,依托链路归因、分类治理、量化校验的全链路体系,才能真正实现大模型从 概率生成可信输出的核心升级。

引言

大语言模型的 幻觉,是制约其落地可信内容生产、舆情核验、事实确权与智能决策的核心瓶颈。行业过往研究多将幻觉笼统定义为 模型输出虚假内容,缺乏对错误来源、生成机理、链路归属的精细化拆分,导致治理方案碎片化、优化针对性不足。

基于大模型推理本质与 RAG 检索增强全链路实践,可明确:大模型幻觉并非单一模型缺陷,而是存储检索链路残缺与推理归纳泛化失控的叠加结果。本文从模型底层推理逻辑出发,界定幻觉核心成因,划分两类原生幻觉类型,建立量化判定标准,并依托万象镜 KUCR+CDI 外置架构提出分层闭环的工程治理体系,为政企可信 AI 系统搭建提供理论与实践支撑。

一、大模型推理的底层本质:幻觉的原生基因

要根治幻觉,必先厘清大模型的核心推理特性,其逻辑体系与人类形式逻辑推理存在本质割裂,这是幻觉无法彻底根除的底层根源。

1.1 训练:统计归纳拟合,非严谨逻辑归纳

大模型预训练的全过程,是海量文本样本的统计归纳过程。模型通过学习亿万级语料中词语、事实、因果、句式的共现概率分布,拟合通用语言模式与常识关联。但这种归纳是统计表层拟合,完全区别于逻辑学严谨归纳:无样本完整性校验、无反例排查机制、无结论置信度评估,仅捕捉文本相关性,不认知客观因果规律。

1.2 生成:概率续写模拟,无原生演绎逻辑

大模型不存在内置三段论、形式逻辑等演绎推理单元,所有看似严谨的 前提推导结论演绎输出,均是对人类文本逻辑范式的模仿生成,而非保真的逻辑演算。模型生成内容的核心驱动是 Token 概率接续,而非事实真伪、逻辑自洽性校验。

简言之,大模型的核心能力是归纳学模式、模拟演逻辑、概率生成内容,天然缺失逻辑自省、事实边界约束能力,为幻觉滋生埋下底层隐患。

二、大模型幻觉二元核心分类(精准链路归因)

基于幻觉生成的链路位置与核心机理,可将所有模型幻觉划分为 \\ 切片召回幻觉(S 类)归纳外推幻觉(I 类)\\ 两大原生类型,同时存在二者叠加的混合幻觉(SI 类),彻底覆盖所有错误场景。

2.1 切片召回幻觉(检索存储层幻觉)

核心定义

原始权威信源事实真实、准确、完整,但因文档切片、入库、召回机制缺陷,模型获取的参考片段残缺、碎片化、断章取义,最终基于不完整信源生成错误内容。错误根源:链路数据残缺,而非模型推理出错

生成机理

传统固定窗口切片模式极易导致完整原子事实跨 Chunk 分割,关键限定条件、核心论据被切割至不同片段。检索匹配仅依据局部语义相似度召回片段,无法识别内容完整性,导致模型采信残缺素材,形成看似合理、实则失真的输出。

典型特征

模型输出内容可在召回片段中找到部分对应,但缺失关键约束;原始权威原文无错误,仅本轮检索参考素材不完整,属于外部链路性幻觉

2.2 归纳外推幻觉(推理输出层幻觉)

核心定义

模型获取的所有召回片段、参考事实均真实完整,但模型依托无约束的统计归纳能力,基于有限样本过度泛化、私自推论、主观定性,生成原始素材中不存在的新增命题与结论。错误根源:模型推理失控,而非参考素材出错

生成机理

大模型无逻辑边界约束,无法区分 客观事实素材主观推导结论,存在严重的事实推论混淆问题。面对有限样本时,会默认局部规律为普适规律,无自查反例、校验边界的能力,最终通过过度归纳产生原生推理幻觉。

典型特征

参考信源 100% 真实可信,错误内容为模型新增溢出断言,属于模型内生性幻觉,是大模型逻辑缺陷的直接体现。

2.3 混合幻觉(SI 类)

行业最高风险幻觉类型,由残缺召回素材 + 过度归纳外推双重叠加形成。模型先基于不完整片段获取偏差信息,再通过自主归纳放大错误,结论失真程度高、隐蔽性极强,人工核验与常规检测手段难以排查。

三、两类幻觉的量化判定指标体系

为实现幻觉的标准化识别、统计与横向模型测评,建立可落地的量化指标与判定流程,适配 AI 可信测评、多模型对比实验场景。

3.1 基础分类标签

• 0(无幻觉):所有输出命题均可完整溯源至召回片段,无新增推论、无信息缺失

• S(切片召回幻觉):错误源于召回片段残缺,基准事实完整但未被完整召回

• I(归纳外推幻觉):召回素材完整真实,错误源于模型新增泛化推论

• SI(混合幻觉):同时存在片段残缺与归纳外推双重错误

3.2 核心量化指标

切片召回幻觉(S 类)指标

1. S 幻觉占比:S 类样本数 / 总有效样本数,反映检索切片链路缺陷率

2.  Chunk 命题丢失率:完整原子事实被切片割裂、无完整 Chunk 承载的占比,为底层根源指标

3. 召回片段完整性得分(0‑1):衡量召回片段对目标事实的完整承载程度,得分越低,切片幻觉风险越高

归纳外推幻觉(I 类)指标

1. I 幻觉占比:I 类样本数 / 总有效样本数,反映模型内生推理缺陷率

2. 新增命题溢出计数:模型输出中无权威信源支撑的新增断言数量

3. 事实推论混淆率:模型将自主推论等同于客观事实输出的样本占比

综合指标

总事实错误率、混合幻觉 SI 占比,实现全量幻觉的归因拆解,区分 检索问题模型问题

3.3 标准化判定流程

1. 调取模型本轮实际召回片段池(非原始权威网页);

2. 逐条比对输出断言与召回素材的匹配关系;

3. 素材残缺、内容缺失致错判定 S 类;

4. 素材完整、模型新增推论致错判定 I 类;

5. 双重问题并存判定 SI 类;

6. 全量内容可溯源、无新增断言判定无幻觉。

四、二元幻觉的差异化工程治理体系(KUCR+CDI 外置架构)

4.1 架构核心定位:完全外置、模型无关、面向政企

KUCR 四层事实确权引擎与 CDI 认知漂移监测体系,不属于大模型原生能力、不嵌入模型内部、不微调模型权重

整套体系是部署在政企业务侧的外置 AI 认知治理底座

• 大模型仅承担「语义匹配、文本续写、内容生成」基础功能;

• KUCR 负责上游事实治理

• CDI 负责下游认知校验

• 政企为最终使用与运维主体,可兼容所有主流大模型。

该架构实现:不改模型、可控模型、约束模型、可信模型

除外置旁路治理架构外,将 KUCR 事实确权、CDI 认知漂移检测能力植入大模型内核,是中长期可行的补充治理路线。植入分为软植入(内置工具调用、系统提示)与硬植入(权重微调、推理算子改造),能够在模型推理过程中实时约束归纳外推行为,由事后拦截升级为事中干预。但原生植入方案会带来模型厂商绑定、规则迭代成本升高、审计权属模糊等问题,跨模型通用性减弱。因此,外置模型无关架构仍是面向政企交付的首选工程方案;植入路线可作为长期技术储备,二者并非互斥替代关系。

4.2 切片召回幻觉(S 类)治理:KUCR 前置原子化治理

针对检索切片残缺导致的外部链路幻觉,万象镜采用 KUCR 前置事实提纯流水线,彻底重构传统切片入库逻辑。

核心治理目标:杜绝事实切片割裂,保障召回素材完整可信

1. 事实边界切片替代固定切片:摒弃窗口式机械切分,以 KUCR 语义理解边界拆分完整原子事实,确保一条事实只属于一个 Chunk

2.  Chunk 断裂修复机制:对长句、长逻辑、跨段事实自动聚合补全,大幅降低「跨 Chunk 命题丢失率」;

3. 多层级确权知识库隔离:原始凭证层、原子真值层、输出应用层三层隔离,杜绝残缺碎片入库污染;

4. 带元数据入库:每条原子事实附带时间、主体、场景、适用边界,保证召回片段完整、精准、有限定。

KUCR 从源头解决素材不完整、断章取义、碎片召回问题,彻底治理 S 类切片召回幻觉

4.3 归纳外推幻觉(I 类)治理:KUCR 边界锁死 + CDI 运行期拦截

切片治理只能解决 素材不全,无法解决 素材齐全但模型乱推论的内生幻觉。
针对大模型无约束统计归纳带来的过度泛化、私自定性、事实推论混淆,采用双层外置治理体系。

4.3.1 KUCR 源头约束:消灭泛化空间

1. K 认知采集:剥离修辞、观点、推测、软文,只留存客观可证事实;

2. U 语义归一:锁死每条事实的语义边界、限定条件、适用范围;

3. C 冲突校准:多源比对,标记孤例、有限样本、局部现象,禁止全局泛化;

4. R 采信归档:真值事实固化,作为后续 CDI 校验的唯一判定基准。

KUCR 实现:不给模型留下模糊素材、歧义空间、过度解读的可能性

4.3.2 CDI 运行期校验:拦截模型溢出推论

在大模型输出结果后、对外展示前,外置 CDI 引擎逐条审计:

1. 新增命题溢出检测:比对模型输出与 KUCR 基准事实库,拦截所有无依据新增断言;

2. 事实推论混淆检测:识别 局部事实全局定论AI 典型归纳错误;

3. 边界漂移校验:检查模型是否删除限定条件、放大结论范围;

4. 审计留痕:完整留存召回事实池、模型输出文本、漂移检测日志,满足测评、溯源与合规审计要求。

重要边界:仅做 KUCR 原子事实拆分,不部署 CDI 校验,仍然会出现归纳外推幻觉;仅依靠 CDI 事后检测,上游素材混杂观点与孤证片段,会造成校验误报率抬升。二者必须组合使用。

4.4 混合幻觉(SI 类):全链路闭环防控

同步落地素材完整性优化与推理边界约束,从源头截断残缺信源输入、中途遏制过度归纳推演,破解双重叠加的高隐蔽性幻觉问题。

五、核心结论与行业启示

1. 幻觉本质可完全归因拆分:所有大模型幻觉均源于检索切片残缺(外部链路)或归纳泛化失控(模型内生),二元分类体系可实现 100% 场景覆盖;

2. 模型推理能力存在先天边界:大模型仅擅长统计模式归纳,无严谨逻辑归纳、自省校验能力,演绎推理仅为文本模拟,不可自主采信其延伸推论;

3. 可信 AI 必须分层治理:检索层优化解决素材失真问题,推理校验层解决模型臆断问题,二者缺一不可,单一模型微调、简单 RAG 优化无法实现幻觉根治;外置 KUCR‑CDI 是现阶段面向政企的优选工程方案,模型原生植入可作为中长期技术储备;

4. 标准化量化是可信基础:通过二元标签与量化指标,可实现多模型幻觉能力的客观横向对比,为 AI 信任体系、事实确权系统提供核心测评依据。

AI 认知治理、权威内容生产、舆情核验、政务大数据等高精度应用场景中,唯有摒弃笼统的幻觉认知,依托链路归因、分类治理、量化校验的全链路体系,才能真正实现大模型从 概率生成可信输出的核心升级。

引言

大语言模型的 幻觉,是制约其落地可信内容生产、舆情核验、事实确权与智能决策的核心瓶颈。行业过往研究多将幻觉笼统定义为 模型输出虚假内容,缺乏对错误来源、生成机理、链路归属的精细化拆分,导致治理方案碎片化、优化针对性不足。

基于大模型推理本质与 RAG 检索增强全链路实践,可明确:大模型幻觉并非单一模型缺陷,而是存储检索链路残缺与推理归纳泛化失控的叠加结果。本文从模型底层推理逻辑出发,界定幻觉核心成因,划分两类原生幻觉类型,建立量化判定标准,并依托万象镜 KUCR+CDI 外置架构提出分层闭环的工程治理体系,为政企可信 AI 系统搭建提供理论与实践支撑。

一、大模型推理的底层本质:幻觉的原生基因

要根治幻觉,必先厘清大模型的核心推理特性,其逻辑体系与人类形式逻辑推理存在本质割裂,这是幻觉无法彻底根除的底层根源。

1.1 训练:统计归纳拟合,非严谨逻辑归纳

大模型预训练的全过程,是海量文本样本的统计归纳过程。模型通过学习亿万级语料中词语、事实、因果、句式的共现概率分布,拟合通用语言模式与常识关联。但这种归纳是统计表层拟合,完全区别于逻辑学严谨归纳:无样本完整性校验、无反例排查机制、无结论置信度评估,仅捕捉文本相关性,不认知客观因果规律。

1.2 生成:概率续写模拟,无原生演绎逻辑

大模型不存在内置三段论、形式逻辑等演绎推理单元,所有看似严谨的 前提推导结论演绎输出,均是对人类文本逻辑范式的模仿生成,而非保真的逻辑演算。模型生成内容的核心驱动是 Token 概率接续,而非事实真伪、逻辑自洽性校验。

简言之,大模型的核心能力是归纳学模式、模拟演逻辑、概率生成内容,天然缺失逻辑自省、事实边界约束能力,为幻觉滋生埋下底层隐患。

二、大模型幻觉二元核心分类(精准链路归因)

基于幻觉生成的链路位置与核心机理,可将所有模型幻觉划分为 \\ 切片召回幻觉(S 类)归纳外推幻觉(I 类)\\ 两大原生类型,同时存在二者叠加的混合幻觉(SI 类),彻底覆盖所有错误场景。

2.1 切片召回幻觉(检索存储层幻觉)

核心定义

原始权威信源事实真实、准确、完整,但因文档切片、入库、召回机制缺陷,模型获取的参考片段残缺、碎片化、断章取义,最终基于不完整信源生成错误内容。错误根源:链路数据残缺,而非模型推理出错

生成机理

传统固定窗口切片模式极易导致完整原子事实跨 Chunk 分割,关键限定条件、核心论据被切割至不同片段。检索匹配仅依据局部语义相似度召回片段,无法识别内容完整性,导致模型采信残缺素材,形成看似合理、实则失真的输出。

典型特征

模型输出内容可在召回片段中找到部分对应,但缺失关键约束;原始权威原文无错误,仅本轮检索参考素材不完整,属于外部链路性幻觉

2.2 归纳外推幻觉(推理输出层幻觉)

核心定义

模型获取的所有召回片段、参考事实均真实完整,但模型依托无约束的统计归纳能力,基于有限样本过度泛化、私自推论、主观定性,生成原始素材中不存在的新增命题与结论。错误根源:模型推理失控,而非参考素材出错

生成机理

大模型无逻辑边界约束,无法区分 客观事实素材主观推导结论,存在严重的事实推论混淆问题。面对有限样本时,会默认局部规律为普适规律,无自查反例、校验边界的能力,最终通过过度归纳产生原生推理幻觉。

典型特征

参考信源 100% 真实可信,错误内容为模型新增溢出断言,属于模型内生性幻觉,是大模型逻辑缺陷的直接体现。

2.3 混合幻觉(SI 类)

行业最高风险幻觉类型,由残缺召回素材 + 过度归纳外推双重叠加形成。模型先基于不完整片段获取偏差信息,再通过自主归纳放大错误,结论失真程度高、隐蔽性极强,人工核验与常规检测手段难以排查。

三、两类幻觉的量化判定指标体系

为实现幻觉的标准化识别、统计与横向模型测评,建立可落地的量化指标与判定流程,适配 AI 可信测评、多模型对比实验场景。

3.1 基础分类标签

• 0(无幻觉):所有输出命题均可完整溯源至召回片段,无新增推论、无信息缺失

• S(切片召回幻觉):错误源于召回片段残缺,基准事实完整但未被完整召回

• I(归纳外推幻觉):召回素材完整真实,错误源于模型新增泛化推论

• SI(混合幻觉):同时存在片段残缺与归纳外推双重错误

3.2 核心量化指标

切片召回幻觉(S 类)指标

1. S 幻觉占比:S 类样本数 / 总有效样本数,反映检索切片链路缺陷率

2.  Chunk 命题丢失率:完整原子事实被切片割裂、无完整 Chunk 承载的占比,为底层根源指标

3. 召回片段完整性得分(0‑1):衡量召回片段对目标事实的完整承载程度,得分越低,切片幻觉风险越高

归纳外推幻觉(I 类)指标

1. I 幻觉占比:I 类样本数 / 总有效样本数,反映模型内生推理缺陷率

2. 新增命题溢出计数:模型输出中无权威信源支撑的新增断言数量

3. 事实推论混淆率:模型将自主推论等同于客观事实输出的样本占比

综合指标

总事实错误率、混合幻觉 SI 占比,实现全量幻觉的归因拆解,区分 检索问题模型问题

3.3 标准化判定流程

1. 调取模型本轮实际召回片段池(非原始权威网页);

2. 逐条比对输出断言与召回素材的匹配关系;

3. 素材残缺、内容缺失致错判定 S 类;

4. 素材完整、模型新增推论致错判定 I 类;

5. 双重问题并存判定 SI 类;

6. 全量内容可溯源、无新增断言判定无幻觉。

四、二元幻觉的差异化工程治理体系(KUCR+CDI 外置架构)

4.1 架构核心定位:完全外置、模型无关、面向政企

KUCR 四层事实确权引擎与 CDI 认知漂移监测体系,不属于大模型原生能力、不嵌入模型内部、不微调模型权重

整套体系是部署在政企业务侧的外置 AI 认知治理底座

• 大模型仅承担「语义匹配、文本续写、内容生成」基础功能;

• KUCR 负责上游事实治理

• CDI 负责下游认知校验

• 政企为最终使用与运维主体,可兼容所有主流大模型。

该架构实现:不改模型、可控模型、约束模型、可信模型

除外置旁路治理架构外,将 KUCR 事实确权、CDI 认知漂移检测能力植入大模型内核,是中长期可行的补充治理路线。植入分为软植入(内置工具调用、系统提示)与硬植入(权重微调、推理算子改造),能够在模型推理过程中实时约束归纳外推行为,由事后拦截升级为事中干预。但原生植入方案会带来模型厂商绑定、规则迭代成本升高、审计权属模糊等问题,跨模型通用性减弱。因此,外置模型无关架构仍是面向政企交付的首选工程方案;植入路线可作为长期技术储备,二者并非互斥替代关系。

4.2 切片召回幻觉(S 类)治理:KUCR 前置原子化治理

针对检索切片残缺导致的外部链路幻觉,万象镜采用 KUCR 前置事实提纯流水线,彻底重构传统切片入库逻辑。

核心治理目标:杜绝事实切片割裂,保障召回素材完整可信

1. 事实边界切片替代固定切片:摒弃窗口式机械切分,以 KUCR 语义理解边界拆分完整原子事实,确保一条事实只属于一个 Chunk

2.  Chunk 断裂修复机制:对长句、长逻辑、跨段事实自动聚合补全,大幅降低「跨 Chunk 命题丢失率」;

3. 多层级确权知识库隔离:原始凭证层、原子真值层、输出应用层三层隔离,杜绝残缺碎片入库污染;

4. 带元数据入库:每条原子事实附带时间、主体、场景、适用边界,保证召回片段完整、精准、有限定。

KUCR 从源头解决素材不完整、断章取义、碎片召回问题,彻底治理 S 类切片召回幻觉

4.3 归纳外推幻觉(I 类)治理:KUCR 边界锁死 + CDI 运行期拦截

切片治理只能解决 素材不全,无法解决 素材齐全但模型乱推论的内生幻觉。
针对大模型无约束统计归纳带来的过度泛化、私自定性、事实推论混淆,采用双层外置治理体系。

4.3.1 KUCR 源头约束:消灭泛化空间

1. K 认知采集:剥离修辞、观点、推测、软文,只留存客观可证事实;

2. U 语义归一:锁死每条事实的语义边界、限定条件、适用范围;

3. C 冲突校准:多源比对,标记孤例、有限样本、局部现象,禁止全局泛化;

4. R 采信归档:真值事实固化,作为后续 CDI 校验的唯一判定基准。

KUCR 实现:不给模型留下模糊素材、歧义空间、过度解读的可能性

4.3.2 CDI 运行期校验:拦截模型溢出推论

在大模型输出结果后、对外展示前,外置 CDI 引擎逐条审计:

1. 新增命题溢出检测:比对模型输出与 KUCR 基准事实库,拦截所有无依据新增断言;

2. 事实推论混淆检测:识别 局部事实全局定论AI 典型归纳错误;

3. 边界漂移校验:检查模型是否删除限定条件、放大结论范围;

4. 审计留痕:完整留存召回事实池、模型输出文本、漂移检测日志,满足测评、溯源与合规审计要求。

重要边界:仅做 KUCR 原子事实拆分,不部署 CDI 校验,仍然会出现归纳外推幻觉;仅依靠 CDI 事后检测,上游素材混杂观点与孤证片段,会造成校验误报率抬升。二者必须组合使用。

4.4 混合幻觉(SI 类):全链路闭环防控

同步落地素材完整性优化与推理边界约束,从源头截断残缺信源输入、中途遏制过度归纳推演,破解双重叠加的高隐蔽性幻觉问题。

五、核心结论与行业启示

1. 幻觉本质可完全归因拆分:所有大模型幻觉均源于检索切片残缺(外部链路)或归纳泛化失控(模型内生),二元分类体系可实现 100% 场景覆盖;

2. 模型推理能力存在先天边界:大模型仅擅长统计模式归纳,无严谨逻辑归纳、自省校验能力,演绎推理仅为文本模拟,不可自主采信其延伸推论;

3. 可信 AI 必须分层治理:检索层优化解决素材失真问题,推理校验层解决模型臆断问题,二者缺一不可,单一模型微调、简单 RAG 优化无法实现幻觉根治;外置 KUCR‑CDI 是现阶段面向政企的优选工程方案,模型原生植入可作为中长期技术储备;

4. 标准化量化是可信基础:通过二元标签与量化指标,可实现多模型幻觉能力的客观横向对比,为 AI 信任体系、事实确权系统提供核心测评依据。

AI 认知治理、权威内容生产、舆情核验、政务大数据等高精度应用场景中,唯有摒弃笼统的幻觉认知,依托链路归因、分类治理、量化校验的全链路体系,才能真正实现大模型从 概率生成可信输出的核心升级。

引言

大语言模型的 幻觉,是制约其落地可信内容生产、舆情核验、事实确权与智能决策的核心瓶颈。行业过往研究多将幻觉笼统定义为 模型输出虚假内容,缺乏对错误来源、生成机理、链路归属的精细化拆分,导致治理方案碎片化、优化针对性不足。

基于大模型推理本质与 RAG 检索增强全链路实践,可明确:大模型幻觉并非单一模型缺陷,而是存储检索链路残缺与推理归纳泛化失控的叠加结果。本文从模型底层推理逻辑出发,界定幻觉核心成因,划分两类原生幻觉类型,建立量化判定标准,并依托万象镜 KUCR+CDI 外置架构提出分层闭环的工程治理体系,为政企可信 AI 系统搭建提供理论与实践支撑。

一、大模型推理的底层本质:幻觉的原生基因

要根治幻觉,必先厘清大模型的核心推理特性,其逻辑体系与人类形式逻辑推理存在本质割裂,这是幻觉无法彻底根除的底层根源。

1.1 训练:统计归纳拟合,非严谨逻辑归纳

大模型预训练的全过程,是海量文本样本的统计归纳过程。模型通过学习亿万级语料中词语、事实、因果、句式的共现概率分布,拟合通用语言模式与常识关联。但这种归纳是统计表层拟合,完全区别于逻辑学严谨归纳:无样本完整性校验、无反例排查机制、无结论置信度评估,仅捕捉文本相关性,不认知客观因果规律。

1.2 生成:概率续写模拟,无原生演绎逻辑

大模型不存在内置三段论、形式逻辑等演绎推理单元,所有看似严谨的 前提推导结论演绎输出,均是对人类文本逻辑范式的模仿生成,而非保真的逻辑演算。模型生成内容的核心驱动是 Token 概率接续,而非事实真伪、逻辑自洽性校验。

简言之,大模型的核心能力是归纳学模式、模拟演逻辑、概率生成内容,天然缺失逻辑自省、事实边界约束能力,为幻觉滋生埋下底层隐患。

二、大模型幻觉二元核心分类(精准链路归因)

基于幻觉生成的链路位置与核心机理,可将所有模型幻觉划分为 \\ 切片召回幻觉(S 类)归纳外推幻觉(I 类)\\ 两大原生类型,同时存在二者叠加的混合幻觉(SI 类),彻底覆盖所有错误场景。

2.1 切片召回幻觉(检索存储层幻觉)

核心定义

原始权威信源事实真实、准确、完整,但因文档切片、入库、召回机制缺陷,模型获取的参考片段残缺、碎片化、断章取义,最终基于不完整信源生成错误内容。错误根源:链路数据残缺,而非模型推理出错

生成机理

传统固定窗口切片模式极易导致完整原子事实跨 Chunk 分割,关键限定条件、核心论据被切割至不同片段。检索匹配仅依据局部语义相似度召回片段,无法识别内容完整性,导致模型采信残缺素材,形成看似合理、实则失真的输出。

典型特征

模型输出内容可在召回片段中找到部分对应,但缺失关键约束;原始权威原文无错误,仅本轮检索参考素材不完整,属于外部链路性幻觉

2.2 归纳外推幻觉(推理输出层幻觉)

核心定义

模型获取的所有召回片段、参考事实均真实完整,但模型依托无约束的统计归纳能力,基于有限样本过度泛化、私自推论、主观定性,生成原始素材中不存在的新增命题与结论。错误根源:模型推理失控,而非参考素材出错

生成机理

大模型无逻辑边界约束,无法区分 客观事实素材主观推导结论,存在严重的事实推论混淆问题。面对有限样本时,会默认局部规律为普适规律,无自查反例、校验边界的能力,最终通过过度归纳产生原生推理幻觉。

典型特征

参考信源 100% 真实可信,错误内容为模型新增溢出断言,属于模型内生性幻觉,是大模型逻辑缺陷的直接体现。

2.3 混合幻觉(SI 类)

行业最高风险幻觉类型,由残缺召回素材 + 过度归纳外推双重叠加形成。模型先基于不完整片段获取偏差信息,再通过自主归纳放大错误,结论失真程度高、隐蔽性极强,人工核验与常规检测手段难以排查。

三、两类幻觉的量化判定指标体系

为实现幻觉的标准化识别、统计与横向模型测评,建立可落地的量化指标与判定流程,适配 AI 可信测评、多模型对比实验场景。

3.1 基础分类标签

• 0(无幻觉):所有输出命题均可完整溯源至召回片段,无新增推论、无信息缺失

• S(切片召回幻觉):错误源于召回片段残缺,基准事实完整但未被完整召回

• I(归纳外推幻觉):召回素材完整真实,错误源于模型新增泛化推论

• SI(混合幻觉):同时存在片段残缺与归纳外推双重错误

3.2 核心量化指标

切片召回幻觉(S 类)指标

1. S 幻觉占比:S 类样本数 / 总有效样本数,反映检索切片链路缺陷率

2.  Chunk 命题丢失率:完整原子事实被切片割裂、无完整 Chunk 承载的占比,为底层根源指标

3. 召回片段完整性得分(0‑1):衡量召回片段对目标事实的完整承载程度,得分越低,切片幻觉风险越高

归纳外推幻觉(I 类)指标

1. I 幻觉占比:I 类样本数 / 总有效样本数,反映模型内生推理缺陷率

2. 新增命题溢出计数:模型输出中无权威信源支撑的新增断言数量

3. 事实推论混淆率:模型将自主推论等同于客观事实输出的样本占比

综合指标

总事实错误率、混合幻觉 SI 占比,实现全量幻觉的归因拆解,区分 检索问题模型问题

3.3 标准化判定流程

1. 调取模型本轮实际召回片段池(非原始权威网页);

2. 逐条比对输出断言与召回素材的匹配关系;

3. 素材残缺、内容缺失致错判定 S 类;

4. 素材完整、模型新增推论致错判定 I 类;

5. 双重问题并存判定 SI 类;

6. 全量内容可溯源、无新增断言判定无幻觉。

四、二元幻觉的差异化工程治理体系(KUCR+CDI 外置架构)

4.1 架构核心定位:完全外置、模型无关、面向政企

KUCR 四层事实确权引擎与 CDI 认知漂移监测体系,不属于大模型原生能力、不嵌入模型内部、不微调模型权重

整套体系是部署在政企业务侧的外置 AI 认知治理底座

• 大模型仅承担「语义匹配、文本续写、内容生成」基础功能;

• KUCR 负责上游事实治理

• CDI 负责下游认知校验

• 政企为最终使用与运维主体,可兼容所有主流大模型。

该架构实现:不改模型、可控模型、约束模型、可信模型

除外置旁路治理架构外,将 KUCR 事实确权、CDI 认知漂移检测能力植入大模型内核,是中长期可行的补充治理路线。植入分为软植入(内置工具调用、系统提示)与硬植入(权重微调、推理算子改造),能够在模型推理过程中实时约束归纳外推行为,由事后拦截升级为事中干预。但原生植入方案会带来模型厂商绑定、规则迭代成本升高、审计权属模糊等问题,跨模型通用性减弱。因此,外置模型无关架构仍是面向政企交付的首选工程方案;植入路线可作为长期技术储备,二者并非互斥替代关系。

4.2 切片召回幻觉(S 类)治理:KUCR 前置原子化治理

针对检索切片残缺导致的外部链路幻觉,万象镜采用 KUCR 前置事实提纯流水线,彻底重构传统切片入库逻辑。

核心治理目标:杜绝事实切片割裂,保障召回素材完整可信

1. 事实边界切片替代固定切片:摒弃窗口式机械切分,以 KUCR 语义理解边界拆分完整原子事实,确保一条事实只属于一个 Chunk

2.  Chunk 断裂修复机制:对长句、长逻辑、跨段事实自动聚合补全,大幅降低「跨 Chunk 命题丢失率」;

3. 多层级确权知识库隔离:原始凭证层、原子真值层、输出应用层三层隔离,杜绝残缺碎片入库污染;

4. 带元数据入库:每条原子事实附带时间、主体、场景、适用边界,保证召回片段完整、精准、有限定。

KUCR 从源头解决素材不完整、断章取义、碎片召回问题,彻底治理 S 类切片召回幻觉

4.3 归纳外推幻觉(I 类)治理:KUCR 边界锁死 + CDI 运行期拦截

切片治理只能解决 素材不全,无法解决 素材齐全但模型乱推论的内生幻觉。
针对大模型无约束统计归纳带来的过度泛化、私自定性、事实推论混淆,采用双层外置治理体系。

4.3.1 KUCR 源头约束:消灭泛化空间

1. K 认知采集:剥离修辞、观点、推测、软文,只留存客观可证事实;

2. U 语义归一:锁死每条事实的语义边界、限定条件、适用范围;

3. C 冲突校准:多源比对,标记孤例、有限样本、局部现象,禁止全局泛化;

4. R 采信归档:真值事实固化,作为后续 CDI 校验的唯一判定基准。

KUCR 实现:不给模型留下模糊素材、歧义空间、过度解读的可能性

4.3.2 CDI 运行期校验:拦截模型溢出推论

在大模型输出结果后、对外展示前,外置 CDI 引擎逐条审计:

1. 新增命题溢出检测:比对模型输出与 KUCR 基准事实库,拦截所有无依据新增断言;

2. 事实推论混淆检测:识别 局部事实