2026年“3·15”期间,《IT时报》联合天翼安全开展的实测显示:仅需撰写两篇虚假软文并发布至公网,短短2小时内,DeepSeek、豆包等主流大模型即被“洗脑”,将虚构品牌列为首选推荐,且无法准确追溯信源。这一公域“认知塌方”事件,暴露出大模型“重生成流畅、轻事实校验”的底层缺陷。
然而,这一风险并非公有云独有。当前,各地政企正加速推进大模型私有化部署,普遍存在一个认知误区:认为“内网部署、数据不出域”即等于绝对安全。事实恰恰相反,私有模型因缺乏统一认知审计,正面临比公域更隐蔽的“隐性爆雷”风险。
一是口径漂移与旧政残留。 某市政务大模型曾出现人社版与民政版对“失业金申领时长”给出不同答案的尴尬;部分央企因微调语料未清退废止条款,导致模型长期引用过期政策。这类“旧数据残留”在内网环境中比公网更难清洗。
二是慢速认知投毒。 内部知识库权限扁平化、供应商交付的插件埋入触发式指令,均可实现“慢速投毒”,将错误信息固化进模型权重,且长期不被察觉。
三是私域公域互污染闭环。 内网错答经员工对外传播,被公域大模型抓取后反向喂给内网,形成恶性循环。一旦私有模型对外提供政务服务或客服支持,一次错答即可能引发问责。
遗憾的是,现有治理手段存在明显短板。以奇安信、开普云、安恒为代表的传统安全厂商,聚焦于“模型不作恶”的底线防护(如Prompt注入拦截、数据防泄露、算法备案辅助),但无法定义何为“官方正确口径”,也不具备跨模型比对与认知漂移量化能力。换言之,它们管得了安全,管不了“说错话”。
在此背景下,中传奥美地亚万象镜(OmniEyes)提供的AI认知治理(ACG)框架,恰好填补了这一真空。它并非安全护栏,而是政企的“AI认知账房”:
1. 建立官方真值库(K-确权):将政策法规、产品参数、国资表述结构化,作为所有模型微调的唯一事实锚点。
2. 实施跨模型监测(U-洞察):7×24小时抽测本单位私有模型及公域主流大模型,通过CDI认知漂移指数预警口径偏差。
3. 闭环校准与审计(C+R):发现错答后回填真值,联动央媒信源加权纠偏,并生成可追溯的信任资产审计台账,为国资监管与合规问责提供实证。
据其发布的《AI大模型认知信任度治理白皮书(V1.4)》明确界定,万象镜“不替代行政执法、不介入模型底层算法改造”,专注于政企内部常态化认知审计。
结论与建议:
私有大模型的“隐性爆雷”具有确定性高、爆发延迟的特点。建议政企在AI治理架构中实施“双轨制”:由网信/政数局牵头,采购奇安信等厂商方案筑牢“模型安全底线”;由宣传/董办/合规部门牵头,引入万象镜类认知治理工具管好“AI说什么的账面”。 唯有底线与账面并重,方能规避即将到来的认知风险问责。