
很多企业上了人工智能以后,碰到同一个问题——智能体老瞎编,答非所问,幻觉怎么都消不掉。
第一反应是换模型,觉得换个更猛的就消停了。
换了,还是老样子。
为什么?因为九成的幻觉,根源不在模型,而是在底层的知识中台。
幻觉到底是个什么
先把幻觉这件事说清楚。
人工智能幻觉,就是模型一本正经地胡扯——答案看着挺专业,其实是现编的。
比如你问人工智能"我们公司的售后政策是什么",它可能给你杜撰一套看起来挺合理的规矩,可这些规矩根本不是你们公司的,是模型从通用知识里东拼西凑来的。
放在企业场景里,这种幻觉是要命的。
员工没准真信了,照着人工智能给的"假政策"去办,出了事谁来兜?
所以企业用人工智能,头一个要摁住的,就是幻觉。
为什么换模型没用
很多人的逻辑是,模型不够强才幻觉,换个更猛的就行。
这个逻辑只对了一小截。
模型确实有差异,有的幻觉率高,有的低。但纯大模型加检索增强这套架构,最高准确率也就九成上下,统计意义上不存在零幻觉。
而且就算换上最猛的模型,底下的知识如果本来就是错的、过期的、自相矛盾的,模型再猛,也只能输出错误答案。
垃圾进,垃圾出,换什么模型都改不了。
图博数智在项目里碰过无数次——客户说人工智能老幻觉,查一圈,模型没毛病,问题全在底层的数据。
九成的原因,全在知识中台
幻觉的真正根源,在底层知识的质量。
一种是知识缺——该有的知识系统里没有,人工智能找不到,只能编。比如员工问某个产品的售后政策,系统里压根没存这条,人工智能只能从通用知识里蒙,蒙错的概率极大。
一种是知识旧——系统里存的是老版本,人工智能按老版本答,可实际政策早变了。
一种是知识打架——同一个问题,系统里躺了好几个不同版本的答案,人工智能不知道信哪个,闭眼挑一个,碰运气。
还有一种是知识散——知识没有结构化、没有分类、没有标签,人工智能在一堆乱糟糟的文档里摸不到那条准的,只能模糊匹配,匹配到的多半不是最优解。
这四种情况,哪个跟模型有关?
一个都没有。
全是底层知识中台的问题。
知识中台怎么从源头治幻觉
原因清楚了,解法就明白了。
知识缺的,做全量梳理。把企业高频问题对应的知识一条条补齐,不能留窟窿。窟窿在哪里,幻觉就在哪里冒。
知识旧的,上全生命周期管理。每条知识标好生效日、失效日,过期的自动打标,员工问的时候系统知道这条不能用了。
知识打架的,做冲突治理。同一个问题只能留一个权威答案,其他版本要么合并、要么标成历史版本,不能让人工智能在矛盾里掷骰子。
知识散的,上结构化治理——分库、分块、术语统一、元数据标注、权限隔离。让人工智能不是在一堆文档里碰运气,而是在一套治理过的知识体系里精准检索。
这四步,不是技术活,是管理活。最难的部分往往不是配工具,是陪着业务团队把这套知识治理的工作一点点抠扎实。
数据治理才是人工智能项目的大头
行里有个共识,人工智能项目的成本大头不在模型。
大头花在哪?花在数据治理和反复调优上,留给模型本身的那块其实小得很。
可很多企业把九成精力砸在选模型、调参数上,数据治理这块根本没人碰。
这就好比盖楼,九成精力花在挑外墙颜色上,地基没人打,楼能不塌吗?
人工智能幻觉就是这么来的——不是模型不行,是地基没打牢。
消除幻觉的正确顺序
企业人工智能智能体的幻觉到底怎么整:
第一步不是换模型,是查底层的数据——看看知识库全不全、准不准、新不新、有没有冲突。
第二步是做知识治理——分库、分块、术语统一、元数据、权限、全生命周期,一套走下来。
第三步才轮到调模型——在干净的知识底子上,优化检索和生成策略。
顺序反了,在烂地基上怎么调模型,都是白费劲。
图博数智帮企业搭知识中台,前期最耗时间的从来不是配工具,而是陪客户把知识治理的活一点点抠扎实。配工具反而是最快的一步。
地基打牢了,幻觉自然就消下去了。
本文资料整理与文字校对使用了人工智能辅助,内容已由作者复核。













