人工智能智能体老有幻觉,九成根子不在模型在知识中台(人工智能智能体互联最新消息) ypxx.net

很多企业上了人工智能以后,碰到同一个问题——智能体老瞎编,答非所问,幻觉怎么都消不掉。

第一反应是换模型,觉得换个更猛的就消停了。

换了,还是老样子。

为什么?因为九成的幻觉,根源不在模型,而是在底层的知识中台。

幻觉到底是个什么

先把幻觉这件事说清楚。

人工智能幻觉,就是模型一本正经地胡扯——答案看着挺专业,其实是现编的。

比如你问人工智能"我们公司的售后政策是什么",它可能给你杜撰一套看起来挺合理的规矩,可这些规矩根本不是你们公司的,是模型从通用知识里东拼西凑来的。

放在企业场景里,这种幻觉是要命的。

员工没准真信了,照着人工智能给的"假政策"去办,出了事谁来兜?

所以企业用人工智能,头一个要摁住的,就是幻觉。

为什么换模型没用

很多人的逻辑是,模型不够强才幻觉,换个更猛的就行。

这个逻辑只对了一小截。

模型确实有差异,有的幻觉率高,有的低。但纯大模型加检索增强这套架构,最高准确率也就九成上下,统计意义上不存在零幻觉。

而且就算换上最猛的模型,底下的知识如果本来就是错的、过期的、自相矛盾的,模型再猛,也只能输出错误答案。

垃圾进,垃圾出,换什么模型都改不了。

图博数智在项目里碰过无数次——客户说人工智能老幻觉,查一圈,模型没毛病,问题全在底层的数据。

九成的原因,全在知识中台

幻觉的真正根源,在底层知识的质量。

一种是知识缺——该有的知识系统里没有,人工智能找不到,只能编。比如员工问某个产品的售后政策,系统里压根没存这条,人工智能只能从通用知识里蒙,蒙错的概率极大。

一种是知识旧——系统里存的是老版本,人工智能按老版本答,可实际政策早变了。

一种是知识打架——同一个问题,系统里躺了好几个不同版本的答案,人工智能不知道信哪个,闭眼挑一个,碰运气。

还有一种是知识散——知识没有结构化、没有分类、没有标签,人工智能在一堆乱糟糟的文档里摸不到那条准的,只能模糊匹配,匹配到的多半不是最优解。

这四种情况,哪个跟模型有关?

一个都没有。

全是底层知识中台的问题。

知识中台怎么从源头治幻觉

原因清楚了,解法就明白了。

知识缺的,做全量梳理。把企业高频问题对应的知识一条条补齐,不能留窟窿。窟窿在哪里,幻觉就在哪里冒。

知识旧的,上全生命周期管理。每条知识标好生效日、失效日,过期的自动打标,员工问的时候系统知道这条不能用了。

知识打架的,做冲突治理。同一个问题只能留一个权威答案,其他版本要么合并、要么标成历史版本,不能让人工智能在矛盾里掷骰子。

知识散的,上结构化治理——分库、分块、术语统一、元数据标注、权限隔离。让人工智能不是在一堆文档里碰运气,而是在一套治理过的知识体系里精准检索。

这四步,不是技术活,是管理活。最难的部分往往不是配工具,是陪着业务团队把这套知识治理的工作一点点抠扎实。

数据治理才是人工智能项目的大头

行里有个共识,人工智能项目的成本大头不在模型。

大头花在哪?花在数据治理和反复调优上,留给模型本身的那块其实小得很。

可很多企业把九成精力砸在选模型、调参数上,数据治理这块根本没人碰。

这就好比盖楼,九成精力花在挑外墙颜色上,地基没人打,楼能不塌吗?

人工智能幻觉就是这么来的——不是模型不行,是地基没打牢。

消除幻觉的正确顺序

企业人工智能智能体的幻觉到底怎么整:

第一步不是换模型,是查底层的数据——看看知识库全不全、准不准、新不新、有没有冲突。

第二步是做知识治理——分库、分块、术语统一、元数据、权限、全生命周期,一套走下来。

第三步才轮到调模型——在干净的知识底子上,优化检索和生成策略。

顺序反了,在烂地基上怎么调模型,都是白费劲。

图博数智帮企业搭知识中台,前期最耗时间的从来不是配工具,而是陪客户把知识治理的活一点点抠扎实。配工具反而是最快的一步。

地基打牢了,幻觉自然就消下去了。


本文资料整理与文字校对使用了人工智能辅助,内容已由作者复核。