AI 幻觉:使用参考问题

多客科技

作者：微信文章
大模型，现在是流行叫智能体，统称 AI。面对输入，AI 只能是去调用参数去猜测理解，至于你输入的语境和背景等是什么，它无法得知。

当你很清楚输入的context 具体是什么，那问题很好解决，你知道了，所以也就能鉴别 AI 的输出是否符合。

你不知道自己不知道的，这时候，怎么办呢？办法还是有的，运用参考问题来解决。

例如，你是一名财务，需要 AI 来统计有些 Excel 数据，但是你又担心 AI 是不是乱统计呢？那么，可以相应地设置某些数据作为参考数据，而这些参考数据可以是已经有答案的。

问题： AI 能不能知道自己的幻觉呢？在具体的数据分析和统计工作任务中，一万条的数据，需要运用公式去统计每一行，如何保证 AI 会每一条都会执行的呢？能有人为设置的方法来检验过程嘛？