什么是“AI幻觉”

在3月9日的《两会你我他》节目中，代表委员对网友关心的人工智能发展的相关问题进行了解答。

什么是“AI幻觉”？

针对网友对“AI幻觉”的提问，相关代表委员接受了采访。

全国政协委员寇纲介绍，所谓的大语言模型的“幻觉”，通俗一点说，把人工智能想象成一个思考的人，它会在思考过程中形成一个思维链。人工智能做不到像人一样并行处理信息，它是在链上以串行的结构来思考。如果它在思考的第一步，和我们预想的方向产生细微的偏差，可能只是一个“脑洞”，这样的“脑洞”会随着思维链一步一步向前串行地去扩张，就会导致它越来越偏离原始（目标）。这就是大语言模型产生“幻觉”的原因。

全国政协委员王亮指出，人工智能存在“幻觉”现象，就是人工智能系统可能会产生或者是输出一些与物理真实世界不符或有误导性的结果。为了减少“幻觉”的产生，可以从几个层面去做，首先从算法技术的角度去加以改进或提升，比如设计更稳定更鲁棒（鲁棒性是指系统在面对外部干扰或数据异常时，仍能保持可靠性和稳定性的能力）的算法，实现更加优化的模型架构等；另外，可以从数据的角度尽可能提供高质量、没有偏差的数据，以减少数据偏差所带来的“幻觉”问题。