文章

文章详细介绍了中国科学院信息工程研究所等机构联合发布的首篇 LLM 智能体幻觉综述，旨在解决大语言模型驱动智能体（LLM-based Agent）在关键领域落地时面临的“幻觉”问题。文章首先区分了传统 LLM 幻觉与智能体幻觉的本质差异，指出智能体幻觉因其“大脑-感知-动作”的复杂性而具有类型更复杂、传播链更长、后果更严重的特点。综述基于部分可观测马尔可夫决策过程（POMDP）形式化定义了智能体交互动力学，并提出了首个覆盖智能体全工作流的幻觉分类体系，将其拆解为推理幻觉、执行幻觉、感知幻觉、记忆幻觉和通信幻觉五大类，并系统性梳理了导致幻觉的 18 个核心触发原因。针对这些问题，文章提炼出知识利用、范式改进和事后验证三大方向共 10 种缓解策略，并指出现有检测方法的局限性。最后，综述团队开源了 300+相关论文资源，并提出了幻觉累积研究、精确幻觉定位等 6 个未来研究方向，强调解决智能体幻觉是构建可靠通用人工智能（AGI）的基础。