论文《Agentic Abstention: Do Agents Know When to Stop Instead of Act?》完整梳理
一、论文核心内容总结
1. 研究背景
现有LLM智能体(Agent)相关研究大多聚焦任务完成能力(规划、记忆、工具调用),忽略一个关键缺陷:面对模糊、矛盾、环境无解的用户需求时,Agent存在行动偏好(action bias),会持续无意义调用工具、重复搜索/命令,不会主动停止;传统LLM弃权(Abstention)仅针对单轮问答,无法适配多轮、环境交互的Agent场景。
2. 核心概念:Agentic Abstention(智能体弃权)
定义多轮序贯决策问题:Agent每一步有三类动作——ANSWER(完成任务)、ACT(调用工具探索)、ABSTAIN(终止交互,告知任务不可行/需求模糊)。
弃权分为两大类:
- 请求型弃权:仅看指令就能判断无解(主观偏好、信息缺失、逻辑矛盾);
- 环境型弃权:指令本身合理,必须交互环境后才发现目标缺失/资源不足(如商店无对应商品、终端缺少依赖文件)。</