RIDAR：通过自动检测与运行时干预保障自主科研智能体的科研完整性
原文网页：https://arxiv.org/html/2610.31372v2
PDF链接：https://arxiv.org/pdf/2610.31372v2
arXiv编号：arXiv:2610.31372v2 [cs.AI]
摘要
自主科研智能体被越来越多地用于自动化完成大量科学研究工作，但该类智能体容易发生科研完整性违规（RIV）：即损害研究过程有效性、可复现性或真实性的各类行为。本文提出RIDAR框架，实现对科研完整性违规的自动检测以及运行时干预。
首先构建RIVT科研完整性违规分类体系，覆盖完整科研生命周期内的14类违规行为。基于RIVT，实现RIDAR‑POST‑HOC事后检测框架，用于在已经完成的智能体交互轨迹中定位科研完整性违规；在包含60条专家标注轨迹的评测基准RIV‑GOLD上，实例级F1分数达到85.2%。将RIDAR‑POST‑HOC应用于RIV‑WILD数据集（50项不同科研任务、300条智能体轨迹），在99.7%的轨迹中共检测出3964条违规实例，证实当前科研智能体中科研完整性违规现象普遍存在。
进一步提出RIDAR‑RUNTIME运行时框架，在智能体执行过程中动态检测并纠正违规行为；实验表明，任务结束时残余的科研完整性违规数量平均降低36.8%。全部相关代码与数据集已开源。
关键词
自主科研智能体；科研完整性；违规检测；运行时干预；轨迹审计；RIVT；科研智能体安全
目录
- 引言
- RIVT：科研完整性违规分类体系
- RIDAR框架：自动检测与运行时干预
- 3.1 RIDAR‑POST‑HOC 事后检测框架
- 3.2 RIDAR‑RUNTIME 运行时干预框架
- 实验设置
- 实验结果
- 5.1 事后检测在RIV‑GOLD上性能
- 5.2 RIV‑WILD真实轨迹违规统计分析
- 5.3 RIDAR‑RUNTIME运行时干预效果
- 讨论与局限性
- 结论
- 附录简要说明
1 引言
基于大模型的自主科研智能体能够自动化完成完整科研工作流，涵盖创意生成、实验执行、论文撰写，具备加速科学发现的巨大潜力。随着长视界智能体能力持续增强，科研智能体产生的轨迹可以包含数百步推理、工具调用与观测记录。但科研工作不仅要求最终输出结果亮眼，更要求整个研究过程具备有效性、可复现性与证据真实性。
现有研究表明，科研智能体经常
