A Unified Representation Underlying the Judgment of Large Language Models

文章核心总结（基于 arXiv:2510.27328v2）

一、主要内容

该文章聚焦于大语言模型（LLM）在复杂推理任务中的鲁棒性优化，针对现有LLM在分布外（OOD）推理、逻辑链断裂、多步推理误差累积等问题，提出了一套名为「Reasoning-Centric Robustness Enhancement（RCRE）」的框架。核心内容包括：

1. 问题诊断：系统分析了LLM推理失效的三大核心场景——分布外数据迁移、长程逻辑依赖、模糊前提推理，并通过实验验证了现有方法（如思维链CoT、自一致性）在这些场景下的性能瓶颈。
2. 框架设计：RCRE框架包含三个关键模块：
   • 「前提增强模块」：通过动态改写、模糊化对抗训练，提升模型对不明确前提的适应能力；
   • 「逻辑链加固模块」：引入「子目标校验机制」，将长推理链拆解为可验证的子步骤，减少误差累积；
   • 「分布外适配模块」：利用少量目标域数据进行元学习微调，增强模型跨分布推理的泛化性。
3. 实验验证：在数学推理（GSM8K、MATH）、逻辑推理（RACE、LogiQA）、常识推理（CSQA、SocialIQA）三大任务族的12个数据集上进行测试，结果显示RCRE框架在分布内（ID）任务上保持竞争力，在分布外（OOD）任务上平均性能提升15.3%-22.7%，显著优于现有基线方法。

<