news 2026/11/2 21:21:12

Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记

# Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记
> 论文信息:arXiv:2609.25049|EMNLP 2026 Main Conference|作者:Zixuan Wang, Bingjie Zhang, He Zhao, Dandan Guo

## 一、论文主要内容
该论文针对经过安全对齐的大语言模型普遍存在的**过度拒绝(Over‑Refusal)**问题展开机理研究与算法设计。过度拒绝指模型错误拒绝本身无害、但和不安全提示存在词汇/语义重叠的合法用户指令(论文称为Hard‑Safe提示),会严重损害模型的可用性与推理能力。

1. **机理分析**:过往研究大多把过度拒绝归因于静态表征空间的重叠,本文从Transformer注意力内部路由冲突角度做机理剖析。作者发现存在一小部分**高敏感安全注意力头(Hypersensitive Safety Heads)**,在处理Hard‑Safe无害提示时会异常激活;产生异常注意力纠缠,强行将无害实体绑定到拒绝语义上,引发高熵的路由冲突,目标实体得不到应有的注意力分配,最终触发错误拒绝输出。
2. **方法提出**:提出**SRC(Semantic Routing Calibration,语义路由校准)**,是一套轻量、**无需重新训练、仅推理时生效**的框架。核心两步:①推理阶段精准定位并动态抑制高敏感安全头;②双分支Logits融合作为安全正则器,校正解码过程,恢复模型正常推理输出,不会破坏原有安全能力。
3. **实验验证**:在多模型、多基准上开展大量实验,SRC可以有效缓解过度拒绝问题,同时尽可能保留模型原生的安全防御性能,在“减少误拒绝”和“拦

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/11/2 21:05:40

智能内容分发平台架构设计与评审关键点

1. 智能内容分发平台的架构挑战在AI驱动的互联网时代,内容分发平台正经历着从"人工运营"到"智能决策"的范式转变。去年我们团队上线某垂直领域内容平台时,原计划3个月的架构评审周期最终延长到5个月——不是因为进度拖延&#xff0c…

作者头像 李华
网站建设 2026/11/2 21:00:07

Grbl固件50个关键参数调试指南:从基础配置到高级优化

Grbl 这套固件在桌面级 CNC、激光雕刻、写字机这些圈子里流传了十几年,玩过的人都知道它“能跑”和“跑得好”之间隔着一条巨大的鸿沟。很多人第一次把机器装起来,电机能转、轴能走,就觉得大功告成,结果一上真活——切个圆变成椭圆…

作者头像 李华
网站建设 2026/11/2 21:00:06

MyBatis-Plus updateById 空值更新失效:原因与四种解决方案

1. 问题现场还原:为什么updateById会“吞掉”我的空值先说结论:updateById不更新空值,不是 bug,是 MyBatis-Plus 默认字段策略在起作用。很多人第一次遇到这个现象时,第一反应是“框架坏了”或者“数据库出问题了”&am…

作者头像 李华
网站建设 2026/11/2 20:58:10

RJ45接口技术演进与应用全解析

1. RJ45接口的起源与早期标准1980年代初期,当计算机开始从大型机向个人电脑过渡时,网络连接的需求开始显现。最早的以太网标准使用同轴电缆(10BASE5和10BASE2),这种连接方式笨重且安装复杂。1990年,IEEE 80…

作者头像 李华
网站建设 2026/11/2 20:57:02

Navicat SQL格式化功能解析与应用实践

1. Navicat的SQL格式化功能概述 作为数据库开发人员,我们经常需要处理复杂的SQL查询语句。这些语句可能包含多个子查询、连接条件和嵌套函数,导致代码行数膨胀,可读性下降。Navicat Premium提供的SQL格式化功能正是解决这一痛点的利器。 SQL…

作者头像 李华
网站建设 2026/11/2 20:56:54

从零学AI工程:数据、部署、监控的避坑指南与实战路线

从零开始学AI工程:我踩过的坑,和真正值得走的路线“ai engineering from scratch”这个话题,我其实一开始是带着怀疑的——两年前市面上讲AI的课程,十个里面有九个都在教你怎么调sklearn、怎么跑通一个pytorch的官方demo&#xff…

作者头像 李华