尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记
# Mitigating LLM Over‑Refusal via Dynamic Semantic Routing Calibration 论文笔记 论文信息:arXiv:2609.25049|EMNLP 2026 Main Conference|作者:Zixuan Wang, Bingjie Zhang, He Zhao, Dandan Guo## 一、论文主要内容该论文针对经过安全对齐的大语言模型普遍存在的**过度拒绝(Over‑Refusal)**问题展开机理研究与算法设计。过度拒绝指模型错误拒绝本身无害、但和不安全提示存在词汇/语义重叠的合法用户指令(论文称为Hard‑Safe提示),会严重损害模型的可用性与推理能力。1. **机理分析**:过往研究大多把过度拒绝归因于静态表征空间的重叠,本文从Transformer注意力内部路由冲突角度做机理剖析。作者发现存在一小部分**高敏感安全注意力头(Hypersensitive Safety Heads)**,在处理Hard‑Safe无害提示时会异常激活;产生异常注意力纠缠,强行将无害实体绑定到拒绝语义上,引发高熵的路由冲突,目标实体得不到应有的注意力分配,最终触发错误拒绝输出。2. **方法提出**:提出**SRC(Semantic Routing Calibration,语义路由校准)**,是一套轻量、**无需重新训练、仅推理时生效**的框架。核心两步:①推理阶段精准定位并动态抑制高敏感安全头;②双分支Logits融合作为安全正则器,校正解码过程,恢复模型正常推理输出,不会破坏原有安全能力。3. **实验验证**:在多模型、多基准上开展大量实验,SRC可以有效缓解过度拒绝问题,同时尽可能保留模型原生的安全防御性能,在“减少误拒绝”和“拦
RELATED

相关推荐

法考历年真题及答案解析合集pdf版(2002-2025年)

法考历年真题及答案解析合集pdf版(2002-2025年)

⚖️ 今天给大家整理了2002—2025年法考历年真题及答案解析: 📝 历年真题一网打尽,吃透考点命题规律 ✅ 答案解析齐全,刷题复盘两不误 真题是最好的复习资料,法考上岸从刷真题开始! ⭐ 建议先收藏保存&…

📅 2026/11/2 21:25:14
Folia 歌词动画播放器安装指南:Windows、macOS、Linux 三平台从取包到启动

Folia 歌词动画播放器安装指南:Windows、macOS、Linux 三平台从取包到启动

Folia 歌词动画播放器安装指南:Windows、macOS、Linux 三平台从取包到启动 【免费下载链接】folia-major 专注于绚丽的歌词动画效果的本地音乐/navidrome/第三方多平台在线音乐播放器 项目地址: https://gitcode.com/GitHub_Trending/fo/folia-major Folia 是…

📅 2026/11/2 21:20:14
用Python画二手玫瑰

用Python画二手玫瑰

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📅 2026/11/2 21:15:14
MORE NEWS

更多资讯

📰

联邦学习最新进展与落地实践:破解数据孤岛与隐私保护

1. 联邦学习为什么突然成了AI圈的“显学”在IJCAI的多次会议上,杨强反复强调一个判断:AI落地最大的障碍不是模型不够强,而是数据走不出各自的“围墙”。这一点我深有体会。过去几年跟银行、医院、制造企业打交道,大家遇到的第一个…

📰

前端打包编译全流程解析:从入口扫描到产物生成

1. 前端打包编译不是黑箱,是可拆解、可调试、可优化的确定性流程“前端打包和编译”这八个字,对刚入行的开发者像一道雾里看花的门槛——写完React组件,npm run build一敲,几秒后生成一个 dist 文件夹,里面全是带哈希的…

📰

ZCode深度解析:以代码为中心的智能体运行平台

1. ZCode是什么?先别急着下结论说实话,第一次看到"ZCode 开源了"这几个字的时候,我和大部分人的反应一样——ZCode?这是什么?是编辑器?是框架?还是某个大厂憋了很久的IDE大招&#xf…

📰

自然语言处理(NLP)为何是人工智能的核心?应用场景与优势解析

"现在做人工智能的,十个里有八个在聊大模型,但聊到最后往往绕回同一个底层技术——NLP,也就是自然语言处理。"这是我前阵子带一个AI项目时最深的体会。项目本身是做智能客服,客户一开始只看准确率指标,觉得&…

📰

快消企业内训PPT拆解:从索引表到可复用课件的四步法

简介:这份康师傅培训资料以PPT形式梳理快消品企业的经营与管理实践,面向市场营销、产品运营、供应链及人力资源管理方向的学习者与从业者,可用于课堂案例分析、企业内训备课或建立行业认知框架。压缩包内仅含1个PPT文件,大小约1.2…

📰

AI选键盘不准?其实是需求翻译出了问题

1. 这不是“AI不准”,而是「需求翻译失真」的典型现场 最近刷到一条很扎心的实测:有人用完全相同的5个问题——比如“预算1000以内,打字偶尔玩FPS,要青轴手感但不想太吵,键帽要PBT不打油,最好带RGB但别太花…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬