Understanding and Enhancing Backdoor Persistency in LLM Agent Post‑Training 论文总结与翻译-北京尧图网络

# Understanding and Enhancing Backdoor Persistency in LLM Agent Post‑Training 论文总结与翻译论文arXiv：https://arxiv.org/abs/2610.07510 会议：EMNLP 2026 Findings## 一、论文主要内容本文研究**大语言模型Agent供应链安全威胁：预植入后门在开发者后续后训练流程中的存活能力**。现实场景中开发者经常基于第三方开源模型，通过良性的有监督微调（SFT）、任务强化学习（RL）来构建软件工程类LLM Agent；攻击者可以提供已经植入后门的预训练模型，后门在特定触发输入下输出恶意行为。1. **核心现象发现**：良性SFT会显著降低后门攻击成功率，但紧随其后的RL往往会保留SFT之后残余的后门行为，甚至会提升攻击成功率，后门并不会被后训练完全消除。2. **影响后门存活的两大关键因素**：①初始后门强度；②后门梯度与良性训练任务的**梯度兼容性**。这两个因素决定后门在SFT过程中是否容易被擦除。3. **提出PersistBD方法**：攻击者视角的增强后门持久化算法。在带后门模型对外发布之前对模型做二次精炼，提升后门抵抗开发者SFT+RL的能力，同时尽量不破坏模型正常业务性能。4. **实验结果（Qwen2.5‑Coder‑7B）**：普通后门经过SFT后攻击成功率仅20%，SFT+RL之后仍20%；经过PersistBD处理后，SFT后攻击成功率提升至74%，SFT‑RL流程后达到76%，模型良性任务性能基本保持不变。5. **安全启示**：第三方模型继承而来的后门可以在开发者全套良性后训练之后依然生效，存在真实供应链风险；需要新

Understanding and Enhancing Backdoor Persistency in LLM Agent Post‑Training 论文总结与翻译

相关推荐

wayscriber 白板与黑板实战指南：自定义画板、网格背景与多页管理一次掌握

Folia 移动端部署完整指南：如何把全屏歌词动画播放器装进手机主屏幕

FluxVLA快速上手指南：从LIBERO数据集下载到多卡评测，手把手跑通你的第一个VLA模型

更多资讯

基于Spring Boot+Vue的个人理财系统从源码到部署实战解析

500多个App塞进一个AI助手后，我看懂了：工具生态正在被“统一插座”重排

a7c2-fl23-research FL2/FL3实战：如何启用、移除并验证索尼A7C II的新创意外观

PIDtoolbox v0.7 Linux版实战：无人机PID调参、频谱分析与批量日志处理

智能一卡通管理系统架构设计与避坑实践

从4.9万到10万星：这条被三次“爆点”推着走的曲线，藏着开源圈最真实的流量密码

今日更新

AI智能体开发实战：从技术原理到商业落地

OpenShell 完全定制指南：从安装到深度配置，打造高效 Windows 开始菜单

Superpowers技能体系全解析：从Skills引入到安装的完整指南

本周精选

防幻觉智能体架构：电源硬件设计中的大模型编排与工具化实践

OpenGL面试核心考点：渲染管线、矩阵变换与性能排查全解析

全国计算机二级C语言真题PDF高效刷题指南

本月热门

我发现了一个新思路：用 Remotion + Claude Code 像写代码一样自动化生成短视频

Windows下 Codex 中 Chrome 和 Computer Use 插件不可用问题排查及解决参考方式：TaoToken 统一 Key 配置与验证

2026 大模型集体涨价：用 Python 做企业 Token 成本测算与选型避坑（附配置）

读完文章，想聊聊您的网站？