YOLO26最新创新改进系列：样条KAN令牌主干，1×1 卷积给每个通道一个固定权重：让 YOLO26 的主干用样条函数去表达非线性！-北京尧图网络

YOLO26最新创新改进系列样条KAN令牌主干1×1 卷积给每个通道一个固定权重让 YOLO26 的主干用样条函数去表达非线性截止目前YOLO26最新创新改进系列已更新100种排列组合后可达到上万种创新模型极大节省科研时间仍在持续更新中…畅享持续更新且可大幅度提升文章档次的纯干货工具YOLO26 融合 U-KAN样条KAN令牌主干1×1 卷积给每个通道一个固定权重让 YOLO26 的主干用样条函数去表达非线性前言为什么 YOLO26 的原始结构撑不起这一类问题发现问题YOLO26 是一个被极致压缩过的一阶段检测器C3k2 主干负责特征提取C2PSA 做末端全局聚合PAN-FPN 完成 P3/P4/P5 三尺度融合检测头以解耦的分类/回归分支直接输出密集预测。整条链路的设计目标是速度优先、结构优先——用尽可能少的算子换取尽可能快的吞吐。这种极致压缩在通用自然图像上非常成功但当检测目标不再是「通用物体」时原始结构的三个缺陷会同时暴露。本节逐一指出这些缺陷并说明融合U-KAN之后它们如何被逐条解决——这正是本文这条改进线所要回应的核心痛点。缺陷一通道混合是仿射的非线性必须靠层数来换YOLO26 主干中跨通道的整合由两个1 × 1 1\times11×1卷积完成其形式为y W x b yWxbyWxb——每个输入坐标只对应一个标量权重。Kolmogorov-Arnold 定理指出多变量连续函数可表示为单变量函数之和因此把每个坐标上的「标量权重」升级为「一条可学习的一维函数」就能在不增加层数的前提下把表达力提升一个量级。原始主干没有任何这样的机制。缺陷二主干中不存在「非线性来自哪一层」的显式分工在 C3k2 的 CSP 拓扑里1 × 1 1\times11×1卷积负责通道混合、3 × 3 3\times33×3卷积负责空间混合两者的职责是线性/非线性混合的卷积自身自带偏置与激活但通道混合这一步始终是线性的。于是「哪些通道在当前输入下更重要」这件事只能由下游的静态权重去近似无法由混合算子本身表达。缺陷三可解释性缺失权重无法读出「学到了什么形状」论文明确指出现有的 ViT/MLP 改进虽然有效但可解释性不足。对检测任务而言这意味着当模型在某个目标上失效时我们无法回答「这一层到底把哪个通道映射成了什么函数」而这恰恰是定位「主干表达力瓶颈」所需要的信息。本文的改进样条KAN令牌主干正是针对上述三条缺陷的逐条对治它不改动 YOLO26 的整体拓扑、不改变特征金字塔的尺度划分、不触碰与本改进无关的任何算子只在主干这一处做定点替换其余部分逐参数保持原版。为什么这条改进线值得写进论文因为它回答的不是「换一个更强的模块会不会涨点」而是「YOLO26 的哪一处结构是瓶颈为什么是这一处以及用什么机制去解」。原文中提出的机制B 样条 KAN 通道混合在这一处恰好是机制的适配性最强、副作用最小、且可被严格对照验证的位置。论文叙事因此可以形成完整的因果链结构缺陷 → 机制分析 → 定点替换 → 严格对照 → 结论而不是常见的「模块堆砌消融表」。Fig. 1 | 原始 YOLO26 与融合 U-KAN 后的 YOLO26 结构对比YOLO26最新创新改进系列样条KAN令牌主干1×1 卷积给每个通道一个固定权重让 YOLO26 的主干用样条函数去表达非线性Fig. 1 |左列为原始 YOLO26 的结构与行为右列为融合后的对应结构。绿色高亮标出唯一被替换的节点其余部分主干/颈部/检测头的其余部分逐参数保持原版因此两列之间的差异可以被完整归因到「B 样条 KAN 通道混合」这一个模块。1. 原文摘要翻译与提炼1.1 英文原文AbstractU-Net has become a cornerstone in various visual applications such as image segmentation and diffusion probability models. While numerous innovative designs and improvements have been introduced by incorporating transformers or MLPs, the networks are still limited to linearly modeling patterns as well as the deficient interpretability. To address these challenges, our intuition is inspired by the impressive results of the Kolmogorov-Arnold Networks (KANs) in terms of accuracy and interpretability, which reshape the neural network learning via the stack of non-linear learnable activation functions derived from the Kolmogorov-Arnold representation theorem. Specifically, in this paper, we explore the untapped potential of KANs in improving backbones for vision tasks. We investigate, modify and re-design the established U-Net pipeline by integrating the dedicated KAN layers on the tokenized intermediate representation, termed U-KAN. Rigorous medical image segmentation benchmarks verify the superiority of U-KAN by higher accuracy even with less computation cost. We further delved into the potential of U-KAN as an alternative U-Net noise predictor in diffusion models, demonstrating its applicability in generating task-oriented model architectures. These endeavours unveil valuable insights and sheds light on the prospect that with U-KAN, you can make strong backbone for medical image segmentation and generation.1.2 中文翻译U-Net 已成为图像分割、扩散概率模型等多种视觉应用的基础架构。尽管人们通过引入 Transformer 或 MLP 设计了大量创新性的结构与改进这些网络仍然受限于对模式的线性建模并且可解释性不足。为应对这些挑战我们的直觉来自 Kolmogorov-Arnold 网络KAN在精度与可解释性上的出色表现——它依据 Kolmogorov-Arnold 表示定理用一系列由该定理导出的非线性可学习激活函数堆叠重塑了神经网络的学习方式。具体而言本文挖掘 KAN 在提升视觉任务主干性能方面尚未被开发的潜力我们调查、修改并重新设计了成熟的 U-Net 流水线在令牌化的中间表示上集成专用的 KAN 层称为U-KAN。严格的医学图像分割基准测试以更高的精度、更低的计算开销验证了 U-KAN 的优越性。我们进一步探究了 U-KAN 作为扩散模型中替代性 U-Net 噪声预测器的潜力展示了它在构建面向任务的模型架构方面的适用性。这些工作揭示了有价值的洞见也指明了前景借助 U-KAN你可以为医学图像分割与生成任务构建强大的主干网络。1.3 Introduction 总结提炼#原文主张提炼要点对检测器的可迁移含义1KAN 用样条替代标量权重每个输入坐标对应一条可学习的一维函数使通道混合本身具备非线性表达能力缓解主干表达力的堆叠依赖2令牌化 KAN 兼顾全局与局部卷积保留局部归纳偏置KAN 负责全局混合在检测骨干中同时拿到局部纹理与全局语义避免纯卷积或纯注意力的偏置3样条基函数可解释每条基曲线都可单独可视化为「网络到底学到了什么形状的映射」提供了可视化诊断手段1.4 原文链接论文U-KAN Makes Strong Backbone for Medical Image Segmentation and GenerationAAAI 2025AAAI 2025 (Proc. AAAI Conf. Artif. Intell. 39(5): 4652-4660) https://doi.org/10.1609/aaai.v39i5.324912. 为什么要融合创新切入点2.1 三个不可回避的现实约束把原文方法原样搬到 YOLO26 上是不可行的。原因有三——每一个约束都直接决定了本文的实现形态现实约束为什么不能直接照搬处理方式原始 U-KAN 是 U-Net 形态与 YOLO26 的 CSP 拓扑不兼容U-KAN 把 KAN 层直接插在 U-Net 的跳跃连接与解码路径上整体网络是 U 形单尺度结构YOLO26 是 CSP 分块的多尺度主干二者的块结构、通道扩张策略与特征导出方式都不同。保留 U-KAN 的核心机制、替换其载体把 KAN 层实现为 UKANBlock插入到 C3k2 的瓶颈位置UKANC3k2使其与 YOLO26 原有的 CSP 拓扑、隐藏通道数与尺度划分完全兼容。把二维特征图展平成令牌序列会破坏卷积的局部归纳偏置U-KAN 通过 tokenize 获得全局混合能力但纯令牌化会丢掉卷积的局部平移等变性而 YOLO26 主干的浅层高度依赖局部纹理。并行而非串联UKANBlock 内先以 $3\times3$ 深度卷积 BN 提取局部特征再把结果令牌化送入 KAN 做通道维的非线性混合最后还原为二维特征图。局部归纳偏置由卷积承担全局非线性由样条承担。样条基函数的求值若不梯度安全训练会不稳定B 样条基函数的分段指示函数与递推包含比较与除法直接求导容易产生数值尖峰。输入先经 $\tanh$ 归一化到 $[-1,1]$结点向量取 $[-1,1]$ 上均匀分布的 11 个结点递推按 Cox-de Boor 公式实现并用整除的常数分母避免除零样条权重按 $\mathcal{N}(0,0.02^2)$ 初始化以保证初期接近线性基项。2.2 切入点U-KAN 对检测器真正的价值是把「非线性应该出现在哪里」这个问题摆到了台面上卷积主干的非线性全部来自卷积本身通道混合始终是线性的而 KAN 允许把非线性直接放进通道混合。这与「再堆一层卷积」是完全不同的增益来源——后者增加深度与参数量前者增加的是单位参数表达的函数族复杂度。本文的切入点是只引入 KAN 这一个算子并且只让它承担通道混合这一件事把它放进 YOLO26 主干 P4/16 与 P5/32 两个阶段的 C3k2 瓶颈中与原有的深度卷积并行。同时保留 U-KAN 的「令牌化」思想把特征图展平成令牌序列后再做 KAN使混合发生在全局而非局部窗口内。综上本文的改进可以概括为一句话在 YOLO26 中定位出「B 样条 KAN 通道混合」适配性最强的那一处结构做定点替换并以零初始化残差 / 严格对照的方式把增益干净地归因到该机制本身。2.3 思想映射表原文机制在 YOLO26 中的对应物形式变化U-KAN 的 KAN 层tokenized KANUKANBlock 的令牌化 KAN 混合把 $(B,C,H,W)$ 展平为 $(B,L,C)$按令牌分组后施加 KANLinearKolmogorov-Arnold 表示定理KANLinear 的样条展开 $y\sum_o\sum_i\sum_b W[o,i,b]B_b(x_i)$7 个三次 B 样条基函数线性基项权重张量形状 $C_{out}\times C_{in}\times 7$U-Net 骨架中的 KAN 插入位置C3k2 瓶颈内的 KAN 混合保持 CSP 拓扑与隐藏通道数不变只替换瓶颈的空间/通道混合3. 改进模块核心结构与原理3.1 改进前原始方法详细结构YOLO26 主干每个阶段的 C3k2 先由1 × 1 1\times11×1卷积把输入扩张到2 c 2c2c通道再由若干瓶颈做特征变换最后1 × 1 1\times11×1卷积压缩回c 2 c_2c2通道。瓶颈内部为y C o n v 3 × 3 ( B N ( x ) ) x y\mathrm{Conv}_{3\times3}(\mathrm{BN}(x))xyConv3×3(BN(x))x跨通道的混合由 CSP 骨架上的两个1 × 1 1\times11×1卷积承担。这一结构的线性特征在于主干中所有跨通道的映射都是仿射的。1 × 1 1\times11×1卷积的权重在训练结束后固定它对任何输入都执行同一个线性变换非线性只存在于3 × 3 3\times33×3卷积与激活函数之中。因此若希望「某些通道在当前输入下被放大、某些被抑制」网络只能依靠多个卷积层的叠加去间接逼近而不是由混合算子直接表达。3.2 改进后融合方法详细原理结构本文把 P4/16 与 P5/32 两个阶段的 C3k2 替换为UKANC3k2ultralytics/nn/yolo26_ukan/其余阶段、颈部与检测头逐参数保持原版。UKANC3k2继承 C3k2 的 CSP 拓扑与隐藏通道数c ⌊ c 2 e ⌋ c_\lfloor c_2e\rfloorc⌊c2e⌋仅把瓶颈换成Conv1×1 → UKANBlock → Conv1×1的组合。KANLinear的参数化为经典 KAN 形式样条权重W ∈ R C o u t × C i n × 7 W\in\mathbb{R}^{C_{out}\times C_{in}\times 7}W∈RCout×Cin×7结点向量为[ − 1 , 1 ] [-1,1][−1,1]上均匀分布的 11 个结点7 个三次 B 样条基函数另有线性基项权重W b a s e ∈ R C o u t × C i n W_{base}\in\mathbb{R}^{C_{out}\times C_{in}}Wbase∈RCout×Cin。前向过程为x ← tanh ⁡ ( x ) x\leftarrow\tanh(x)x←tanh(x)→ 用 Cox-de Boor 递推求出B b ( x i ) B_b(x_i)Bb(xi)b 1..7 b1..7b1..7→ 样条项∑ o ∑ i ∑ b W [ o , i , b ] B b ( x i ) \sum_o\sum_i\sum_b W[o,i,b]B_b(x_i)∑o∑i∑bW[o,i,b]Bb(xi)与基项W b a s e x W_{base}xWbasex相加。UKANBlock的数据流为3 × 3 3\times33×3深度卷积 BN局部先验→1 × 1 1\times11×1卷积投影到C CC通道 → 展平为( B , L , C ) (B,L,C)(B,L,C)令牌序列并按g 4 g4g4组划分 → 每组独立施加KANLinearC → C C\to CC→C→ 还原为( B , C , H , W ) (B,C,H,W)(B,C,H,W)→ BatchNorm SiLU。令 KAN 与深度卷积并行而非串联使局部纹理与全局非线性在同一次前向中同时可得。Fig. 2 | 样条KAN令牌主干模块核心结构Fig. 2 |该模块的内部数据流。左列为输入与前置处理中列为并行支路右列为路由/融合与输出。图中标注了每一级的张量变换箭头方向即信息流方向浅绿色为本文引入的算子、浅金色为原方法保留但被重新赋义的算子。3.3 核心公式与优化目标对照Fig. 3 | 原始方法与融合方法的核心公式与优化目标对照Fig. 3 |左列为原始 YOLO26 的对应表达右列为融合 U-KAN 之后的表达。两列逐行对应可直接读出「哪一步的数学形式发生了变化」。环节原始 YOLO26环节融合 U-KAN 后的 YOLO26通道混合y W · x bW ∈ R^(C_out×C_in)基函数B_b(x_n,i)b 1…7三次 B 样条t ∈ R¹¹非线性来源仅来自卷积与激活函数通道混合本身是仿射的样条权重W ∈ R^(C_out×C_in×7)对每个输入坐标独立可学习每坐标的贡献一个标量权重 w_i对所有输入取值相同通道混合y Σ_i Σ_b W[o,i,b]·B_b(x_n,i) W_base·x_n表达力边界需要靠层数堆叠才能逼近复杂的多变量函数令牌化实现x ∈ R^(B,L,C) → 组内 KAN → 还原为 (B,C,H,W)**关键差异**关键差异线性层为每个输入坐标只提供一个标量权重而 KAN 为每个输入坐标提供一条可学习的样条函数使通道混合本身具备非线性表达能力。4. 整合融合方法总览把样条KAN令牌主干放回 YOLO26 的完整链路中得到的模型记为YOLO26-U-KAN。下图给出融合后的完整网络结构虚线框与浅绿填充标出被替换的节点其余节点与原版逐位一致。Fig. 4 | 融合 U-KAN 后的 YOLO26 完整网络结构Fig. 4 |Backbone → Neck(PAN-FPN) → Head 的三段式拓扑保持不变仅在图中标注的节点上发生替换。图中同时给出各节点的输出尺度标注便于核验特征金字塔的 P3/P4/P5 划分未被破坏。4.1 各模块的优势、特点与原理模块 / 机制优势与特点原理样条展开 $y\sum_o\sum_i\sum_b W[o,i,b]B_b(x_i)$每个输入坐标对应一条可学习曲线而非标量权重在不加深网络的前提下把通道混合从仿射扩展为非线性线性基项样条项的残差式组合训练初期即等价于一个普通线性层基项按 Kaiming 初始化、样条权重按小方差初始化保证起点稳定令牌化 KAN混合发生在全局而非局部窗口展平为 $(B,L,C)$ 后 KAN 对每个令牌做通道维混合跨越整张特征图与深度卷积并行的结构局部归纳偏置不被牺牲卷积负责空间细节、KAN 负责通道非线性二者职责不冲突基函数可单独可视化为「主干到底学到了什么映射」提供诊断手段每条 B 样条曲线都可导出为函数图可与检测失效样本对照分析4.2 为什么这一处是正确的挂载点KAN 的价值在于提升单位参数的非线性表达能力而这一收益只有在通道数足够、且上下文已经成形的阶段才能兑现。浅层特征的通道高度冗余样条基函数在那里容易过拟合深层颈部之后的特征已被压缩成待分类的语义再复杂的非线性也难以改变检测结论。因此把 KAN 放在 P4/16 与 P5/32既保证了足够的通道宽度又处在语义正在成形的关键位置。5. 适合写进论文的创新点表述一点通参考从而举一反三以下三条可参考作为论文「方法」章节的创新点陈述。每一条都同时包含了「问题—机制—可验证的设计约束」三要素避免了「换了个模块」式的空泛表述。创新点 1提出UKANC3k2 样条主干阶段在 YOLO26 主干的 P4/16 与 P5/32 处把 C3k2 的通道混合从仿射的1 × 1 1\times11×1卷积升级为B 样条 KAN 展开y ∑ o ∑ i ∑ b W [ o , i , b ] B b ( x i ) y\sum_o\sum_i\sum_b W[o,i,b]B_b(x_i)y∑o∑i∑bW[o,i,b]Bb(xi)使主干在不增加深度与显著参数量C 2 × 7 C^2\times7C2×7与C 2 C^2C2同阶的前提下获得非线性通道混合能力把「非线性只存在于卷积内部」这一结构性限制彻底移除。创新点 2提出卷积-样条并行的混合原语以3 × 3 3\times33×3深度卷积承担局部归纳偏置、以令牌化 KAN 承担全局通道非线性二者在同一块内并行而非串联从而在不牺牲空间归纳偏置的前提下引入样条表达力——这与 U-KAN 原文「纯令牌化 KAN」的取舍不同是对密集预测任务的针对性适配。创新点 3提出CSP 拓扑内的样条插入范式通过UKANC3k2在保持 YOLO26 的隐藏通道比例、阶段尺度划分与端到端检测头完全不变的前提下嵌入 KAN使「主干表达力升级」与「特征金字塔拓扑不变」两个变量解耦为论文提供了干净的因果归因链条。6. 原网络与融合后特点对比Fig. 5 | 原始 YOLO26 与融合后 YOLO26 的特性对比Fig. 5 |逐维度对比原始 YOLO26 与 YOLO26-U-KAN 在同一组评价维度上的差异涵盖卷积/混合算子的性质、感受野与多尺度机制、跨尺度信息交换方式、初始化的数值性质以及训练稳定性。对比维度原始 YOLO26融合后 YOLO26U-KAN通道混合算子1×1 卷积仿射B 样条 KAN非线性逐坐标一条曲线局部归纳偏置由 3×3 卷积承担DWConv 保留KAN 只负责通道维混合可学习参数形态C_out×C_in 的矩阵C_out×C_in×7 的样条张量线性基项非线性来源只在卷积/激活处通道混合本身即非线性计算开销O(L·C²)O(L·C·C·B)B7常数因子略高但结构轻量适配 YOLO26 的方式—UKANC3k2 替换 P4/16、P5/32 的 C3k2颈部与检测头不动写在最后学术因方向、个人实验和写作能力以及具体创新内容的不同而无法做到一通百通关注UPAi学术叫叫兽在所有资料中留下联系方式以便在科研之余为家人们答疑解惑本up主获得过国奖发表多篇SCI擅长目标检测领域拥有多项竞赛经历拥有软件著作权核心期刊等经历。因为经历过所以更懂小白的痛苦因为经历过所以更具有指向性的指导祝所有科研工作者都能够在自己的领域上更上一层楼

YOLO26最新创新改进系列：样条KAN令牌主干，1×1 卷积给每个通道一个固定权重：让 YOLO26 的主干用样条函数去表达非线性！

相关推荐

人生有哪些突破：辞掉稳妥的工作去做一件自己真正在意的事、搬到一个谁也不认识的城市、把攒了三年的钱投进一个还没验证的产品、四十岁去学一门和本职毫无关系的技能、把“不好意思开口“的那句话认真说一遍

写给果酒创业者｜十一月，我们打算这么干[特殊字符]

RK3588上手笔记：1、MobaXterm连接与串口接收解析

更多资讯

GitHub热榜技术趋势：AI工具链与多语言框架解析

RAGFlow Redis连接器性能调优实战指南

Anaconda国内镜像下载与配置优化指南

SQLFlow + XGBoost：SQL 实现房价回归训练预测解释

医疗AI视觉模型训练：强化学习与监督学习的对比与实践

实测MiMo2.6Pro：中文指令跟随与长文本抽取亮眼，代码生成仍需把关

今日更新

PLFM_RADAR：从被动告警到主动感知的微服务健康监控系统

SPI隔离设计实战：MAX14431BAEE+与STM32F407工业级应用

数字隔离器如何根治SPI通信地环路干扰：MAX14431与TM4C129实战

本周精选

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

基于DRV8818与STM32的双极步进电机驱动方案实战解析

DRV8818PWPR+PIC18F45K80双极步进电机控制方案实战

本月热门

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

基于DRV8818与STM32的双极步进电机驱动方案实战解析

DRV8818PWPR+PIC18F45K80双极步进电机控制方案实战

读完文章，想聊聊您的网站？