尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
CANN/cannbot-skills归约类Tiling算法
Reduction 归约类 — 通用 Tiling 算法【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skills归约类算子的通用 Tiling 建模合轴 → 五模板选型 → UB 预算 → 多核切分。 适用 ReduceSum、ReduceMax、Softmax、LayerNorm、ArgMax 及同类 Norm 算子。1. 适用算子算子类型沿 R 轴的典型计算模板选型注意点ReduceSum / ReduceMax单次归约标准 UB 预算Sum 可选二分累加Softmaxmax → exp → sum → div多遍流水Recompute 需重读原数据LayerNorm / RMSNormmean → var → normalize两个关联统计量分载时用 WelfordArgMax / ArgMin归约 索引跟踪启用 with_index 增强2. 文档索引文档内容tiling-flow.md五模板决策树、UB 预算公式、可选增强tiling-fields.mdTilingData 字段语义script/reduction_tiling.py参考实现简化版预算example/实践案例Softmax 等3. 输入与输出输入shapeaxes原始张量形状与归约轴dtypeFP32 / FP16 / BF16op_typesum / max / softmax / norm / argmax 等影响可选增强平台参数ub_size单核 UB 可用字节、core_num可用核数输出选定模板五选一TilingData形状参数、切分粒度、多核分配、尾块信息可选增强标志Group Reduce、Welford、二分累加、索引跟踪4. 推导流程概览Step 0 合轴 → (A1, R, A0) Step 1 A01 ? AR 族 : ARA 族 Step 2 按 R 与 UB 容量选模板SmallR / FullLoad / Recompute Step 3 计算 UB 切分粒度与多核分配 Step 4 可选启用 Group Reduce / Welford / 二分累加 / With-Index详细决策树与公式见 tiling-flow.md。5. Agent 使用指南为新的归约类算子如 LayerNorm、RMSNorm生成 Tiling 方案时读通用算法— tiling-flow.md 中的五模板决策树分析算子数学— 列出沿 R 轴需要的中间量如 max、sum、var及每步的 buffer 需求调整 UB 预算— 在通用公式基础上按算子的中间 buffer 数量修正分母/预留字节参考实践案例— example/softmax/experience.md 展示了 Softmax 四步流水如何映射到模板选型6. 实践案例算子案例文档说明Softmaxexample/softmax/experience.md数学流程 → 模板映射 → 预算修正7. 贡献新案例在fallback/example/下创建算子名目录如layernorm/描述该算子如何复用五模板及预算差异。 通用决策逻辑保持在fallback/根目录案例目录只记录算子特有的数学映射与参数修正。【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skills创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED

相关推荐

汇编语言——实验2:从求和到排序:分支与循环的综合实战

汇编语言——实验2:从求和到排序:分支与循环的综合实战

1. 从求和到排序:汇编实验的进阶之路第一次接触汇编语言时,很多人会被那些晦涩难懂的指令和寄存器搞得晕头转向。记得我刚开始学汇编时,光是理解"MOV AX, BX"这样的指令就花了整整一个下午。但当你真正动手写代码后,会发…

📅 2026/10/14 17:51:26
Cosmopolitan Libc:C/C++跨平台开发新范式,一次编译多平台运行

Cosmopolitan Libc:C/C++跨平台开发新范式,一次编译多平台运行

1. 项目概述:一次构建,到处运行,这真的可能吗?如果你是一名C或C开发者,肯定对“跨平台”这三个字又爱又恨。爱的是,它意味着你的代码能触及更广阔的用户和设备;恨的是,为了实现它&am…

📅 2026/10/9 14:45:53
自然语言处理模型训练全流程优化:从数据准备到生产部署

自然语言处理模型训练全流程优化:从数据准备到生产部署

自然语言处理模型训练看似简单,但真正能训练出高质量模型的开发者却不多。斯坦福大学的研究揭示了一个惊人事实:当训练数据的错误率超过5%,即使是顶尖AI模型的性能也会急剧下降。这不仅仅是数据质量问题,更涉及到训练过程中的一系…

📅 2026/10/7 4:29:05
MORE NEWS

更多资讯

📰

宜阳县电工证丢了怎么补办保姆级教程:缺证就缺饭碗,这份教程帮你稳稳上岗

宜阳县电工证丢了怎么补办保姆级教程:缺证就缺饭碗,这份教程帮你稳稳上岗 你是不是正愁着手上没电工证,找工作处处碰壁?宜阳县电工证丢了补办流程复杂又耗时,但要是不补,工作机会可能就溜走了。别急,这是一份保姆级的补办教程,帮你快速恢复证件,重新…

📰

原阳电工证考试时间怎么安排 上岗必备干货全在这里

原阳电工证考试时间怎么安排 上岗必备干货全在这里 工地太忙根本没时间复习考试,这是很多电工从业者的真实写照,尤其是刚转岗的小伙伴,既要面对繁重的施工任务,又要为原阳电工证考试时间做准备,焦虑感直接拉满。原阳电工证考试时间每年固定安排在几个时…

📰

高级电工证比大专好吗?内部消息:实操考试心里没底怕挂科别慌

高级电工证比大专好吗?内部消息:实操考试心里没底怕挂科别慌 实操考试心里没底怕挂科,这几乎是每个准备考电工证的人心头最大的疙瘩。尤其像开封房建工程这样的岗位,电工证不仅是上岗门槛,更是你职业发展的敲门砖。但很多人会纠结:“…

📰

高处作业特种工实操考试心里没底怕挂科?保姆级教程帮你一次过

高处作业特种工实操考试心里没底怕挂科?保姆级教程帮你一次过 你是不是正盯着“高处作业特种工”的实操考试发愁?担心自己操作不规范、细节没掌握好,一不小心就挂科?别急,本文就是你急需的 保姆级教程…

📰

原阳电工证考试时间保姆级教程:外省证能转吗?附薪资前景全解析

原阳电工证考试时间保姆级教程:外省证能转吗?附薪资前景全解析 之前考的证在外省能不能转过来?这个事别急,咱们一步步来。特别是你手上拿着的电工证,不管是高压还是低压,现在都越来越吃香,但很多人因为不了解政策,错失了不少机会。别担心,今天就给你…

📰

电工证怎么审核毕业证 上岗必备的硬门槛别踩坑

电工证怎么审核毕业证 上岗必备的硬门槛别踩坑 找工作时缺的不是力气,是资格证,特别是电工证,这几乎是很多岗位的“上岗必备”。很多人以为考个电工证简单,但其实从报名、审核毕业证到考试、复审,每一步都有讲究。特别是毕业证审核这块,很多人因为不了…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬