尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
CANN/cannbot-skills归约类Tiling算法
Reduction 归约类 — 通用 Tiling 算法【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skills归约类算子的通用 Tiling 建模合轴 → 五模板选型 → UB 预算 → 多核切分。 适用 ReduceSum、ReduceMax、Softmax、LayerNorm、ArgMax 及同类 Norm 算子。1. 适用算子算子类型沿 R 轴的典型计算模板选型注意点ReduceSum / ReduceMax单次归约标准 UB 预算Sum 可选二分累加Softmaxmax → exp → sum → div多遍流水Recompute 需重读原数据LayerNorm / RMSNormmean → var → normalize两个关联统计量分载时用 WelfordArgMax / ArgMin归约 索引跟踪启用 with_index 增强2. 文档索引文档内容tiling-flow.md五模板决策树、UB 预算公式、可选增强tiling-fields.mdTilingData 字段语义script/reduction_tiling.py参考实现简化版预算example/实践案例Softmax 等3. 输入与输出输入shapeaxes原始张量形状与归约轴dtypeFP32 / FP16 / BF16op_typesum / max / softmax / norm / argmax 等影响可选增强平台参数ub_size单核 UB 可用字节、core_num可用核数输出选定模板五选一TilingData形状参数、切分粒度、多核分配、尾块信息可选增强标志Group Reduce、Welford、二分累加、索引跟踪4. 推导流程概览Step 0 合轴 → (A1, R, A0) Step 1 A01 ? AR 族 : ARA 族 Step 2 按 R 与 UB 容量选模板SmallR / FullLoad / Recompute Step 3 计算 UB 切分粒度与多核分配 Step 4 可选启用 Group Reduce / Welford / 二分累加 / With-Index详细决策树与公式见 tiling-flow.md。5. Agent 使用指南为新的归约类算子如 LayerNorm、RMSNorm生成 Tiling 方案时读通用算法— tiling-flow.md 中的五模板决策树分析算子数学— 列出沿 R 轴需要的中间量如 max、sum、var及每步的 buffer 需求调整 UB 预算— 在通用公式基础上按算子的中间 buffer 数量修正分母/预留字节参考实践案例— example/softmax/experience.md 展示了 Softmax 四步流水如何映射到模板选型6. 实践案例算子案例文档说明Softmaxexample/softmax/experience.md数学流程 → 模板映射 → 预算修正7. 贡献新案例在fallback/example/下创建算子名目录如layernorm/描述该算子如何复用五模板及预算差异。 通用决策逻辑保持在fallback/根目录案例目录只记录算子特有的数学映射与参数修正。【免费下载链接】cannbot-skillsCANNBot 是面向 CANN 开发的用于提升开发效率的系列智能体本仓库为其提供可复用的 Skills 模块。项目地址: https://gitcode.com/cann/cannbot-skills创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED

相关推荐

汇编语言——实验2:从求和到排序:分支与循环的综合实战

汇编语言——实验2:从求和到排序:分支与循环的综合实战

1. 从求和到排序:汇编实验的进阶之路第一次接触汇编语言时,很多人会被那些晦涩难懂的指令和寄存器搞得晕头转向。记得我刚开始学汇编时,光是理解"MOV AX, BX"这样的指令就花了整整一个下午。但当你真正动手写代码后,会发…

📅 2026/8/24 2:37:09
Cosmopolitan Libc:C/C++跨平台开发新范式,一次编译多平台运行

Cosmopolitan Libc:C/C++跨平台开发新范式,一次编译多平台运行

1. 项目概述:一次构建,到处运行,这真的可能吗?如果你是一名C或C开发者,肯定对“跨平台”这三个字又爱又恨。爱的是,它意味着你的代码能触及更广阔的用户和设备;恨的是,为了实现它&am…

📅 2026/8/24 2:37:09
自然语言处理模型训练全流程优化:从数据准备到生产部署

自然语言处理模型训练全流程优化:从数据准备到生产部署

自然语言处理模型训练看似简单,但真正能训练出高质量模型的开发者却不多。斯坦福大学的研究揭示了一个惊人事实:当训练数据的错误率超过5%,即使是顶尖AI模型的性能也会急剧下降。这不仅仅是数据质量问题,更涉及到训练过程中的一系…

📅 2026/9/9 19:50:20
MORE NEWS

更多资讯

📰

AI时代开源项目信任管理:Vouch机制解析与实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

PHP中草药查询系统:单表设计+全文检索实战

简介:本资源是一套基于PHP开发的中草药数据查询网站模板,面向计算机专业学生及Web开发初学者,解决中医药知识数字化查询与快速建站需求,适用于毕业设计、课程设计或小型工具类项目实践。压缩包共8个文件,含2个核心PHP后…

📰

Vector 移除 `http` source 与 `greptimedb` sink 废弃别名:升级迁移完整指南

Vector 移除 http source 与 greptimedb sink 废弃别名:升级迁移完整指南 【免费下载链接】vector A high-performance observability data pipeline. 项目地址: https://gitcode.com/GitHub_Trending/vect/vector Vector 在其 breaking change 变更记录 cha…

📰

别再抄减肥食谱了!用体脂率和基础代谢定制你的饮食方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

Automatisch 连接 Mailchimp:OAuth 应用注册与连接配置实战指南

Automatisch 连接 Mailchimp:OAuth 应用注册与连接配置实战指南 【免费下载链接】automatisch The open source Zapier alternative. Build workflow automation without spending time and money. 项目地址: https://gitcode.com/GitHub_Trending/au/automatisch…

📰

lowcode-engine 文档模型 DocumentModel 完全指南:属性、方法、事件与源码级实现解析

lowcode-engine 文档模型 DocumentModel 完全指南:属性、方法、事件与源码级实现解析 【免费下载链接】lowcode-engine An enterprise-class low-code technology stack with scale-out design / 一套面向扩展设计的企业级低代码技术体系 项目地址: https://gitco…

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬