CANN/asc-devkit：TPipe内存池初始化-北京尧图网络

InitBufPool【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品支持Kirin X90支持Kirin 9030支持功能说明头文件路径为basic_api/kernel_tpipe.h。初始化TBufPool内存资源池。本接口适用于内存资源有限时希望手动指定UB/L1内存资源复用的场景。本接口初始化后在整体内存资源中划分出一块子资源池。划分出的子资源池TBufPool提供了如下方式进行资源管理TPipe::InitBufPool的重载接口指定与其他TBufPool子资源池复用;TBufPool::InitBufPool接口对子资源池继续划分TBufPool::InitBuffer接口分配Buffer关于TBufPool的具体介绍及资源划分图示请参考TBufPool。函数原型template class T __aicore__ inline bool InitBufPool(T bufPool, uint32_t len) template class T, class U __aicore__ inline bool InitBufPool(T bufPool, uint32_t len, U shareBuf)参数说明表1模板参数说明参数名描述TbufPool的类型。UshareBuf的类型。表2参数说明参数名输入/输出描述bufPool输入新划分的资源池类型为TBufPool。len输入新划分资源池长度单位为Byte非32Bytes对齐会自动补齐至32Bytes对齐。shareBuf输入被复用资源池类型为TBufPool新划分资源池与被复用资源池共享起始地址及长度。约束说明新划分的资源池与被复用资源池的硬件属性需要一致两者共享起始地址及长度输入长度需要小于等于被复用资源池长度其他泛用约束参考TBufPool。返回值说明无调用示例由于物理内存的大小有限在计算过程没有数据依赖的场景或数据依赖串行的场景下可以通过指定内存复用解决资源不足的问题。完整算子样例参考tbufpool_management样例。// 声明一个指向TPipe管道对象的指针 AscendC::TPipe* pipe; // 定义两个子资源池对象tbufPool1和tbufPool2 AscendC::TBufPoolAscendC::TPosition::VECCALC tbufPool1, tbufPool2; // 初始化第一个子资源池tbufPool1 pipe-InitBufPool(tbufPool1, bufSize * 3); // 初始化第二个子资源池tbufPool2并指定tbufPool2复用tbufPool1的起始地址及长度 pipe-InitBufPool(tbufPool2, bufSize * 3, tbufPool1); // 计算串行不存在数据踩踏实现了内存复用及自动同步的能力 tbufPool1.InitBuffer(srcQue0, 1, bufSize); tbufPool1.InitBuffer(srcQue1, 1, bufSize); tbufPool1.InitBuffer(dstQue0, 1, bufSize); CopyIn(); Compute(); CopyOut(); tbufPool1.Reset(); tbufPool2.InitBuffer(srcQue2, 1, bufSize); tbufPool2.InitBuffer(srcQue3, 1, bufSize); tbufPool2.InitBuffer(dstQue1, 1, bufSize); CopyIn1(); Compute1(); CopyOut1(); tbufPool2.Reset();【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

CANN/asc-devkit：TPipe内存池初始化

相关推荐

WifiBruteCrack性能优化指南：提升破解速度的7个关键设置

Claude API企业级接入与性能优化实战指南

@expo/vector-icons性能优化技巧：让你的React Native应用更流畅

更多资讯

环境变量与 PATH 完全指南：从命令查找到 API 密钥安全的实战手册

MAA 更换主题任务全解析：从任务配置到源码级实现原理

用 fairseq 复现多样化机器翻译混合专家模型：unilm 仓库 translation_moe 实战解析

本地AI助手实战指南：开源代理框架实现零API费用办公自动化

Tasmota Berry 动画框架振荡波形完全指南：oscillator_value 九种模式的原理、DSL 用法与实战效果

BaaS平台选型：InsForge与Supabase、Firebase性能差多少？3组数据讲清楚

今日更新

AI驱动的自动化专利分析平台技术解析

LeetCode-Go 题解：1252. Cells with Odd Values in a Matrix（奇数值单元格计数）双解法剖析

在线答疑系统Java毕设实战：Spring Boot前后端分离与状态流转

本周精选

AI驱动的自动化专利分析平台技术解析

LeetCode-Go 题解：1252. Cells with Odd Values in a Matrix（奇数值单元格计数）双解法剖析

在线答疑系统Java毕设实战：Spring Boot前后端分离与状态流转

本月热门

基于YOLO的焊缝缺陷检测：从数据标注到工业部署全流程实践

分布式服务的决策记录

创业产品的首版范围

读完文章，想聊聊您的网站？