尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
CANN AscendC FMA临时缓冲区因子大小获取
GetFmaTmpBufferFactorSize【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit功能说明该接口用于获取maxLivedNodeCount和extraBuf在固定空间大小的情况下通过maxLivedNodeCount和extraBuf可以推算算子单次最大计算元素数量。maxLivedNodeCount表示临时空间是单次计算数据量所占空间的多少倍extraBuf表示使用的额外临时空间大小。推算示例如下算子实现需要调用Fma接口开发者为其预留currBuff大小的空间利用GetFmaTmpBufferFactorSize接口得到maxLivedNodeCount、extraBuf输出值可推导算子单次最大计算元素数量为currentShapeSize (currBuff - extraBuf) / maxLivedNodeCount / typeSize算子实现需要调用两个kernel侧API KernelIntf1、KernelIntf2利用两个GetXxxTmpBufferFactorSize其中Xxx为需要调用的两个高阶API接口的两组输出值(maxLivedNodeCount、extraBuf)以及当前现有的临时空间推导单次最大计算元素数量currentShapeSize为currentShapeSize1 (currBuff - extraBuf1) / maxLivedNodeCount1 / typeSizecurrentShapeSize2 (currBuff - extraBuf2) / maxLivedNodeCount2 / typeSizecurrentShapeSize min(currentShapeSize1, currentShapeSize2)注意上文中的currBuff表示接口计算可用的空间需要去除用户输入输出等空间另外接口获取的maxLivedNodeCount值可能为0计算时需要判断该值非0避免除零错误。函数原型void GetFmaTmpBufferFactorSize(const platform_ascendc::PlatformAscendC ascendcPlatform, const uint32_t typeSize, uint32_t maxLivedNodeCount, uint32_t extraBuf)参数说明表1参数列表参数名输入/输出功能ascendcPlatform输入输入的平台信息。PlatformAscendC的定义请参见构造及析构函数。typeSize输入输入的数据类型大小单位为字节。比如输入的数据类型为half此处应传入2。maxLivedNodeCount输出最大存活节点数表示临时空间是单次计算数据量所占空间的多少倍。extraBuf输出使用的额外临时空间大小单位为字节。返回值说明无约束说明当利用maxLivedNodeCount、extraBuf反推出的currentShapeSize * typeSize 256B时currentShapeSize按照256B/typeSize的值向上取整。调用示例完整的调用样例请参考更多样例。uint32_t maxLivedNodeCount 0; uint32_t extraBuf 0; auto plat platform_ascendc::PlatformAscendC(context-GetPlatformInfo()); AscendC::GetFmaTmpBufferFactorSize(plat, typeSize, maxLivedNodeCount, extraBuf);【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED

相关推荐

AI编程工具横评:Cursor、Claude Code与Copilot在真实开发流中的协同逻辑

AI编程工具横评:Cursor、Claude Code与Copilot在真实开发流中的协同逻辑

1. 这场横评不是选“最聪明”的AI,而是找“最懂你写代码节奏”的搭档 2026年春天,我清空了IDE里所有AI编程插件,重新装上Cursor、Claude Code和GitHub Copilot Pro,用同一套真实项目——一个基于Spring Boot 3.3 React 19的供应链…

📅 2026/9/9 17:55:19
CANN/asc-devkit Exp指数函数接口

CANN/asc-devkit Exp指数函数接口

Exp 【免费下载链接】asc-devkit 本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。 项目地址: https://gitcode.com/cann/a…

📅 2026/9/1 11:15:20
AscendC Erfc临时空间接口

AscendC Erfc临时空间接口

GetErfcMaxMinTmpSize 【免费下载链接】asc-devkit 本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言,原生支持C和C标准规范,主要由类库和语言扩展层构成,提供多层级API,满足多维场景算子开发诉求。 项目地址: https://g…

📅 2026/9/6 0:57:48
MORE NEWS

更多资讯

📰

深入理解ESP32 SmartConfig协议原理与工程实践

1. SmartConfig不是“一键配网”,而是乐鑫生态里最被低估的通信协议层设计SmartConfig这个词,在ESP32开发圈里常被简化成“手机APP发WiFi密码给设备”,听起来像魔法——但真正用过的人很快会发现:它既不稳定,又难调试&…

📰

微信小程序开发入门:从零构建Hello World应用

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

大数据时代数据质量管理实战指南

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📰

阿里开源Agent项目深度拆解:大模型如何真正学会“干活”

这几天技术圈里好几个群都在刷同一个话题:“阿里开源了一个神级Agent项目”。说实话,“开源AI”的标题我每天都能刷到一堆,一开始也没太当回事。后来连看了几个演示视频、又在本地跑通了源码仓库,我才觉得这事确实值得认真聊一聊。…

📰

本地大模型部署实战:Ollama、Transformers与llama.cpp全攻略

去年年底开始接触本地大模型部署,起因很简单:几个业务场景需要处理内部文档和代码,数据不能出内网,调用云端API又贵又担心隐私,干脆自己动手把模型拉到本地跑。这半年多下来,Ollama、transformers、llama.c…

📰

WINCC+SQL Server+VBS实现配方导入与自动报表生成实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬