CANN/asc-devkit Rint数学计算接口-北京尧图网络

Rint【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit产品支持情况Ascend 950PR/Ascend 950DT支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品不支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品AI Core不支持Atlas 推理系列产品Vector Core不支持Atlas 训练系列产品不支持功能说明获取与输入数据最接近的整数若存在两个同样接近的整数则获取其中的偶数。计算公式如下举例如下Rint(3.9) 4Rint(3.3) 3Rint(3.5) 4函数原型通过sharedTmpBuffer入参传入临时空间template const RintConfig config DEFAULT_RINT_CONFIG, typename T __aicore__ inline void Rint(const LocalTensorT dst, const LocalTensorT src, const LocalTensoruint8_t sharedTmpBuffer, const uint32_t count)接口框架申请临时空间template const RintConfig config DEFAULT_RINT_CONFIG, typename T __aicore__ inline void Rint(const LocalTensorT dst, const LocalTensorT src, const uint32_t count)由于该接口的内部实现中涉及复杂的数学计算需要额外的临时空间来存储计算过程中的中间变量。临时空间支持开发者通过sharedTmpBuffer入参传入和接口框架申请两种方式。通过sharedTmpBuffer入参传入使用该tensor作为临时空间进行处理接口框架不再申请。该方式开发者可以自行管理sharedTmpBuffer内存空间并在接口调用完成后复用该部分内存内存不会反复申请释放灵活性较高内存利用率也较高。接口框架申请临时空间开发者无需申请但是需要预留临时空间的大小。通过sharedTmpBuffer传入的情况开发者需要为tensor申请空间接口框架申请的方式开发者需要预留临时空间。临时空间大小BufferSize的获取方式如下通过GetRintMaxMinTmpSize中提供的接口获取需要预留空间范围的大小。参数说明表1模板参数说明参数名描述RintConfigRint算法的相关配置。此参数可选配RintConfig类型具体定义如下方代码所示其中参数的含义为isReuseSource是否允许修改源操作数。该参数预留传入默认值false即可。T操作数的数据类型。支持的数据类型为half、float。struct RintConfig { bool isReuseSource; };表2接口参数说明参数名输入/输出描述dst输出目的操作数。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。src输入源操作数。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。源操作数的数据类型与目的操作数保持一致。sharedTmpBuffer输入临时缓存。类型为LocalTensor支持的TPosition为VECIN/VECCALC/VECOUT。用于Rint内部复杂计算时存储中间变量由开发者提供。临时空间大小BufferSize的获取方式请参考GetRintMaxMinTmpSize。count输入参与计算的元素个数。返回值说明无约束说明不支持源操作数与目的操作数地址重叠。不支持sharedTmpBuffer与源操作数和目的操作数地址重叠。操作数地址对齐要求请参见通用地址对齐约束。调用示例完整样例请参考Rint算子样例。通过sharedTmpBuffer入参传入AscendC::TPipe pipe; AscendC::TQueAscendC::TPosition::VECCALC, 1 tmpQue; pipe.InitBuffer(tmpQue, 1, bufferSize); // bufferSize通过Host侧tiling参数获取 AscendC::LocalTensoruint8_t sharedTmpBuffer tmpQue.AllocTensoruint8_t(); // 输入tensor长度为1024,算子输入的数据类型为half,实际计算个数为512 static constexpr AscendC::RintConfig rintConfig {false}; // 不修改源操作数 // dst、src为half类型的LocalTensor AscendC::RintrintConfig, half(dst, src, sharedTmpBuffer, 512);接口框架申请临时空间AscendC::TPipe pipe; AscendC::TQueAscendC::TPosition::VECCALC, 1 tmpQue; pipe.InitBuffer(tmpQue, 1, bufferSize); // bufferSize通过Host侧tiling参数获取 // 输入tensor长度为1024,算子输入的数据类型为half,实际计算个数为512 static constexpr AscendC::RintConfig rintConfig {false}; // 不修改源操作数 // dst、src为half类型的LocalTensor AscendC::RintrintConfig, half(dst, src, 512);结果示例如下输入数据(src): [-1.5, -1.3, -0.9, -0.5, 0.5, 0.9, 1.1, 1.5, 2.2, 2.5, 2.8, 3.2] 输出数据(dst): [-2, -1, -1, 0, 0, 1, 1, 2, 2, 2, 3, 3]【免费下载链接】asc-devkit本项目是CANN 推出的昇腾AI处理器专用的算子程序开发语言原生支持C和C标准规范主要由类库和语言扩展层构成提供多层级API满足多维场景算子开发诉求。项目地址: https://gitcode.com/cann/asc-devkit创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

CANN/asc-devkit Rint数学计算接口

相关推荐

SmoothQuant技术解析：大模型无损量化的关键突破

昇腾C数学计算API使用样例

昇腾C数据过滤临时空间API

更多资讯

达州应急管理局电工证到期换证流程通过率揭秘

电工证鸡泽值不值得考？实操考试心里没底怕挂科怎么办

应急厅有高级电工证通过率揭秘：工地太忙根本没时间复习考试怎么办

安微省电工证办理实操考试考什么

电工证更换教学视频多久拿证？实操考试心里没底怕挂科怎么办

烟台电工证图片保姆级教程：工地太忙根本没时间复习考试？看这篇就够了

今日更新

高压电工证哪里可以挂多久拿证全攻略：实操考试心里没底怕挂科别慌

电工证的理论题目在哪考，外省证怎么转过来

工地太忙根本没时间复习考试，职业学校的电工证值不值得考？

本周精选

安监局电工证分数查询怎么查才能知道含金量高不高

新疆电工作业干活累吗良心建议助你避开考不过的坑

中牟县电工证怎么报名外省证能转吗

本月热门

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

基于DRV8818与STM32的双极步进电机驱动方案实战解析

DRV8818PWPR+PIC18F45K80双极步进电机控制方案实战

读完文章，想聊聊您的网站？