CANN/ge ACL算子编译接口-北京尧图网络

aclopCompile【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√功能说明编译指定算子。在编译算子前可以调用aclSetCompileopt接口设置编译选项。每个算子的输入、输出组织不同在调用接口时严格按照算子输入、输出参数来组织算子用户在调用aclopCompile时接口会根据optype、输入tensor的描述、输出tensor的描述、attr等信息查找对应的任务再编译算子。函数原型aclError aclopCompile(const char *opType, int numInputs, const aclTensorDesc *const inputDesc[], int numOutputs, const aclTensorDesc *const outputDesc[], const aclopAttr *attr, aclopEngineType engineType, aclopCompileType compileFlag, const char *opPath)参数说明参数名输入/输出说明opType输入算子类型名称的指针。numInputs输入算子输入tensor的数量。inputDesc输入算子输入tensor的描述的指针数组。需提前调用aclCreateTensorDesc接口创建aclTensorDesc类型。inputDesc数组中的元素个数必须与numInputs参数值保持一致。numOutputs输入算子输出tensor的数量。outputDesc输入算子输出tensor的描述的指针数组。需提前调用aclCreateTensorDesc接口创建aclTensorDesc类型。outputDesc数组中的元素个数必须与numOutputs参数值保持一致。attr输入算子属性的指针。需提前调用aclopCreateAttr接口创建aclopAttr类型。engineType输入算子执行引擎。compileFlag输入算子编译标识。opPath输入算子实现文件*.py的路径的指针不包含文件名。预留参数当前仅支持设置为nullptr。返回值说明返回0表示成功返回其他值表示失败请参见aclError。约束说明编译动态Shape的算子时如果Shape具体值不明确但Shape范围明确则在调用aclCreateTensorDesc接口创建aclTensorDesc类型时需要将dims数组的表示动态维度的元素值设置为-1再调用aclSetTensorShapeRange接口设置tensor的各个维度的取值范围如果Shape具体值以及Shape范围都不明确该场景预留则在调用aclCreateTensorDesc接口创建aclTensorDesc类型时需要将dims数组的值设置为-2例如int64_t dims[] {-2}。编译有可选输入的算子时如果可选输入不使用则需按此种方式创建aclTensorDesc类型的数据aclCreateTensorDesc(ACL_DT_UNDEFINED, 0, nullptr, ACL_FORMAT_UNDEFINED)表示数据类型设置为ACL_DT_UNDEFINEDFormat设置为ACL_FORMAT_UNDEFINEDShape信息为nullptr。编译有constant输入的算子时需要先调用aclSetTensorConst接口设置constant输入。调用aclopCompile接口、aclopExecuteV2接口前设置的constant输入数据必须保持一致。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

CANN/ge ACL算子编译接口

相关推荐

AI工程落地刻度尺：从论文指标到产线KPI的转换方法论

TanStack Preact Query 实战指南：在 Preact 中构建强大的异步数据获取与缓存层

GrapesJS DataRecord 深度指南：数据源单条记录的结构、路径寻址与变更事件

更多资讯

Starship Pastel Powerline 预设实战指南：安装配置与路径替换原理

LlamaIndex BM25Retriever 完全指南：基于 bm25s 的稀疏词法检索器实现原理与实战

CANN/ge算子动态输出数量获取

探索未来通讯新体验：AyuGram - 更加精致的Telegram客户端

Calibre 电子书格式转换教程：30 秒完成第一次转换，一键批量处理整个书库

STM32G474核心外设解析：从HRTIM到数字电源与电机控制实战

今日更新

CopilotKit Vue Demo 与 React Demo 的 Parity 实现指南：路由、运行时端点与交互语义的全框架对齐

Harbor RBAC 实战：db_auth 模式下非管理员用户管理项目成员的完整验证与权限模型解析

STM32平衡车纯平衡程序从拆包到参数整定的完整调试指南

本周精选

超人会飞不算本事：系统稳定依赖清晰规则与边界设计

超人VS蜘蛛侠：拆解超级IP的影响力与传播方法论

基于CNN的调制信号识别：MATLAB实现时频图分类实战

本月热门

基于YOLO的焊缝缺陷检测：从数据标注到工业部署全流程实践

分布式服务的决策记录

创业产品的首版范围

读完文章，想聊聊您的网站？