尧图网络 高端网站定制 · 原创设计
免费咨询热线
400-888-6620
免费获取方案
GE图引擎内存管理接口
SetGraphFixedFeatureMemoryBaseWithType【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况产品是否支持Atlas A3 训练系列产品 / Atlas A3 推理系列产品√Atlas A2 训练系列产品 / Atlas A2 推理系列产品√头文件/库文件头文件#include ge/ge_api_v2.h库文件libge_runner_v2.so功能说明用于指定图的不同内存类型的Fixed Feature内存基地址。在调用本接口前必须先调用CompileGraph接口进行图编译内存大小从GetCompiledGraphSummaryGetAllFeatureMemoryTypeSize接口中获取。Feature内存指的是模型执行过程中所需要的中间内存比如中间节点的输入输出等内存。当图中包含Fixed内存但是用户未指定时默认申请Fixed内存。用户可以通过将地址设置为nullptrsize设置为0的方式关闭默认申请Fixed内存的行为内存类型为MEMORY_TYPE_P2P不支持该场景。函数原型Status SetGraphFixedFeatureMemoryBaseWithType(uint32_t graph_id, MemoryType type, const void *const memory, size_t size)参数说明参数名输入/输出说明graph_id输入子图对应的ID。type输入内存类型包含MemoryType::MEMORY_TYPE_DEFAULT、MemoryType::MEMORY_TYPE_P2P。memory输入设置的Fixed Feature内存基地址。size输入设置的Fixed Feature内存大小。一定要大于等于从GetCompiledGraphSummaryGetAllFeatureMemoryTypeSize接口中获取的。返回值说明参数名类型说明-StatusSUCCESS设置成功。FAILED设置失败。约束说明每个Graph每种内存类型只支持设置一次不支持刷新。设置内存类型为MEMORY_TYPE_DEFAULT的Fixed内存地址不能与UpdateGraphFeatureMemoryBase接口同时使用。当Fixed内存长度为0时调用该接口不生效且会生成warning日志提示用户。options参数说明中的ge.exec.staticMemoryPolicy参数设置为4或者GE_USE_STATIC_MEMORY环境变量设置为4时此时动静态图支持内存复用而该接口不支持地址刷新因此动静态图内存复用场景下不支持通过将地址设置为nullptr、size设置为0的方式关闭默认申请Fixed内存的行为。环境变量详细说明请参见《环境变量参考》。【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
RELATED

相关推荐

Impeccable Android 平台设计指南:以 Material 3 为准绳的原生 Android 界面审查与验证实践

Impeccable Android 平台设计指南:以 Material 3 为准绳的原生 Android 界面审查与验证实践

Impeccable Android 平台设计指南:以 Material 3 为准绳的原生 Android 界面审查与验证实践 【免费下载链接】impeccable The design language that makes your AI harness better at design. 项目地址: https://gitcode.com/GitHub_Trending/im/impeccable …

📅 2026/9/10 7:04:31
FreeCAD Placement 对象完全指南:位置与姿态的 Python API 详解

FreeCAD Placement 对象完全指南:位置与姿态的 Python API 详解

FreeCAD Placement 对象完全指南:位置与姿态的 Python API 详解 【免费下载链接】FreeCAD Official source code of FreeCAD, a free and opensource multiplatform 3D parametric modeler. 项目地址: https://gitcode.com/GitHub_Trending/fr/FreeCAD 导读 …

📅 2026/9/10 7:04:31
Shell脚本高级特性实战:从变量、重定向到进程管理的自动化核心能力

Shell脚本高级特性实战:从变量、重定向到进程管理的自动化核心能力

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

📅 2026/9/10 6:59:31
MORE NEWS

更多资讯

📰

考虑多容量电动汽车接入的配电网承载能力评估附Matlab代码

✅作者简介:热爱科研的Matlab仿真开发者,擅长毕业设计辅导、数学建模、数据处理、算法改进、程序设计科研仿真。🍎 往期回顾关注个人主页:完整代码获取 定制创新 论文复现私信🍊个人信条:做科研&#xff0c…

📰

Spring Boot在线视频教育平台:视频上传、转码、鉴权播放全链路实战

简介:这套基于Java与Spring Boot的在线视频教育平台毕业设计资源包,面向高校计算机相关专业毕业生及初入行的Java开发者,完整覆盖从选题开题、系统设计到编码测试的毕业设计全流程。包体约154MB,内含项目源代码、数据库脚本db.sql…

📰

猪源分泌素多肽定制:从序列解析到C端酰胺化的关键点

一看到 “Secretin (porcine) ;HSDGTFTSERLSRLLRDSARLQRLGQGLV-NH₂” 这种订单式标题,做过多肽定制的人多半都会心一笑。这是从固相合成供应商那边复制出来的产品名:前半段告诉你是猪源分泌素,后半段是它的氨基酸单字母序列&…

📰

2026 科普:Work Agent 品类概念、核心能力与代表性产品

近一年很多职场人能感知到一个明显变化:AI 的使用场景正在跳出单纯问答。过去遇到问题,输入关键词拿到一段文字回复,后续整理资料、转成文件、交叉核对、发给同事仍然要由人分步完成;现在不少工具可以顺着一个工作目标&#xff0c…

📰

magnitude不是CLI工具:轻量向量检索库的核心原理与实战

1. 项目概述:一个被误读的“magnitude”——它不是CLI工具,而是向量检索的底层基石最近在多个技术社区和开发者群聊里,频繁看到有人搜索“magnitude CLI”“magnitude inference server”“magnitude local models”,甚至混搭出“…

📰

基于类Sagnac干涉仪的矢量光束生成与VirtualLab Fusion仿真

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

TODAY

今日更新

THIS WEEK

本周精选

THIS MONTH

本月热门

读完文章,想聊聊您的网站?

告诉我们您的行业与需求,资深顾问一对一梳理方案与报价,全程免费。

📞 💬