CANN/GE图切分保存接口-北京尧图网络

ShardGraphsToFile【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge产品支持情况Ascend 950PR/Ascend 950DT不支持Atlas A3 训练系列产品/Atlas A3 推理系列产品不支持Atlas A2 训练系列产品/Atlas A2 推理系列产品支持Atlas 200I/500 A2 推理产品不支持Atlas 推理系列产品支持Atlas 训练系列产品支持MC62CM12A AI处理器不支持BS9SX2A AI处理器不支持BS9SX1A AI处理器不支持IPV350不支持头文件/库文件头文件#include ge/ge_api.h库文件libge_runner.so功能说明该接口已废弃请勿使用。大模型分布式编译切分场景下使用Graph太大场景下需要调用该接口进行切分图并将切分后的图保存为pb文件。切分图接口对Session内的图按照AddGraph的顺序进行切分切分后的图保存为pb文件。切分方式由options参数说明中的ge.graphParallelOptionPath参数配置若未开启并行切分功能则接口不会进行切分。切分后的图命名规则若工作在SPMD模式切分后的图的命名规则为{原图名}_{ClusterId}_{ItemId}_{ChipId}_{VirtualStageId}_{原图GraphId}切分后的图的个数将为原图的个数*切分份数。若工作在非SPMD模式切分后的图命名规则为{原图名}_{原图GraphId}切分后的图的个数将等于原图个数。切分图以后原图将不在Session内存在生成的新的切分后图的GraphId将使用其他ID替代原图的GraphId。该接口与SaveGraphsToPb接口区别ShardGraphsToFile适用于大模型分布式编译切分场景而SaveGraphsToPb适用于任何图。该接口与ShardGraphs接口区别ShardGraphsToFile可以完成搜索策略、图的切分并输出切分后的图等文件切分后的图也通过该接口落盘file_path参数必须指定有效路径。而ShardGraphs完成搜索策略、图的切分并输出切分后的图等文件后切分后的图保存在内存中然后通过SaveGraphsToPb落盘。函数原型Status ShardGraphsToFile(const char_t *file_path ./) const参数说明参数名输入/输出说明file_path输入保存图和权重的目录必须为一个合法路径。如果该参数为空则只进行切分图不生成pb文件。返回值说明参数名类型说明-StatusSUCCESS成功FAILED失败约束说明当前仅在并行切分模式开启时生效。调用示例Session session(options); // options中已开启并行切分功能 Graph init_graph(init_graph); Graph first_graph(first_graph); Graph second_graph(second_graph); session.ShardGraphsToFile(/xxx/graph_path);【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

CANN/GE图切分保存接口

相关推荐

开题报告连遭三次打回？测完7类AI工具，我整理出这份分阶段选型指南

OpenCore Legacy Patcher：四步把老 Mac 升级 macOS 装完（附 U 盘容量与耗时参考）

从零构建 Claude Code 式编码 Harness：基于 CrewAI、E2B 与 OpenRouter 的分层 Agent 实现

更多资讯

HyperFrames 完整能力清单：OpenMontage 中从网站到确定性视频的 24 项核心能力全解

职场成长记录：作品集与案例库构建指南

实时语音处理技术：核心模块与工程优化实践

COMSOL折叠功能在多物理场仿真中的应用与优化

双有源桥DAB仿真与闭环控制设计实践

Preact Query 的 QueryClientProviderProps 类型详解：从 Props 到上下文注入的完整原理

今日更新

CopilotKit Vue Demo 与 React Demo 的 Parity 实现指南：路由、运行时端点与交互语义的全框架对齐

Harbor RBAC 实战：db_auth 模式下非管理员用户管理项目成员的完整验证与权限模型解析

STM32平衡车纯平衡程序从拆包到参数整定的完整调试指南

本周精选

超人会飞不算本事：系统稳定依赖清晰规则与边界设计

超人VS蜘蛛侠：拆解超级IP的影响力与传播方法论

基于CNN的调制信号识别：MATLAB实现时频图分类实战

本月热门

基于YOLO的焊缝缺陷检测：从数据标注到工业部署全流程实践

分布式服务的决策记录

创业产品的首版范围

读完文章，想聊聊您的网站？