ONNX 运行时报错 ORT_RUNTIME_EXCEPTION Ort::Exception 未经处理的异常-北京尧图网络

1.运行报错前段时候推理时遇到一个非常奇怪的bugONNX模型在运行时会报ORT_RUNTIME_EXCEPTION的异常2.错误排查继续运行断点看到是在Session.Run()的时候报错。断点逐语句跟踪没有更多详情的信息,重新看了好几遍代码后都没有看出任何问题。于是去看其他能正常推理的代码参数和流程都一致不知道哪里导致的问题。只能推断Session对象是全局变量类的构造函数中初始化后在其它地方调用Session.Run()方法引起。// summary /// ONNX模型的初始化。 /// /summary /// param namemodelFile模型文件的绝对路径可空如果为空则从当前目录查找默认文件名是model.onnx。/param /// param namethreadNum启用线程数/param ONNXDetect::ONNXDetect(std::string modelName, int threadNum) { string modelPathStr; if (!FindModel(modelName, modelPathStr)) throw exception(未找到模型文件); ////初始化环境 Ort::SessionOptions sessionOptions; sessionOptions.SetIntraOpNumThreads(threadNum); ////启用所有可能的优化。 sessionOptions.SetGraphOptimizationLevel(GraphOptimizationLevel::ORT_ENABLE_ALL); envOrt::Env(ORT_LOGGING_LEVEL_ERROR, test); //string 转 wchart_t; wchar_t* wc new wchar_t[modelPathStr.size()]; //wc指向的内存区域存储这wchar_t类型的 string。 swprintf(wc, modelPathStr.size() 1, L%S, modelPathStr.c_str()); //注意大写 //初始化session对象。 session new Ort::Session(env, wc, sessionOptions); } ///运行推理 vectorValue ONNXDetect::Detect(Mat src) { //预处理。 PreProcessRBC(src, inputData); arrayint64_t, 4 input_shape{ 1, 3, inputHeight, inputWidth }; MemoryInfo allocator_info MemoryInfo::CreateCpu(OrtDeviceAllocator, OrtMemTypeCPU); Value input Value::CreateTensorfloat(allocator_info, inputData.data(), inputData.size(), input_shape.data(), input_shape.size()); //运行推理 vectorValue output session-Run(RunOptions{ nullptr }, inputNames, input, inputBatch, outputNames, outputBatch); return output; }花了点时间终于逐步对比排查发现是初始化Session的变量Env对象的问题不知为何如果env设置为局部变量Session对象为全局变量env初始化Session就会异常。3.解决方法方法1Env对象的的初始化在这里是局部变量需要把这个对象设置为全局变量。方法2不把这个对象设置为全局变量只在头文件.h中定义一个空的Env对象也能正常运行。希望对遇到相同问题的人有帮助。

ONNX 运行时报错 ORT_RUNTIME_EXCEPTION Ort::Exception 未经处理的异常

相关推荐

生产级Agent（22）：策略即代码与Policy Simulation

行业新风向，智能化汽车全面布局，Android车载走向未来化发展道路

Linux日常开发常用命令、脚本

更多资讯

桂林电工证哪里办？官方回应外省证书怎么转

天津哪可以考电工证千万别踩坑！新手如何避坑拿证上岗

广州报考电工证的条件和值不值得考

考电工证的用途是什么报名费多少钱

特种工操作证应急厅千万别踩坑，怕考不过白交培训费？手把手教你避坑

建委电工证在哪考内部消息全公开工地电工没时间复习怎么办

今日更新

特种工指挥考试题库怎么刷才不会白交培训费？官方报名入口在这！

电工证考试多少分合格在哪考别再交冤枉钱了

福清应急管理局电工证真实经历：工地太忙根本没时间复习考试怎么办

本周精选

安监局电工证分数查询怎么查才能知道含金量高不高

新疆电工作业干活累吗良心建议助你避开考不过的坑

中牟县电工证怎么报名外省证能转吗

本月热门

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

基于DRV8818与STM32的双极步进电机驱动方案实战解析

DRV8818PWPR+PIC18F45K80双极步进电机控制方案实战

读完文章，想聊聊您的网站？