ONNX 第31页

PyTorch 3 - 模型相关方法

文章目录创建模型模型初始化、参数保存/加载模型自动求导梯度函数损失函数mse二分类bce多分类模块的组合ONNX将pytorchmodel转为onnx格式将caffee2导入onnx模型使用onnx将pytorch

伊织code·2022-12-30 14:13

TensorRT部署YOLOv5(02)-环境介绍

实验环境主要从主机和JestonNano两方面进行介绍，在主机端完成模型训练并转换为onnx中间模型表示，在JestonNano进行onnx模型转换为TensorRT引擎、图片/视频加载、编解码处理、模型推理

Wei.Studio·2022-12-30 14:09

CNN模型可视化报错记录

----------用hiddenlayer可视化卷积神经网络模型报错如下报错：_jit_pass_onnx_unpack_quantized_weights():incompatiblefunctionarguments

m0_63564748·2022-12-30 12:09

模型实战（4）之Win10下VS2019+opencv部署yolov5实现目标检测

多数算法模型在实际应用时需要部署到C++环境下运行，以提高算法速度和稳定性本文主要讲述WIn10下在VS工程中通过Opencv部署yolov5模型，步骤包括：1.python环境下通过export.py导出.onnx

明月醉窗台·2022-12-30 09:06

主流推理框架在ubuntu上的速度对比实验

TorchTorchScriptOnnxTensorRT推理速度对比实验本博文主要在ubuntu上进行主流推理框架在ubuntu上的速度对比实验，代码来源于pytorch-classifier，是博主自己整理的一个基于

魔鬼面具·2022-12-30 08:05

onnxruntime-gpu用pyinstaller打包报错找不到CUDA解决方案

问题由来：在将深度学习模型转为onnx格式后，由于不需要依赖之前框架环境，仅仅需要由onnxruntime-gpu或onnxruntime即可运行，因此用pyinstaller打包将更加方便。

@会飞的毛毛虫·2022-12-30 08:58

Atlas深度学习模型转换及运行

转换方法有两个主流的方法onnx->CaffeModel->om（最主流）onnx->om使用第一种方法看似麻烦，多了一步，但其实这种转换方式的好处有很多可以通过修改prototxt的方式实现对网络结构的修改

小菜鸡也有大佬梦·2022-12-29 23:28

深度学习编译器综述

ONNX（TheOpenNeuralNetworkExchange）就是这个目的，它定义了表示深度学习模型的统一格式，以促进不同框架之间的模型转换。

NDLilaco·2022-12-29 20:47

清微智能机器视觉芯片TX5368A与百度飞桨完成I级兼容性测试，推动可重构计算生态应用发展...

近日，清微智能的高性能机器视觉芯片TX5368A与百度飞桨完成I级兼容性测试（基于Paddle2ONNX工具）。测试结果显示双方兼容良好，整体运行稳定。

飞桨PaddlePaddle·2022-12-29 19:36

第三步：onnx模型导入tensorrt生成优化engine + 在GPU上推理

一、环境Ubuntu18.04+cuda11.0+python3.7.6+pytorch1.7.1+tensorrt8.0.0.3二、onnx模型导入tensorrt生成优化enginecommon.py

枯木逢春犹再发·2022-12-29 16:16

【onnx 输入尺寸】修改pytorch生成的onnx模型的输入尺寸

文章目录1问题描述2代码1问题描述224x224的onnx模型，想把它的输入改成520x520的，怎么办呢？

寻找永不遗憾·2022-12-29 16:15

OCR 跨平台工程化onnxruntime gpu c++代码

OCR跨平台工程化onnxruntimegpuc++代码网上关于onnxruntime运行在gpu环境下运行OCR模型的代码较少，经过查阅，其实就是在初始化模型的时候这样写就可以了voidDbNet::

肥宅程序员aka不会游泳的鱼·2022-12-29 16:45

【YOLOX训练部署】YOLOX ONNX 使用GPU进行推理

YOLOX训练自己的VOC数据集【YOLOX训练部署】YOLOX训练自己的VOC数据集_乐亦亦乐的博客-CSDN博客将自己训练的YOLOX权重转化成ONNX并进行推理【YOLOX训练部署】将自己训练的YOLOX

乐亦亦乐·2022-12-29 16:14

报错“can‘t pickle onnxruntime.capi.onnxruntime_pybind11_state.InferenceSession objects“问题解决

在使用onnx模型进行python的多进程推理的时候，遇到这个报错。

CaiDou_·2022-12-29 16:13

一键转换onnx、动态batchsize、测试onnx、判断转换前后精度是否一致、将onnx模型的每个节点特征图信息输出（超详细合集、多输入）

最近项目用到onnx,对onnx内容进行总结，每一种都是测过可行，可以根据对应情况修改对应内容。

太阳下大黄花·2022-12-29 16:12

【ONNX】pytorch模型导出成ONNX格式：支持多参数与动态输入

本文介绍了如何将pytorch格式的模型导出到ONNX格式的模型。

there2belief·2022-12-29 16:42

onnxruntime推理CPU GPU切换

onnxruntime推理CPUGPU切换1、切换CPU与GPU1、切换CPU与GPU在anaconda环境下安装了onnxruntime和onnxruntime-gpu，在使用时总是默认调用gpu版本的库

落花逐流水·2022-12-29 16:42

onnxruntime GPU 部署

安装onnxruntime-gpu（注意是gpu版本）pipinstallonnxruntime-gpu确认是否安装成功>>>importonnxruntime>>>onnxruntime.get_device

绝望的少女·2022-12-29 16:42

【ONNXRuntime】Win10 GPU环境 ONNXRuntime下载与VS开发配置

ONNXRuntime下载下载地址：Releases·microsoft/onnxruntime(github.com)在下载地址找到对应版本，历史版本在Assets点开折叠后可以看到，可下载内容如下，

there2belief·2022-12-29 16:41

【ONNX】动态输入尺寸的问题（多输出/多输入）

Thisisaverygoodquestionandit’satopicwehavebeendiscussingrepeatedlyrecently.Theanswerhasthreeparts:whetheronnxsupportsrepresentingmodelswithdynamicshapewhetherfrontends

there2belief·2022-12-29 16:11

onnxruntime-gpu使用问题

使用onnx+GPU推理yolov4/v5模型的时候报错：warnings.warn(“Cannotloadonnxruntime.capi.Error:‘{0}’”.format(str(e)))Traceback

Mirinda_cjy·2022-12-29 16:40

onnx重写输入和输出的维度

onnx模型输入是静态的，比如是1x3x960x960，但是想把输入改成动态输入，相应的输出也得改成动态，以下代码可以修改onnx模型的维度：importonnximportonnx.checkerimportonnx.utilsfromonnx.toolsimportupdate_model_dimsmodel

ab0902cd·2022-12-29 16:10

onnxruntime CPU和GPU推理测试

最近在做移动端模型移植的工作，在转换为onnx中间模型格式的时候，利用onnxruntime加载onnx模型进行推理，为了对比CPU与GPU的推理时间，需要分别进行测试。

GeneralJing·2022-12-29 16:09

onnxruntime推理时切换CPU/GPU以及修改onnx输入输出为动态

前言onnx模型作为中间模型，相较于pytorch直接推理，是有加速度效果的，且推理代码简单，不需要load各种网络。

CaiDou_·2022-12-29 16:38

百度飞桨PP-YOLOE ONNX 在LabVIEW中的部署推理(含源码)

文章目录前言一、什么是PP-YOLO二、环境搭建1、部署本项目时所用环境2、LabVIEW工具包下载及安装三、模型的获取与转化1、安装paddle2、安装依赖的库3、安装pycocotools4、导出onnx

virobotics·2022-12-29 15:58

paddleOCRv3之四： rec识别部分用 tensorRT（C++）部署

文章目录1.简介：速度测试2.paddle模型转onnx3.onnx转为tensorRT的engine模型4.tensorRT在vs2017中的配置5.源码1.简介：tensorRT是nvdiaGPU模型部署的一个框架

1037号森林里一段干木头·2022-12-29 13:21

TensorRT基础

上实际运行的方式选择最优算法和配置3.tensorRT生成的模型只能在特定条件下运行（变异的trt版本、cuda版本、编译时的GPU型号）4.主要知识点为模型结构定义方式、编译过程配置、推理过程实现、插件实现、onnx

cxb1998·2022-12-29 11:54

TensorRT 入门(7) INT8 量化

前者通过FP32engine或ONNX模型就可以直接得到。后者多了一步操作，需要进行校准（calibration），生成校准文件。官方提供了两个samplesampleIN

清欢守护者·2022-12-29 11:23

TensorRT 入门(3) 官方样例 sampleOnnxMNIST

文章目录0.前言1.ONNX模型转换1.1.build函数详解0.前言本文提到的sampleMNISTAPI与之前0.前言本文提到的sampleMNISTAPI与之前笔记1和笔记2提到的样例有完全相同的输入与输出

清欢守护者·2022-12-29 11:52

TensorRT入门

将onnx转换成engine格式trtexec--onnx=

某一天10_21·2022-12-29 11:50

C# 使用yolov5通过ONNX进行人体识别

此项目起源于github作者：yolov5-net通过Issues发现一个改进版本：Yolov5Net-Faster在此处下载源码。项目已经训练好了。我们只需要注意以下事项：【必须】使用VS2019打开项目【必须】Yolov5Net.App文件目标框架.NET5.0以上【必须】Yolov5NetFaster.Scorer文件目标框架.NETStandard2.0以上【注意】分析的图片大小最好是64

仗剑天涯i·2022-12-29 11:44

用yolov5做人脸检测

pytorch1.7.1，GTX1660Ti1、anaconda、yolov5下载、环境、数据处理、数据标注等：yolov5URL：GitHub-ultralytics/yolov5:YOLOv5inPyTorch>ONNX

noob_qing·2022-12-29 11:10

全流程打通！YOLOV5标注&训练&部署：Windows/Linux/Jetson Nano

作者|msnh2012编辑|极市平台点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署】技术交流群导读本文将分windows和linux,pc和jetsonnx

自动驾驶之心·2022-12-28 22:02

size_from_dim: Assertion `dim ＞= 0 && (size_t)dim ＜ sizes_.size()` failed.

遇到的问题/home/optimizer-master/third_party/onnx_common/tensor.h:117:size_from_dim:Assertiondim>=0&&(size_t

菜鸡啄虫·2022-12-28 17:52

使用Yolov5 模型，训练自己的数据集这里以目标检测BDD数据集为例，跑出检测结果

yolov5模型下载地址：GitHub-ultralytics/yolov5:YOLOv5inPyTorch>ONNX>CoreML>TFLite下载完需要配置环境，yolov5的环境所需的包基本都收录在

跑步去兜风·2022-12-28 14:27

tensorRT部署实战——yolov5

onnx优化上来先贴onnx优化后的效果：左图是yolov5s原模型导出的onnx，右图是经过优化后的onnx，效果是一致的，可以看到优化后简洁了不少，最主要的是模型简化后，可以排除很多不必要的麻烦。

cxb1998·2022-12-28 13:23

yolov5的TensorRT部署【tensorrt+cudnn@主机】

1、版本问题（1）TensorRT的ONNX解释器是针对Pytorch版本编译的，如果版本不对应可能导致转模型时出现错误。

epic_Lin·2022-12-28 13:50

TensorRt（4）yolov3加载测试

本文介绍使用darknet项目原始的预训练模型yolov3.weights，经过tensorrt脚本转换为onnx模型，进一步编译优化编译位engine，最后使用TensorRt运行时进行推理。

wanggao90·2022-12-28 13:19

AGX Xavier部署自己修改训练后的yolov4模型(tensorrt加速版)

以下是对项目的补充说明：一、项目环境AGXXavier版本Jetpack4.4.1cuda10.2.89cudnn8.0.0.180tensoort7.1.3.0opencv4.4.1onnx1.5.0

丹啊丹·2022-12-28 13:15

照片背景底色更换工具（思路简介及源码）

照片背景底色更换工具（所有源码及打包）引言MODNET简介思路（1）首先是调用modnet的onnx模型将人像照片处理得到matte图像（2）使用matte图像将人像照片中的人像扣取出来1）失败的方案2

吾名招财·2022-12-27 21:05

RV1126笔记二十二：pt-＞onnx-＞rknn模型转换

一、介绍实现的目标是，把RK提供的yolov5s.pt转成onnx，在把onnx转成rknn，部署到RV1126上面。这里不训练模型，所以只要搭建好环境后，就可以直接运行测试。

殷忆枫·2022-12-27 18:41

STDC分割网络：onnx推理

defSTDCProcess(img):mean=[0.485,0.456,0.406]std=[0.229,0.224,0.225]img=cv2.resize(img,(256,256))img=img.astype(np.float32)img=img[:,:,::-1]#BGR2RGBimg=(img/255.0-mean)/stdimg=np.transpose(img,[2,0,1])

一名CV界的小学生·2022-12-27 12:30

TensorRT笔记(3)使用C++ API

2.2.2在C++中使用解析器导入模型2.2.3使用C++ParserAPI导入Caffe模型2.2.4使用C++UFFParserAPI导入TensorFlow模型2.2.5使用C++ParserAPI导入ONNX

这里是zzh·2022-12-27 09:48

TensorRt（3）mnist示例中的C++ API

目前sample中mnist提供了至少caffe、onnx的预训练模型，在TensorRT经过优化生成engine后再进行infer，两种模型的加载处理略有不同，做出简单api处理说明。

wanggao90·2022-12-27 09:39

MMDetection2系列-(3)-部署

MMDetection2系列-3-部署@[TOC](MMDetection2系列-3-部署)1.PytorchtoONNX2.ONNXtoTensorRT1.PytorchtoONNXpipinstallonnx-simplifierpipinstallonnxruntimepythontools

GeekPlusA·2022-12-26 15:40

Android实现戴口罩人脸检测和戴口罩识别(附Android源码)

）基于多类别目标检测的戴口罩识别方法（2）基于人脸检测+戴口罩分类识别方法2.戴口罩人脸数据集3.戴口罩人脸检测4.戴口罩识别模型训练5.戴口罩识别模型Android部署（1）将Pytorch模型转换ONNX

AI吃大瓜·2022-12-26 15:32

故事的开始：RaidAI

目录引言RapidAI/RapidOCRRapidAI/YOLO2COCORapidOcrAndroidOnnxRapidAI/RapidOcrNcnnRapidAI/PaddleOCRModelConverterRapidAI

Liekkas Kono·2022-12-26 13:31

onnx模型如何增加或者去除里面node，即修改图方法

有时候我们通过pytorch导出onnx模型，需要修改一下onnx的图结构，怎么修改呢？下面两个Python实例提供了修改思路。

丶Shining·2022-12-26 11:27

onnxruntime 使用，删除、修改

输出中间层数据（python）importonnxfromonnximporthelpermodel=onnx.load("C:/Users/Desktop/fastscnn_0907_fix.onnx

zxxx66·2022-12-26 11:27

修改onnx模型输出示例

前言如图是netron(github链接)软件中打开的onnx模型，可以看到右边模型的最终输出结果是分类值predict_0而非概率值，那么如何获取中间过程的概率值，或者说怎么把右边的图砍掉一截变成左边的图呢

XINFINFZ·2022-12-26 11:26

推荐频道

ONNX