ONNX

onnx-web + yolov8n 在视频流里做推理

顺着我上一篇文章使用onnxruntime-web运行yolov8-nano推理继续说，有朋友在问能不能接入视频流动，实时去识别物品。

CHEN_RUI_2200·2025-06-27 23:11

使用YOLOv5-ONNX-PyQT-EXE: 全栈式对象检测应用的构建与部署

使用YOLOv5-ONNX-PyQT-EXE:全栈式对象检测应用的构建与部署去发现同类优质开源项目:https://gitcode.com/在计算机视觉领域，实时对象检测是一个至关重要的任务。

·2025-06-27 23:39

Yolov5 ONNX Runtime 的 Python 部署

这里使用的yolov56.2，使用export.py很方便地得到onnx格式的模型。然后用onnxruntime推理框架在Python上进行部署。

爱钓鱼的歪猴·2025-06-25 21:26

RapidOCR4j项目学习

Windows、Linux、macOS（包括Intel和ARM架构）多种图片输入方式：支持图片路径（Path）、BufferedImage、byte[]、OpenCV的Mat四种输入类型模型推理：通过ONNXRuntime

cmdch2017·2025-06-25 21:56

开源TTS模型：VITS（2025.3）

VITS经典项目:FaceBook开源，1000+语言，mms-meta/MMSwenet社区，onnx和

u013250861·2025-06-24 23:19

yolov11转ncnn

原先要经过onnx，onnxsim等转换，cmake编译，现直接可生成(如何从YOLO11导出到NCNN以便顺利部署)。

model2005·2025-06-24 23:18

C++、OpenVINO部署YOLOv5模型的指南（Windows）

C++、OpenVINO部署YOLOv5模型的指南（Windows）一、环境准备硬件要求软件配置二、模型转换流程1.导出ONNX模型2.转换为OpenVINOIR格式三、C++推理实现核心代码结构后处理关键算法四

马里马里奥-·2025-06-24 15:13

Java全栈AI平台实战：从模型训练到部署的革命性突破——Spring AI+Deeplearning4j+TensorFlow Java API深度解析

某医疗影像公司面临以下挑战：多语言开发混乱：Python训练模型，C++部署推理，Java调用服务，导致维护成本高昂部署效率低下：PyTorch模型需手动转换ONNX格式，TensorRT优化耗时2小时

墨夶·2025-06-23 04:28

Z-Ant开源程序是简化了微处理器上神经网络的部署和优化

二、全面的模型部署ONNXModelSupport:FullcompatibilitywithONNXformatmodelsONNX模型支持：与ONNX格式模型完全兼

·2025-06-21 15:56

人工智能混合编程实践：Python ONNX FP16加速进行图像超分重建

人工智能混合编程实践：PythonONNXFP16加速进行图像超分重建前言相关介绍Python简介ONNX简介图像超分辨率重建简介应用场景前提条件实验环境项目结构使用PythonONNXFP16加速进行图像超分重建

FriendshipT·2025-06-20 22:32

人工智能混合编程实践：C++调用封装好的DLL进行图像超分重建（v2.0）

人工智能混合编程实践：C++调用封装好的DLL进行图像超分重建（v2.0）前言相关介绍C++简介ONNX简介ONNXRuntime简介**核心特点**DLL简介**核心特点****创建与使用****应用场景

FriendshipT·2025-06-20 22:31

pytorch深度学习入门（12）之-神经网络导出onnx模型部署与应用

概述：ONNX（OpenNeuralNetworkExchange）是一种开放神经网络交换格式，它使得不同深度学习框架（如TensorFlow、PyTorch、MXNet等）之间的互操作成为可能。

码农呆呆·2025-06-19 10:12

超简单部署离线语音合成TTS和语音识别

语音识别用vosk部署简单,效果勉强语音合成推荐piper(其他没用过)安装linux下安装pipinstallpiper-tts下载模型(63M)中文模型下载zh_CN-huayan-medium.onnx

包达叔·2025-06-15 06:33

语音活动检测模型SileroVAD

其推理速度在单线程CPU上可达2-3倍于PyTorch版本（ONNX优化后），且支持批量处理以提升吞吐量。高精度检测基于深度学习（CNN/

大囚长·2025-06-13 14:33

sherpa-onnx 项目亮点解析

sherpa-onnx项目亮点解析sherpa-onnxk2-fsa/sherpa-onnx:Sherpa-ONNX项目与ONNX格式模型的处理有关，可能涉及将语音识别或者其他领域的模型转换为ONNX格式

杜璟轶Freda·2025-06-13 08:55

sherpa-onnx开源语音处理框架研究报告：从技术解析到应用实践

1项目概述与技术背景开源地址：https://github.com/k2-fsa/sherpa-onnxsherpa-onnx是一个基于下一代Kaldi和ONNX运行时的开源语音处理框架，由K2-FSA

chanalbert·2025-06-13 08:22

Ubuntu24.04 onnx 模型转 rknn

前面的环境配置有点懒得写，教程也很多，可以自己找rknn-toolkit2gitee地址：pingli/rknn-toolkit2试了很多开源的代码，都没办法跑通，最后自己改了一版微调后的qwen2模型适用fromrknn.apiimportRKNNimportosif__name__=='__main__':platform='rk3588'rknn=RKNN()rknn.config(targ

一只名叫Me的猫·2025-06-12 19:16

《Windows 10下QT+OpenCV+Yolo11：AI视觉开发实战指南》

在计算机视觉的众多工具和技术中，Windows10下基于QT5.14.1minGW-32编译opencv，并调用Yolo11的.ONNX模型搭建环境，具有举足轻重的地位。

空云风语·2025-06-12 02:23

第3章开源大模型框架概览3.3 模型转换框架与工具3.3.1 ONNX：跨框架模型转换

https://aurigait.com/blog/onnx-onnx-runtime-and-tensortrt/1.背景介绍1.背景介绍开源大模型框架已经成为机器学习和深度学习领域的重要组成部分。

AI天才研究院·2025-06-10 05:28

【Python高级编程】第九章：计算机视觉与边缘计算

摘要：本博文聚焦Python在计算机视觉与边缘计算融合领域的应用，深入解析OpenCV+DNN模块部署、ONNXRuntime边缘端推理及FFmpeg集成视频流实时分析等核心技术。

AI_DL_CODE·2025-06-08 20:05

win10 环境进行 python + pytorch + yolov8 + tensorRT( c++版 ) 测试过程记录

参考博客：1.YOLOv8模型转换pt-＞onnx(附上代码)：https://blog.csdn.net/2303_80018785/article/details/1381949612.yolov8

狄龙疤·2025-06-08 04:40

Jetson Nano 2GB运行Stable Diffusion精简版模型（仅CPU运行）

本文参考:https://github.com/vitoplantamura/OnnxStream镜像

2301_77939311·2025-06-05 19:17

《终面危机时刻：用Ray_OnNX加速PyTorch模型推理》

终面危机时刻：用Ray_OnNX加速PyTorch模型推理场景设定在一间安静的面试室里，候选人小明正准备结束一场紧张的终面。

itAred·2025-06-04 05:32

基于python部署paddleocrv5的onnx模型PPOCRv5模型部署源码+onnx模型+使用说明

1.项目简介本项目是PaddleOCRv5的ONNX版本实现，具有以下特点：支持简体中文、繁体中文、中文拼音、英文和日文识别无需深度学习训练框架，可直接部署使用支持ARM和x86架构高性能推理，识别速度快识别精度与

FL1623863129·2025-06-01 15:35

保姆级教程：RK3588部署yolo目标检测模型

整体分为两大块：PartA：在PC上，训练yolo目标检测模型（.pt格式）；再转为.onnx格式；最后转为.rknn格式。PartB：在板卡上，运行rknn格式的模型。Par

ling913·2025-05-28 18:00

Python —— Windows10下通过Opencv-dnn推理Yolov5的分割模型（pt转onnx）（附源码）

附：Python——Windows10下训练Yolov5分割模型并测试视频效果手机拍摄一段工位视频，上传到win10训练了yolov5分割鼠标的样本后，将训练出的pt模型转到onnx模型，通过

信必诺·2025-05-28 17:48

强大而全面的语音处理工具——Sherpa-Onnx

强大而全面的语音处理工具——Sherpa-Onnx项目地址:https://gitcode.com/gh_mirrors/sh/sherpa-onnx在人工智能的浪潮中，语音技术已成为连接人机的重要桥梁

郜里富·2025-05-27 23:39

YOLO学习笔记｜ YOLO11对象检测，实例分割，姿态评估的TensorRT部署c++

以下是YOLOv11在TensorRT上部署的步骤指南，涵盖对象检测、实例分割和姿态评估：1.模型导出与转换1.1导出ONNX模型importtorchfrommodels.experimentalimportattempt_loadmodel

单北斗SLAMer·2025-05-23 23:55

RK3588 RKNN ResNet50推理测试

RK3588RKNNResNet50推理测试一、背景二、性能数据三、操作步骤3.1安装依赖3.2安装rknn-toolkit,更新librknnrt.so3.3下载推理图片3.4生成`onnx`模型转换脚本

Hi20240217·2025-05-22 07:32

RK3588 IREE+Vulkan ResNet50推理测试

NFS服务,解决IREE编译时,空间不足的问题2.2编译、安装`IREE`2.2.1挂载NFS2.2.2安装依赖2.2.3编译`IREE`2.2.4获取驱动及设备信息2.2.5下载推理图片2.2.6生成`onnx

Hi20240217·2025-05-21 07:24

使用kaldi的sherpa-onnx根据文字语音合成（英文）

专栏总目录文字转语音，不论文字有多长，立刻出结果一、准备sherpa-onnx项目文件（一）下载项目文件下载地址：https://github.com/k2-fsa/sherpa-onnx（二）下载最新模型文件下载地址

静候光阴·2025-05-19 19:00

MATLAB2025新功能

根据历史更新规律和技术发展趋势，未来版本可能会在以下方面进行优化：AI与深度学习增强可能新增自动化模型压缩工具强化生成式AI模型支持改进的ONNX格式转换接口性能提升矩阵运算加速：C=αAB+βC\mathbf

MATLAB卡尔曼·2025-05-18 23:15

mmdeploy 转换torch为onnx

或者，也可以从源代码安装，注意分支版本：gitclonehttps://github.com/open-mmlab/mmdeploy.gitcdmmdeploypipinstall-e.应用torch转onnx

选与握·2025-05-17 14:23

YOLOv8目标检测：使用ONNX模型进行推理

基于COCO数据集的YOLOv8目标检测onnx模型推理在本博客中，我们将探讨如何使用YOLOv8目标检测模型进行推理，包括图片，视频文件，摄像头实时检测，特别是ONNX在不同大小（YOLOv8n,YOLOv8s

一花·一叶·2025-05-17 12:08

[模型部署] 1. 模型导出

模型导出本文介绍如何将深度学习模型导出为不同的部署格式，包括ONNX、TorchScript等，并对各种格式的优缺点和最佳实践进行总结，帮助你高效完成模型部署准备。

斌zz·2025-05-17 07:29

TensorFlow模型转换与优化：流程解析

本文将详细介绍两种将TensorFlow模型转换为ONNX格式、进行量化操作并最终转回TensorFlow的方法。

·2025-05-16 20:32

模型部署 - onnx 的导出和分析 - PyTorch 导出 ONNX - 学习记录

onnx的导出和分析一、PyTorch导出ONNX的方法1.1、一个简单的例子--将线性模型转成onnx1.2、导出多个输出头的模型1.3、导出含有动态维度的模型二、pytorch导出onnx不成功的时候如何解决

Nice_cool.·2025-05-15 13:33

pytorch-＞onnx-＞tf-＞tflite

1.pytorch->onnxtry:importonnxprint('\nStartingONNXexportwithonnx%s...'%onnx.

风1995·2025-05-15 13:02

pytorch深度学习入门（15）之-使用onnx模型量化

量化ONNX模型内容量化概述ONNX量化表示格式量化ONNX模型基于变压器的模型Transformer基于变压器的模型GPU上的量化常问问题量化概述ONNX运行时中的量化是指ONNX模型的8位线性量化。

码农呆呆·2025-05-15 13:01

tensorrt部署yolov8

记录一下部署过程遇到的问题，我是要再jstson上部署，首先导出onnx文件，没什么问题，然后又两种方案转为engine文件1：trtexec.exe--onnx=best.onnx--saveEngine

张张张子·2025-05-14 22:50

YOLOv5推理代码解析

代码如下importcv2importnumpyasnpimportonnxruntimeasortimporttimeimportrandom#画一个检测框defplot_one_box(x,img,

马职音人·2025-05-14 10:07

华为海思系列----昇腾张量编译器（ATC）模型转换工具----入门级使用指南（LINUX版）

由于官方SDK比较冗余且经常跨文档讲解且SDK整理的乱七八糟，对于新手来说全部看完上手成本较高，本文旨在以简短的方式介绍CAFFE/ONNX模型转om模型，并进行推理的全流程。

不想起名字呢·2025-05-14 10:03

ONNXRUNTIME Clion

YOLOv8对象检测+ONNXRUNTIME部署C++源码演示！-腾讯云开发者社区-腾讯云1、解压下载的包:找到下载的文件并解压它。

Thefoxsobeautiful·2025-05-13 21:06

【Linux】在Arm服务器源码编译onnxruntime-gpu的whl

服务器信息：aarch64架构ubuntu20.04nvidiaT4卡编译onnxruntime-gpu前置条件：已经安装合适的cuda已经安装合适的cudnn已经安装合适的cmake源码编译onnxruntime-gpu

阿颖&阿伟·2025-05-13 20:31

yolov8使用

导出onnxyoloexportmodel=D:/zou/wjzz/workDoc/screwsDetech/runs/detect/train/weights/best.ptformat=onnxopset

不学习怎么给老板打工？·2025-05-12 20:26

深度学习部署包含哪些步骤？

阶段说明示例工具模型导出把.pt、.h5等格式模型导出为通用格式（如ONNX）PyTorch,TensorFlow,ONNX推理优化减小模型体积、加速推理（量化、剪枝）TensorRT,ONNXRuntime

不学习怎么给老板打工？·2025-05-12 19:51

YOLOv8_pose-Openvino和ONNXRuntime推理【CPU】

纯检测系列：YOLOv5-Openvino和ONNXRuntime推理【CPU】YOLOv6-Openvino和ONNXRuntime推理【CPU】YOLOv8-Openvino和ONNXRuntime

你的陈某某·2025-05-12 07:59

使用AMD GPU和ONNX Runtime高效生成图像与Stable Diffusion模型

EfficientimagegenerationwithStableDiffusionmodelsandONNXRuntimeusingAMDGPUs2024年2月23日撰写，作者[道格拉斯·贾（DouglasJia

109702008·2025-05-12 07:56

ONNX Runtime 加速深度学习模型的部署神器！

ONNXRuntime（ORT）作为一个高性能推理引擎，支持多平台、跨语言部署，具有极高的灵活性和执行效率，能够帮助我们在不同设备上无缝运行训练好的模型。一、为什么选择ONNXRuntime？

那年一路北·2025-05-11 00:03

PaddleOCR检测模型微调实战：从数据准备到生产

工业零件编号密集文本场景71%93%财务报表解析倾斜文本检测68%91%街景门牌识别1.2PaddleOCR检测模型优势模型丰富性：支持DB、EAST、SAST等主流算法训练效率高：混合精度训练加速40%部署便捷性：支持ONNX

一休哥助手·2025-05-10 15:38

推荐频道