ONNX

《Python实战进阶》第39集：模型部署——TensorFlow Serving 与 ONNX

第39集：模型部署——TensorFlowServing与ONNX摘要在机器学习项目中，训练好的模型需要被部署到生产环境中才能发挥实际价值。

带娃的IT创业者·2025-03-31 10:39

Ultralytics 框架中Predictor类解析

帮助您高效完成目标检测、分割等任务的推理流程：一、Predictor类的核心作用Predictor类是Ultralytics推理流程的核心模块，负责以下功能：模型加载与配置自动加载预训练模型（.pt、.onnx

浩瀚之水_csdn·2025-03-31 09:27

使用 java-onnx 部署 PaddleOCR-v3 文本检测

文本检测：文本检测(TextDetection)是计算机视觉领域的经典问题，该技术旨在寻求一种可靠方法作为文本识别技术的前端，是目标检测(ObjectDetection)领域的一个子问题。模型推理输出文本区域需要经过二值化之后使用opencv查找轮廓，然后获取最小外接矩形并扩展得到最终的文本区域，后续需要矩形旋转、投影变换等操作作为文本识别的输入。文本识别可以用crnn等各种模型。paddlepa

0x13·2025-03-31 07:47

在 C# 中调用 YOLOv8 模型进行目标检测，通常的做法是使用 YOLOv8 的 Python API 或 ONNX 模型，然后通过 C# 与 Python 或 ONNX 进行交互。

在C#中调用YOLOv8模型进行目标检测，通常的做法是使用YOLOv8的PythonAPI或ONNX模型，然后通过C#与Python或ONNX进行交互。

踹断瘸子那条好腿.·2025-03-31 04:23

PyTorch->ONNX->TensorRT，TensorRT官方插件使用demo

课程说明课程目标：讲解PyTorch->ONNX->TensorRT，模型导出时，TensorRT官方插件如何使用。

·2025-03-30 04:45

Google开源机器学习框架TensorFlow SegFormer优化

1.TensorRT加速流程目标转换SegFormer为TensorRT格式优化FP16/INT8计算提升推理速度（FPS）主要步骤导出TensorFlow模型转换为ONNX格式使用TensorRT进行优化运行

深海水·2025-03-28 02:23

飞桨Paddle Inference模型转ONNX模型的方法

ONNX是个好东西，其全称OpenNeuralNetworkExchange，是一种用于表示和交换深度学习模型的开放标准格式。

Sweet锦·2025-03-27 21:21

【YOLO】X-AnyLabeling 半自动标注

X-AnyLabeling半自动标注前言整体思路模型转换修改模型YAML文件导入自定义模型常见错误export导出错误AttributeError:module'numpy'hasnoattribute'typeDict'ONNX

Abaaba+·2025-03-26 23:04

sherpa-onnx 安装和配置指南

sherpa-onnx安装和配置指南sherpa-onnxk2-fsa/sherpa-onnx:Sherpa-ONNX项目与ONNX格式模型的处理有关，可能涉及将语音识别或者其他领域的模型转换为ONNX

盛瑾蓬Seeds·2025-03-25 14:59

开源项目推荐：sherpa-onnx

甄登汉·2025-03-25 14:59

Sherpa-ONNX：说话人识别与语音识别自动开启（VAD）+ Python API 完整指南

介绍Sherpa-ONNX是一个基于ONNX的轻量级语音识别框架，支持多种语音处理任务，包括说话人识别（SpeakerRecognition）和自动语音识别（AutomaticSpeechRecognition

一只蜗牛儿·2025-03-25 14:26

模型部署全流程：SavedModel、TFLite、TF.js、ONNX 的导出与实战

模型部署全流程：SavedModel、TFLite、TF.js、ONNX的导出与实战TensorFlow的最大优势之一，就是拥有“端到端部署闭环”。

AI筑梦师·2025-03-25 00:44

C# 调用 VITS，推理模型将文字转wav音频调试 -数字人分支

Microsoft.ML.OnnxRuntime.OnnxRuntimeException:[ErrorCode:InvalidArgument]Inputname:'input_name'isnotinthemetadata

未来之窗软件服务·2025-03-23 08:40

QKeras、Brevitas和QONNX量化工具对比

QKeras、Brevitas和QONNX量化工具对比一、引言在深度学习模型部署领域，量化技术已成为提升模型执行效率的关键手段。

kanhao100·2025-03-21 16:48

模型部署实战：PyTorch生产化指南

模型部署是将训练好的模型‌投入实际应用‌的关键步骤，涉及：模型格式转换（TorchScript/ONNX）性能优化（量化/剪枝）构建API服务移动端集成本章使用ResNet18实现图像分类，并演示完整部署流程

小诸葛IT课堂·2025-03-21 01:45

【大模型开发】ONNX 格式的大模型在 Android 上的部署与测试

以下内容将以ONNX格式的大模型在Android上的部署与测试为核心，提供一套可运行的示例（基于AndroidStudio/Gradle），并结合代码进行详细讲解。

云博士的AI课堂·2025-03-19 08:05

Yolov11目标检测(ultralytics)

Yolov11目标检测（ultralytics）1.克隆仓库2.安装环境依赖3.训练、验证、推理以及onnx模型导出1.克隆仓库从官网下载Yolov11到本地。

@M_J_Y@·2025-03-18 13:02

YOLOv8n-seg.pt的使用（实例分割，训练自己制作的数据集）

Ubuntu+python3一、YOLOV8源码下载参考：GitHub-ultralytics/ultralytics:NEW-YOLOv8inPyTorch>ONNX>OpenVINO>CoreML>

再坚持一下！！！·2025-03-18 00:10

【大模型开发】大模型转换为 NCNN 格式并在微信小程序中进行调用

目录背景与整体流程概述准备工作2.1常见模型格式与转换思路2.2环境与工具安装模型转换为NCNN格式3.1以ONNX模型为例3.2使用onnx2ncnn工具NCNN在微信小程

云博士的AI课堂·2025-03-17 09:19

mysql创建新表，同步数据

importosimportargparseimportglobimportcv2importnumpyasnpimportonnxruntimeimporttqdmimportpymysqlimporttimeimportjsonfromdatetimeimportdatetimeos.environ

hitsz_syl·2025-03-17 07:37

torch-torchvision-python版本对应问题

module‘torch.onnx.symbolic_helper’hasnoattribute‘quantized_args’今日在联系pytorch时，importtorchvision时报错：module

Thirtyaoe·2025-03-16 13:48

rapidocr-onnxruntime库及在open-webui上传PDF 图像处理 (使用 OCR)应用

背景rapidocr-onnxruntime是一个跨平台的OCR库，基于ONNXRuntime推理框架。目前已知运行速度最快、支持最广，完全开源免费并支持离线快速部署的多平台多语言OCR。

原野AI·2025-03-16 02:31

backbone和head分开转onnx的优势

模型转换为ONNX格式时，将其分成backbone和head两个部分，通常是出于以下原因：1.模块化设计backbone通常是模型的特征提取部分（例如卷积神经网络的主干部分），负责从输入数据中提取高级特征

yuweififi·2025-03-13 12:33

【YOLOv11[基础]】目标检测OD | 导出ONNX模型 | ONN模型推理以及检测结果可视化 | python

本文将导出YOLO11.pt模型对应的ONNX模型，并且使用ONNX模型推理以及结果的可视化。话不多说，先看看效果图吧！！！目录一导出ONNX模型二推理及检测结果可视化1代码2效果图

Jackilina_Stone·2025-03-13 12:02

onnx处理和TensorRT量化推理相关代码工具

一.说明在模型量化过程中，经常要使用一些工具对onnx或者量化后的模型（这里以TensorRT为例）进行推理，往往需要一些处理工具，比如：拆分或者合并onnx；修改onnx中的量算子QuantizeLinear

天亮换季·2025-03-13 12:26

深度学习基础-onnxruntime推理模型

以下是一个完整的示例，展示如何加载ONNX模型、获取模型信息并运行推理：importonnxruntimeimportnumpyasnp#模型路径bev_head_onnx_path="path/to/

yuweififi·2025-03-13 11:49

人工智能混合编程实践：C++调用Python ONNX进行YOLOv8推理

人工智能混合编程实践：C++调用PythonONNX进行YOLOv8推理前言相关介绍Python简介C++简介ONNX简介YOLOv8简介前提条件实验环境项目结构C++调用PythonONNX进行YOLOv8

FriendshipT·2025-03-11 22:48

ONNX GraphSurgeon详细介绍

ONNXGraphSurgeon(ONNX-GS)是一个用于操作和修改ONNX（OpenNeuralNetworkExchange）模型图的Python库。

Lntano__y·2025-03-10 19:12

langchain4j+ONNX小试牛刀

序本文主要研究一下langchain4j结合ONNX进行得分重排步骤pom.xmldev.langchain4jlangchain4j-onnx-scoring1.0.0-beta1下载模型wgethttps

·2025-03-09 16:47

kokoro 82M参数的声音模型kokoro-onnx，支持中文

kokoro大约是官网：github.comonnx推理官网：GitHub-thewh1teagle/kokoro-onnx:TTSwithkokoroandonnxruntime可以参考这个文档使用：

skywalk8163·2025-03-09 10:58

Jetson系列: tensorrt-python推理yolov5（一）

目录一.onnx模型导出二.TensorRT模型本地序列化三.算法整体Pipline架构四.算法整体Pipline实现一.onnx模型导出在使用tensorrt进行加速之前需要将自己的torch模型转为

weixin_55083979·2025-03-08 20:08

【yolov8】模型导出----pytorch导出为onnx模型

【yolov8】模型导出一、为什么要使用yolo的导出模式二、确保安装必要的库：三、yolov8模型导出3.1不同格式配置参数3.2导出格式四、导出模型性能优化4.1使用TensorRT导出模型有什么好处？4.2导出YOLOv8模型时，如何启用INT8量化？4.3为什么输出模型时动态输入尺寸很重要？4.4优化模型性能需要考虑哪些关键的导出参数？五、问题六、疑问训练模型的最终目标是将其部署到实际应用

栗子风暴·2025-03-07 09:12

YOLOv8目标检测推理流程及C++代码

这部分主要是使用c++对Onnx模型进行推理，边先贴代码，过段时间再详细补充下代码说明。

吃鱼不卡次·2025-03-06 22:49

YoLo运用学习7

目录前言一、C#环境使用YoLo模型进行AI推理检测1.加载图片2.图片预处理3.加载onnx模型并推理4.数据后处理5.图片属性值缩放还原和反归一化6.将解析到的信息的集合绘制成处理后图片总结前言根据

老农民编程·2025-03-06 19:51

C++使用Onnxruntime/TensorRT模型推理

onnxruntime和tensorrt是我们常用的两种推理方式，下面整理了两个推理示例，仅供参考。

奇华智能·2025-03-05 16:30

YOLO 中 SPFF 模块的优化与 Focal Modulation 替代研究

FocalModulation替换SPPF4.实验与对比分析4.1代码替换YOLO模型中的SPPF4.2训练对比5.AblationStudy（消融实验）5.1不同模块的对比实验5.2目标尺寸对比分析6.模型部署与推理优化6.1ONNX

向哆哆·2025-03-03 10:57

yolov5-训练好的模型部署的几种方式-ONNX

ONNX，即OpenNeuralNetworkExchange，是微软和Facebook发布的一个深度学习开发工具生态系统，旨在让AI开发人员能够随着项目发展而选择正确的工具。

黄晓魚·2025-03-01 08:30

Pytorch使用手册--将 PyTorch 模型导出为 ONNX（专题二十六）

注意截至PyTorch2.1，ONNX导出器有两个版本。torch.onnx.dynamo_export是最新的（仍处于测试阶段）导出器，基于PyTorch2.0发布的TorchDynamo技术。

AI专题精讲·2025-02-28 09:13

cosyvoice自用的代码

fromcosyvoice.cli.cosyvoiceimportCosyVoice,CosyVoice2fromcosyvoice.utils.file_utilsimportload_wavimporttorchaudioimportonnxruntimeasort

PyAIGCMaster·2025-02-27 05:22

[C++]使用纯opencv部署yolov12目标检测onnx模型

然而，你可以通过一些间接的方法来实现这一目标，比如将PyTorch模型转换为ONNX格式，然后使用OpenCV的DNN

FL1623863129·2025-02-25 23:18

【亲测可行】最新ubuntu搭建rknn-toolkit2

文章目录结构图（ONNX->RKNN）下载rknn-toolkit2搭建环境配置镜像源conda搭建python3.8版本的虚拟环境进入packages目录安装依赖库测试安装是否成功其它rknn-toolkit2rknn_model_zoo

computer_vision_chen·2025-02-25 21:34

yolov5转onnx模型，onnx转rknn模型部署在rk3588平台上

wtqpshhh·2025-02-25 21:59

pytorch模型(.pt、.pth)转onnx模型(.onnx)的方法详解

.pt和.pth只能在pytorch的框架中使用，但是有时我们需要在其他的框架使用模型或者使用模型可视化工具来展示模型（大部分对.pt格式不兼容），这时就需要用到.onnx模型形式来转换了。

墨小傲·2025-02-25 10:12

.onnx模型转.rknn模型方法详解