MNN模型转换

模型移植实战：从PyTorch到ONNX完整指南

ONNX的主要优势包括：跨框架兼容性：支持主流深度学习框架间的模型转换，包括PyTorch、TensorFlow、MXNet、CNTK等例如，可以将PyTorch训练的ResNet模型导

慕婉0307·2025-07-21 18:50

模型实战（21）之 C++ - tensorRT部署yolov8-det 目标检测

C++-tensorRT部署yolov8-det目标检测python环境下如何直接调用推理模型转换并导出：pt->onnx->.engineC++tensorrt部署检测模型不写废话了，直接上具体实现过程

明月醉窗台·2025-07-11 16:08

超轻量级中文OCR项目使用教程

超轻量级中文OCR项目使用教程chineseocr_lite超轻量级中文ocr，支持竖排文字识别,支持ncnn、mnn、tnn推理(dbnet(1.8M)+crnn(2.5M)+anglenet(378KB

甄墨疆·2025-07-07 15:14

Python中使用Graphviz绘制决策树图解

通过配置环境变量和利用DOT语言，用户可以将决策树模型转换为可视化图形，加深对机器学习模型的理解和调试。1.Graphviz

黃昱儒·2025-07-06 00:00

使用numpy或pytorch校验两个张量是否相等

文章目录1、numpy2、pytorch做算法过程中，如果涉及到模型落地，那必然会将原始的深度学习的框架训练好的模型转换成目标硬件模型的格式，如onnx,tensorrt,openvino,tflite

·2025-07-03 20:33

onnx模型部署 python_深度学习模型转换与部署那些事(含ONNX格式详细分析)

背景深度学习模型在训练完成之后，部署并应用在生产环境的这一步至关重要，毕竟训练出来的模型不能只接受一些公开数据集和榜单的检验，还需要在真正的业务场景下创造价值，不能只是为了PR而躺在实验机器上在现有条件下，一般涉及到模型的部署就要涉及到模型的转换，而转换的过程也是随着对应平台的不同而不同，一般工程师接触到的平台分为GPU云平台、手机和其他嵌入式设备对于GPU云平台来说，在上面部署本应该是最轻松的事

weixin_39759270·2025-07-02 11:02

nnv开源神经网络验证软件工具

·2025-06-30 16:03

YOLOv8模型在RDK5开发板上的部署指南：.pt到.bin转换与优化实践

以下是针对在RDK5开发板（基于NVIDIAJetsonOrin平台）部署YOLOv8模型的详细技术指南，涵盖从模型转换、优化到部署的全流程：YOLOv8模型在RDK5开发板上的部署指南：.pt到.bin

pk_xz123456·2025-06-29 13:35

Pytorch模型安卓部署

目前多数的研究都是在于算法上，个人觉得把算法落地是一件很有意思的事情，因此本人准备分享一些模型落地的文章(后续可能分享微信小程序部署，PyQt部署以及exe打包，ncnn部署，tensorRT部署，MNN

python&java·2025-06-28 01:24

阿里重磅开源 Mnn3dAvatar：3D 数字人实时面捕，直播带货新利器！

阿里巴巴于近日有了重磅之举——开源全新的3D数字人框架Mnn3dAvatar。

Icoolkj·2025-06-26 05:49

MNN 支持 InternVL 多模态大模型

MNN支持InternVL多模态大模型1.背景介绍InternVL(https://modelscope.cn/models/OpenGVLab/InternVL2_5-1B)是一个多模态模型，结合了视觉和语言处理能力

夕阳叹·2025-06-26 05:19

TensorFlow Lite (TFLite) 和 PyTorch Mobile介绍2

两大轻量化框架的核心用途、典型应用场景及在嵌入式开发中的实际价值对比，结合你的OrangePiZero3开发板特性进行说明：TensorFlowLite(TFLite)核心用途嵌入式设备推理：将训练好的TensorFlow模型转换为轻量格式

追心嵌入式·2025-06-25 20:18

【软考高级系统架构论文】论模型驱动架构设计方法及其应用

论文真题模型驱动架构设计是一种用于应用系统开发的软件设计方法，以模型构造、模型转换和精化为核心，提供了一套软件设计的指导规范。

_Richard_·2025-06-25 05:57

解决YOLO模型从Python迁移到C++时目标漏检问题——跨语言部署中的关键陷阱与解决方案

这通常源于预处理/后处理差异、数据类型隐式转换或模型转换误差。本文通过完整案例解析核心问题并提供可落地的解决方案。

马里马里奥-·2025-06-24 15:43

C++、OpenVINO部署YOLOv5模型的指南（Windows）

C++、OpenVINO部署YOLOv5模型的指南（Windows）一、环境准备硬件要求软件配置二、模型转换流程1.导出ONNX模型2.转换为OpenVINOIR格式三、C++推理实现核心代码结构后处理关键算法四

马里马里奥-·2025-06-24 15:13

Cesium1.95中加载模型过多导致内存溢出的解决方案（服务端层面、代码层面、浏览器层面）

模型和图片过多导致内存溢出的问题，以下是涵盖服务端、代码层和浏览器层的完整优化方案，结合性能瓶颈分析和具体实施策略：一、服务端优化（减少传输与解析压力）1、模型格式转换GLB→3DTiles：将大规模GLB模型转换为

duansamve·2025-06-16 06:12

Linux下编译并打包MNN项目迁移至其他设备

1.构建项目结构该项目是利用MNN框架对MTCNN网络进行推理，实现对目标的实时检测运行环境：Linux相关库：opencv，MNN先给出项目的总体结构，如下：mtcnn_mnn/├──include/

AI小小怪·2025-06-15 22:47

Hummingbird库：将机器学习模型转换为深度学习模型

微软推出的Hummingbird库正是为了解决这一需求，它可以将经过训练的传统机器学习模型转换为等效的深度学习模型，从而加速推理并支持跨平台部署。

萧鼎·2025-06-13 10:34

sherpa-onnx 项目亮点解析

sherpa-onnx项目亮点解析sherpa-onnxk2-fsa/sherpa-onnx:Sherpa-ONNX项目与ONNX格式模型的处理有关，可能涉及将语音识别或者其他领域的模型转换为ONNX格式

杜璟轶Freda·2025-06-13 08:55

为什么RAG系统必须引入Rerank？深入解析两阶段检索的价值与挑战

一、RAG的精度困境：当“近似”检索遇到生成需求在经典RAG流程中，系统通过以下步骤运作：用户查询被Embedding模型转换为向量在向量数据库中进行相似度搜索（ANN）返回Top-K相关文档提示工

一休哥助手·2025-06-12 19:18

RKNN-Toolkit 开源项目教程

rknn-toolkit项目地址:https://gitcode.com/gh_mirrors/rk/rknn-toolkit1.项目介绍RKNN-Toolkit是一款由Rockchip开发的软件工具包，旨在为开发者提供模型转换

彭宏彬·2025-06-11 01:24

第3章开源大模型框架概览3.3 模型转换框架与工具3.3.1 ONNX：跨框架模型转换

https://aurigait.com/blog/onnx-onnx-runtime-and-tensortrt/1.背景介绍1.背景介绍开源大模型框架已经成为机器学习和深度学习领域的重要组成部分。这些框架为研究人员和工程师提供了强大的工具，以便更快地构建、训练和部署深度学习模型。在这个系列文章中，我们将深入探讨一些最受欢迎的开源大模型框架，并探讨它们在实际应用中的优势和局限性。在本章中，我们将

AI天才研究院·2025-06-10 05:28

华为HCIP-Cloud-Service认证H13-821V2.0-001

（C）A.HiLens能提供模型优化框架、自动压缩模型能力，将模型转换为目标芯片所支持的模型格式B.在HLens平台上开发的Ski11可以运行到任何基于华为海思芯片的设备上C.HilLens平台只能导入从

gong19172316967·2025-06-08 12:15

SD模型转换之safetensors转为bin，解决safety_checker 报错问题

前言最近同事给发了一个SD的任务，去评测一下效果，对于第一次接触的小白来说一脸懵，遇到了很多问题，写这篇帮大家排坑，自己也方便记录转换模型在转模型之前，我们需要装几个包diffusors，transformers和huggingface_hubpipinstallpackage-ihttps://mirrors.aliyun.com/pypi/simple即可接下来就是python脚本，来自官方h

致命扼腕·2025-06-08 11:04

安全稳定的模型转换工具：Ckpt2Safetensors GUI

安全稳定的模型转换工具：Ckpt2SafetensorsGUISafe-and-Stable-Ckpt2Safetensors-Conversion-Tool-GUIConvertyourStableDiffusioncheckpointsquicklyandeasily

·2025-06-08 11:03

win10 环境进行 python + pytorch + yolov8 + tensorRT( c++版 ) 测试过程记录

参考博客：1.YOLOv8模型转换pt-＞onnx(附上代码)：https://blog.csdn.net/2303_80018785/article/details/1381949612.yolov8

狄龙疤·2025-06-08 04:40

大模型转换为 GGUF 并使用Ollama部署

下载的模型都是GGUF格式，那如何部署私有大模型呢？下面详细的对该过程解密：1什么是GGUF？为什么进行转换GGUF格式？1.1什么是GGUF？GGUF(GPT-GeneratedUnifiedFormat)，提到GGUF就不得不提到它的前身GGML（GPT-GeneratedModelLanguage）。GGML是专门为了机器学习设计的张量库，最早可以追溯到2022/10。其目的是为了有一个单文

大模型应用·2025-06-02 01:50

转换PP-OCRv5模型为OpenVINO格式的详细指南

本文将详细介绍如何将PP-OCRv5模型转换为OpenVINO格式（.xml和.bin文件），并实现高效

mingo_敏·2025-06-01 08:50

华为HCIP-Cloud-Service认证H13-821V2.0-002

（C）A.HiLens能提供模型优化框架、自动压缩模型能力，将模型转换为目标芯片所支持的模型格式B.在HLens平台上开发的Ski11可以运行到任何基于华为海思芯片的设备上C.HilLens平台只能导入从

gong19172316967·2025-05-27 22:02

构建 PyMNN

编译MNN前的准备工作请参考原文：编译MNN构建PyMNN✅本地安装cd/path/to/MNN/pymnn/pip_package#构建依赖pythonbuild_deps.py{MNN依赖包组合}#

dbcccccsds·2025-05-23 18:20

RK3588 RKNN ResNet50推理测试

RK3588RKNNResNet50推理测试一、背景二、性能数据三、操作步骤3.1安装依赖3.2安装rknn-toolkit,更新librknnrt.so3.3下载推理图片3.4生成`onnx`模型转换脚本

Hi20240217·2025-05-22 07:32

RK3588 IREE+Vulkan ResNet50推理测试

解决IREE编译时,空间不足的问题2.2编译、安装`IREE`2.2.1挂载NFS2.2.2安装依赖2.2.3编译`IREE`2.2.4获取驱动及设备信息2.2.5下载推理图片2.2.6生成`onnx`模型转换脚本

Hi20240217·2025-05-21 07:24

甄选范文“论模型驱动架构设计方法及其应用”，软考高级论文，系统架构设计师论文

论文真题模型驱动架构设计是一种用于应用系统开发的软件设计方法，以模型构造、模型转换和精化为核心，提供了一套软件设计的指导规范。

程序员古德·2025-05-18 11:29

RK3588 MNN CPU/Vulkan/OpenCL ResNet50推理测试

RK3588MNNCPU/Vulkan/OpenCLResNet50推理测试一、背景介绍1.1RK3588芯片特性1.2为什么选择MNN？

Hi20240217·2025-05-17 18:26

轻量级高性能推理引擎MNN 学习笔记 02.MNN主要API

1.MNN主要API注意：本学习笔记只介绍了我在学习过程中常用的API，更多MNNAPI请参考官方文档。

龙湾开发·2025-05-16 21:32

TensorFlow模型转换与优化：流程解析

TensorFlow模型转换与优化：流程解析在深度学习模型部署的实际场景中，我们常常需要对模型进行跨框架的转换与优化。

·2025-05-16 20:32

华为海思系列----昇腾张量编译器（ATC）模型转换工具----入门级使用指南（LINUX版）

由于官方SDK比较冗余且经常跨文档讲解且SDK整理的乱七八糟，对于新手来说全部看完上手成本较高，本文旨在以简短的方式介绍CAFFE/ONNX模型转om模型，并进行推理的全流程。希望能够帮助到第一次接触华为海思框架的道友们。大佬们就没必要看这种基础文章啦！注：本文所有操作均在WSL（Windows虚拟子系统）上操作的，默认root环境，默认开发板系统为LINUX，所有环境变量均写入bashrc，非虚

不想起名字呢·2025-05-14 10:03

PPOCRv4推理模型转换为nb模型

一、前期准备Andriodstudio4.2参考：https://blog.csdn.net/qq_40647372/article/details/133266819?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522246c9d8e3affc84f010618778b02955d%2522%252C%2522scm%2522%253

AAA抗刀小玉·2025-05-10 14:36

EasyExcel高级特性和技术选型

文章目录前言一、EasyExcel核心优势二、EasyExcel高级特性2.1异步读取与多线程处理2.2动态模型转换与数据校验2.3定制复杂样式2.4监听器实现实时处理2.5与SpringBoot无缝集成三

快乐肚皮·2025-05-09 02:00

转onnx模型学习汇总及TensorRT部署

文章目录一写在前面二学习过程三模型转换（三种算法均开源）1.MatrixVT转onnx和TensorRT2.BEVPoolV2转onnx和TensorRT3.BEVDepth转模型四总结一写在前面深度学习火起来已近十年

天亮换季·2025-05-02 21:03

从 Simulink 模型生成 C 代码：完整指南与注意事项

通过EmbeddedCoder，我们可以将Simulink模型转换为高效、可移植的C代码，并部署到嵌入式设备（如STM32、DSP或FPGA）。

Dr.Zeus·2025-04-28 04:24

【模型篇】370-M8运行Qwen2.5-Omni-7B

文章目录前言一、平台环境选择二、模型下载Qwen2.5-Omni-7B三、环境安装四、模型转换五、代码修改前言OpenAI发布GPT-4V与Gemini1.5-Pro，GoogleDeepMind推出Flamingo

小军军军军军军·2025-04-21 04:26

pytorch 51 GroundingDINO模型导出tensorrt并使用c++进行部署，53ms一张图

本专栏博客第49篇文章分享了将GroundingDINO模型导出onnx并使用c++进行部署，并尝试将onnx模型转换为trt模型，fp16进行推理，可以发现推理速度提升了一倍。

万里鹏程转瞬至·2025-04-19 21:32

yolov8模型在rk3588的环境部署（详细版）

rknn手册最主要参考文档官方文档：9.YOLOv8—[野火]嵌入式AI应用开发实战指南—基于LubanCat-RK系列板卡文档文件介绍rknn-toolkit2:一般用于在pc端布置环境进行模型转换rknn_toolkit_lite2

1028_左傲杰·2025-04-18 17:35

PyTorch 模型转换为 TensorRT 引擎的通用方法

PyTorch模型转换为TensorRT引擎的通用方法在深度学习模型的部署过程中，提升推理性能是一个重要的目标。

视觉AI·2025-04-16 10:04

Xtuner微调大模型

微调大模型一、介绍二、安装使用2.1构建虚拟环境2.1.1创建虚拟环境2.1.2安装Xtuner2.2下载模型2.3微调准备2.3.1创建微调训练配置文件2.3.2修改微调训练配置文件2.4微调训练2.5模型转换

CodeSilence·2025-04-16 01:58

Unity引擎开发：2D与3D渲染技术_3D渲染技术

3D渲染技术涉及将三维模型转换为二维图像的过程，这一过程需要处理许多复杂的计算和图形技术。本节将详细介绍Unity引擎中的3D渲染技术，包括光照、阴影、材质、着色器、摄像机和后期处理等关键概念。

chenlz2007·2025-04-14 18:37

ubuntu20.04 openvino的yolov8推理（nncf量化）

1.环境配置：pipinstallopenvino-dev(2023.0.1)pipinstallnncf(2.5.0)pipinstallultralytics2.模型转换及nncf量化：1.pytorch

yuyuyue249·2025-04-13 13:34

Blender 转 STL 文件全攻略：从基础到进阶

因此，将Blender模型转换为STL文件，是连接3D建模与实际打印的关键环节。本文将系统介绍从Blender导出STL文件的全流程，帮助你解决可能遇到的各种问题，实现从数字模型到实体作品的跨越。

3D小将·2025-04-10 06:28

什么是模型驱动开发MDD?有哪些应用场景？

自动化转换通过工具（如代码生成器）将模型转换为

向上的车轮·2025-04-08 15:12

推荐频道