ncnn模型部署第30页

编码理解 | 卷积的实现和卷积神经网络

1.2.卷积的特征提取2.实例：PyTorch卷积实现代码1.标准卷积Standard/PlainConvolutionCNNs[1]中的卷积，也称为滤波器，其本质上是由一组带参数的卷积核所组成，它是通过卷积核来提取出图片中的局部特征

夏天｜여름이다·2022-09-22 11:49

OCR:C++ PaddleOCR C++ PaddleOCR vs2019 （CPU版）保姆教程

C++在性能计算上优于Python，因此，在大多数CPU、GPU部署场景，多采用C++的部署方式，本教程如何在Windows(CPU)环境下配置C++环境并完成PaddleOCR模型部署。

dragon_perfect·2022-09-15 16:14

01_树莓派4B+paddlelite实现安全帽佩戴检测

内容：将ssdv1和yolov3两种模型部署到树莓派4B上，使用paddlelite套件实现安全帽佩戴检测。

addict_jun·2022-09-14 07:40

Paddle分割模型部署到windows平台的QT软件中（C++）

目的：使用paddleseg开源框架训练分割模型，并将训好的模型转为C++代码，部署到已有的C++项目中，提供视觉检测模块，平台为windows10,QT5.12.8。硬件环境：服务器或者带有GPU的电脑，用于训练paddleseg模型；目标部署电脑:windows10系统，QT5.12.8,VS2017,；软件环境：CUDA11.0,cudnn8.0模型训练电脑;Paddlepaddle,Pad

m0_46429066·2022-09-13 09:34

python与C++的效率区别、模型部署/ONNXRuntime/tensorrt

python与C++的效率区别解释执行：由解释器根据输入的数据当场执行而不生成任何的目标程序。编译执行：先将源代码编译成目标语言（例如机器语言）之后，通过连接程序连接到生成的目标程序进行执行。python和C++python是一种脚本语言，是解释执行的，不需要经过编译，所以很方便快捷，且能够很好地跨平台，写一些小工具小程序特别合适。而C++则是一种需要编译后运行语言，在特定的机器上编译后在特定的机

愚昧之山绝望之谷开悟之坡·2022-09-12 17:51

yolov4模型部署流程

环境配置以yolov4为例，打开https://github.com/AlexeyAB/darknet这个教程，将这个项目下载到本地文件。接下来需要下载一下：•Opencv:OpenCV>=2.4:https://opencv.org/releases.html•安装完成后，添加环境变量：右击此电脑-属性-高级系统设置-环境变量，找到系统变量中的path（找到自己的安装目录相对应的文件位置）：C:

刘润森！·2022-09-11 07:29

最强人脸检测来了 yolov5 face

全面超越retinaface_jacke121的专栏-CSDN博客c++mnn：GitHub-DefTruth/YOLO5Face.lite.ai.toolkit:YOLO5Face2021withMNN/NCNN

AI视觉网奇·2022-09-09 11:32

mmcls 多标签模型部署在torch serve

GitHub仓库：gy-7/mmcls_multi_label_torchserve(github.com)各个文件说明：cls_requests_demo：分类模型请求api服务的demodet_requests_demo：检测模型请求api服务的demoinference：要修改的inference代码mmcls_handler：要修改的mmcls_handler代码torchserve_lo

gy-77·2022-09-09 07:14

yolov5-5.0训练模型+瑞芯微rv1126上实现模型部署

yolov5-5.0训练模型+瑞芯微rv1126上实现模型部署 第一次接触模型训练和在开发板部署，过程曲折，从开始的一脸懵到最后模型部署成功，查阅了不少资料和学习了不少大佬的经验，在这里记录一下过程和心得

吴王从山上走来·2022-09-09 07:30

Java调用Python脚本获取预测模型服务的预测结果

模型部署流程：TensorFlow模型部署1、安装AnacondaLinux安装Anaconda2、编写py程序调用预测模型接口进行结果预测【注意这里py环境的问题，存在工具包没有导入的情况】importrequestsimpor

Huang3stone·2022-09-06 19:37

Tensorflow模型部署服务器，并使用接口调用

项目需要在生产环境部署训练好的模型进行预测，通过查了相关资料整理了下整个搭建流程及应用。首先，Tensorflow官方提供的tensorflowserving进行部署，同时，为了免去环境配置等麻烦操作，可借助docker容器。一.安装DockerCentos7安装docker二.通过Docker拉取TensorFlowServing镜像根据自己版本修改(我用的是2.2.0)dockerpullte

Huang3stone·2022-09-06 19:31

深度学习中常见的名词术语

文章目录1从分类器开始2神经网络的基本组成单元：神经元，层neuronactivationfunctionlayer3深度学习扛把子：卷及神经网络CNNCNNlayer(卷积层)Poolinglayer

leeayu·2022-09-06 07:16

【实验课程】图像识别全流程代码实战

本实验会使用MindSpore来构建图像识别模型，然后将模型部署到ModelArt

昇思MindSpore·2022-09-06 06:10

扑克牌识别

本文主要分为两部分，第一部分为使用moblienetv2ssdlite训练一个识别扑克牌的模型，第2部分就是将训练好的模型部署到手机上运行，具体的运行效果如下所示：pc端运行效果：20220316b站地址

qq 1735375343·2022-09-05 17:18

[BPU部署教程] 一文带你轻松走出模型部署新手村

这个博客其实从7月2号就开始写了，本以为半个月就能搞出来，结果稀稀拉拉整了1个多月才研究明白（这不给来个三连→_→）。BPU对我来说还是太新鲜了，其中涉及到的相关技术，对我这种小白来说，真的是挑战很大。我们都知道BPU可以加速深度学习的推理，也非常想掌握这个技术。官方文档及其全面，进而导致我无法快速的上手。如果想熟练掌握BPU开发，需要会使用docker，理解为什么转换模型需要调优（说白了还是我菜

小玺玺·2022-09-05 07:22

[BPU部署教程] 教你搞定YOLOV5部署 (版本: 6.2)

最近一些人问我怎么在BPU上部署yolov5，因为之前的博客[BPU部署教程]一文带你轻松走出模型部署新手村介绍的网络都是基于Caffe的，自己的网络都是基于pytorch的，所以遇到了很多坑。

小玺玺·2022-09-05 07:45

模型压缩|深度学习（李宏毅）（十三）

一、概述需要做模型压缩的原因在于我们有将模型部署在资源受限的设备上的需求，比如很多移动设备，在这些设备上有受限的存储空间和受限的计算能力。

酷酷的群·2022-09-03 15:59

【深度学习之模型优化】模型剪枝、模型量化、知识蒸馏概述

前言模型部署优化这个方向其实比较宽泛。从模型完成训练，到最终将模型部署到实际硬件上，整个流程中会涉及到很多不同层面的工作，每一个环节对技术点的要求也不尽相同。

大气层煮月亮·2022-09-03 15:21

paddleocr-营业执照识别项目实战

paddleocr-营业执照识别项目实战@[TOC](paddleocr-营业执照识别项目实战)0.课程目录1.环境准备2.处理数据3.训练模型4.模型部署5.总结0.课程目录0.1.课程介绍从头开始带您训练一个营业执照专有识别模型

GeekPlusA·2022-09-02 07:21

安全帽佩戴检测——从数据处理、训练数据到模型部署落地(带有数据集、训练代码，可使用GPU的C++模型部署代码)

2.训练和开发环境是win10,显卡RTX3080;cuda10.2,cudnn7.1;OpenCV4.5;yolov5用的是5s的模型，2020年8月13日的发布v3.0这个版本;ncnn版本是20210525

知来者逆·2022-08-26 07:45

Yolov5身份证检测——模型训练

前言系统环境是win10,显卡RTX3080;cuda10.2,cudnn7.1;OpenCV4.5;yolov5用的是5s的模型，2020年8月13日的发布v3.0这个版本;ncnn版本是20210525

知来者逆·2022-08-26 07:14

基于嵌入式平台与深度学习的智能气象监测仪器设计方案

但是如果在服务端利用海量的数据和计算资源训练好模型，然后将训练好的模型部署到移动端，只利用移动端的计算能力来进行推理，将分别发挥两项技术最优的性能，也是人工智能算法落地的趋势。若

天翼小余·2022-08-23 07:03

深度学习模型部署概述

模型部署概述关键常见部署需求与做法参考关键深度学习模型部署的方式取决于应用需求常见部署需求与做法【1】简单的demo演示，只要看看效果的—》选择深度学习框架caffe、tf、pytorch、keras等

Mzcc_bbms·2022-08-23 07:58

机器学习信息熵和热力学定律中的熵有关系吗？

通过不断调整，选择使KL散度最小的ZP和SCALE值作为量化参数，达到使量化信息损失最少的目的，关于这些介绍，可以参考博文：模型量化中的KL散度扫盲_papaofdoudou的博客-CSDN博客_kl三度使用NCNN

papaofdoudou·2022-08-18 07:45

李宏毅《机器学习》模型压缩-知识蒸馏

概述需要做模型压缩的原因在于我们有将模型部署在资源受限的设备上的需求，比如很多移动设备，在这些设备上有受限的存储空间和受限的计算能力。

Good@dz·2022-08-13 07:57

深度学习-知识蒸馏

第一章综述知识蒸馏的目的是将大模型变成小模型，将小模型部署到移动终端设备上。

jackson_j·2022-08-13 07:48

C++实现推理, 基于Tensorflow，OpenCV，NCNN，OpenVINO平台

**基于tensorflowc++接口实现推理基于opencvc++接口实现推理基于ncnnc++接口实现推理深度学习模型推理,为啥需要学习tensorflow,因为需要C++部署,为啥又需要学习opencv

SensorFusion·2022-08-02 07:59

cnn-explainer解释CNN作用过程

cnn-explainerGitHub地址：cnn-explainer论文地址：CNNExplainer:LearningConvolutionalNeuralNetworkswithInteractiveVisualizationcnn-explainer

yizhi_hao·2022-07-28 21:09

基于Caffe ResNet-50网络实现图片分类（仅推理）的实验复现

摘要：本实验主要是以基于CaffeResNet-50网络实现图片分类（仅推理）为例，学习如何在已经具备预训练模型的情况下，将该模型部署到昇腾AI处理器上进行推理。

华为云开发者联盟·2022-07-25 10:00

深度学习模型部署 C++学习经历

文章目录前言ONNXC++TensorRT使用trtexec.exe量化校准参考前言在部署大规模深度学习应用的时候，要想满足应用需求或者压榨模型的性能，C++可能是比python更好的选择方案。基于此，特地记录最近的C++的学习经历。其实以终为始来思考为什么学习C++，首先是为了能够很好地提升模型的性能，满足应用场景中的高可用，高并发，低时延等要求。为了提升模型的性能，需要用到一些推理框架，如Te

RyanC3·2022-07-25 09:43

TorchScript 系列解读（一）：初识 TorchScript

大家好呀，不久前我们推出了模型部署入门系列教程，受到了大家的一致好评，也收到了很多小伙伴的催更，后续教程正在准备中，将在不久后跟大家见面，敬请期待哦~OpenMMLab：模型部署系列教程（一）：模型部署简介

OpenMMLab·2022-07-25 07:52

AI 框架部署方案之模型转换

作者|OpenMMLab（已授权）来源|https://zhuanlan.zhihu.com/p/396781295编辑|极市平台导读模型转换是模型部署的重要环节之一，本文会从深度学习训练框架的角度出发

Tom Hardy·2022-07-25 07:20

新版Maixhub部署（V831与K210）

Maixhub文章目录Maixhub前言一、训练过程展示二、模型部署1.K2102.V831总结前言之前写过一篇文章教大家怎么用那个软件，后来有人问我如何部署，今天教大家部署一下。

我与nano·2022-07-25 07:36

Jetson nano上使用ncnn部署yolox

，这篇文章写一下关于部署，yolox之所以刚出来就这么火爆，不仅是精度高、速度快，很大程度上还是因为直接把部署的代码叶开源了，可谓是从训练到部署一条龙服务，很良心，yolox里面开源的部署代码有四种：ncnn

三叔家的猫·2022-07-22 07:22

Pytorch模型部署之--------TensorRT介绍

TensorRT文章目录TensorRT介绍模型构建Engine序列化和反序列化使用engine进行预测前向预测总结转载链接介绍TensorRT(TRT)作为一种能显著加快深度学习模型inference的工具，如果能够较好的利用，可以显著提高我们的GPU使用效率和模型运行速度。TensorRT(TRT)作为一种快速的GPU推理框架，其常规流程就是利用现有的模型文件编译一个engine，在编译eng

黑猫爱小鹿·2022-07-21 07:13

Transformer（multi-head attention）

文章目录RNNCNNATTself-attention（K/Q/V）Multi-headAttention顺序问题seq2seqwithattentionTransformerTransformer的应用参考文献

aaaaa98666·2022-07-20 07:14

10分钟自定义搭建行人分析系统，检测跟踪、行为识别、人体属性All-in-One！

五大异常行为一键识别10余种预训练模型一站下载10分钟快速新增识别类型全流程保姆级教程，从技术选型、数据准备到模型部署全覆盖图1：PP-Humanv2全功能全景图PP-Human集成了目标检测、目标跟踪

飞桨PaddlePaddle·2022-07-19 19:17

10分钟自定义搭建行人分析系统，检测跟踪、行为识别、人体属性All-in-One

五大异常行为一键识别10余种预训练模型一站下载10分钟快速新增识别类型全流程保姆级教程，从技术选型、数据准备到模型部署全覆盖图1：PP-Humanv2全功能全景图PP-Human集成了目标检测、目标跟踪

飞桨PaddlePaddle·2022-07-19 19:47

使用TorchScript和libtorch进行模型推理[附C++代码]

模型部署方式有很多，libtorch和TorchScript也是部署的一种方式，由pytorch官方提供将pytorch模型转换为TorchScript方法：TracinganexistingmoduleUsingscriptingtodirectlycompileamoduleHowtocomposebothapproachesSavingandloadingTorchScriptmodules

爱吃肉的鹏·2022-07-19 08:45

图神经网络的可解释性方法介绍和GNNExplainer解释预测的代码示例

深度学习模型的可解释性有助于增加对模型预测的信任，提高模型对与公平、隐私和其他安全挑战相关的关键决策应用程序的透明度，并且可以让我们了解网络特征，以便在将模型部署到现实世界之前识别

·2022-07-17 11:53

【百度飞桨】手写数字识别模型部署Paddle Inference

从完成一个简单的『手写数字识别任务』开始，快速了解飞桨框架API的使用方法。模型开发『手写数字识别』是深度学习里的HelloWorld任务，用于对0~9的十类数字进行分类，即输入手写数字的图片，可识别出这个图片中的数字。本任务用到的数据集为MNIST手写数字数据集，用于训

湾仔码农·2022-07-16 20:00

python数据挖掘与分析

数据挖掘建模的流程目标定义：任务理解、指标确定数据采集：建模抽样、质量把控、实时采集数据整理：数据探索、数据清洗、数据变化表构建模型：算法选择、模型搭建、模型验证模型评价：模型评价指标选择、模型优化模型发布：模型部署

zzb103749·2022-07-13 07:45

NCNN+Int8+YOLOv4量化模型和实时推理

一、前言2021年5月7日，腾讯优图实验室正式推出了ncnn新版本，这一版本的贡献毫无疑问，又是对arm系列的端侧推理一大推动，先剖出nihui大佬博客上关于新版ncnn的优化点：继续保持优秀的接口稳定性和兼容性

pogg_·2022-07-13 07:42

树莓派部署yolo fastest ncnn记录

成功跑通写的总结部署环境1.ubuntu182.opencv4.5.13.树莓派4b一、编译ncnn1.ncnn环境配置sudoapt-getinstall-ygfortransudoapt-getinstall-ylibprotobuf-devlibleveldb-devlibsnappy-devlibopencv-devlibhdf5

2652189683·2022-07-13 07:39

树莓派4B使用记录YOLOV5＞NCNN（1）

Wilson_for·2022-07-13 07:28

【树莓派ncnn部署】

目录一、Pytorch-＞ONNX-＞NCNN-＞NCNNfp16二、树莓派ncnn环境配置2.1、安装git和cmake依赖2.2、安装其他依赖2.3、下载ncnn并解压三、修改相关文件四、编译ncnn

满船清梦压星河HK·2022-07-13 07:27

10min复现yolov5官方源码

文章目录前言一、配置环境二、下载源码和官方权重三、开始训练前言《学习笔记》由于最近在弄模型部署到移动端的事情，所以需要训练最新版本（6.1）的权重，于是我开始使用最新版的yolov5去训练自己的模型，当然最先开始用的是给的

陪我去看海吧zz·2022-07-13 07:23

yolov5s使用Pnnx部署到树莓派4B(Ncnn)

文章目录一、pt->torchscript->param+bin(Pnnx)->Ncnn->Ncnnfp16二、将pt格式转换成.param和.bin格式2.1配置基本环境以及yolov5s.pt文件配置