ncnn模型部署

深度学习的一些基本概念—入门教程

文章目录深度学习的概念入门教程基础概念神经网络前向传播反向传播权重和偏置激活函数：损失函数优化器批处理常用模型卷积神经网络循环神经网络长短时记忆网络自编码器生成对抗网络实践中使用深度学习数据预处理监督学习模型非监督学习模型梯度下降法超参数调整模型评估模型部署结论深度学习的概念入门教程深度学习是一种人工智能技术
百年孤独百年·2023-04-19 01:30

CUDA编程基础与Triton模型部署实践

本文将结合我在阿里智能互联云端模型推理部署方面半年以来的工作学习，对相关的GPU编程与云端模型部署的知识与经验进行总结分享，下文内容为个人学习总结
阿里技术·2023-04-18 22:32

Temporal Shift Module for Efficient Video Understanding速读笔记

模型部署的成本较低，同时性能较好,真不戳！！！(二)Keypoints现有方法存在的问题3DCNN方法性能好,但是计算量很大,部署成本太高。
不知道叫啥好一点·2023-04-18 14:26

DnCNN-pytorch版本代码训练教程

一、DnCNN-pytorch版本代码下载（1）DnCNN-pytorch下载https://download.csdn.net/download/qq_41104871/87457414（2）灰度图像训练数据集
假技术po主·2023-04-17 16:37

DnCNN-pytorch版本代码测试教程

一、DnCNN-pytorch版本代码下载（1）DnCNN-pytorch下载https://download.csdn.net/download/qq_41104871/87457414二、DnCNN-pytorch
假技术po主·2023-04-17 16:31

信贷产品额度定价场景下的回归模型效果评估

当我们线下建立好一个模型之后，只有通过样本内外的多次测试，以及模型性能指标达到标准后，才会将模型部署到线上来实施应用。
番茄风控·2023-04-17 11:03

Amazon EKS＋Kubeflow＋Karpenter 助力构建弹性机器学习平台

前言随着机器学习的不断发展和在各个行业的使用，很多企业已经从最初关注构建模型、算法选择到了现在如何构建自己的机器学习平台，在该平台上实现从数据处理、模型训练、模型部署和CI/CD。
亚马逊云开发者·2023-04-17 03:13

FastChat开放，媲美ChatGPT的90%能力——从下载到安装、部署

—从下载到安装、部署前言两个前置软件创建FastChat虚拟环境安装PyTorch安装FastChat下载LLaMA，并转换生成FastChat对应的模型Vicuna启动FastChat的命令行交互将模型部署为一个服务
蒋含竹·2023-04-17 01:36

手把手教学在windows系统上将pytorch模型转为onnx，再转为ncnn的全过程

前言最近呢，在忙一个项目，需要将pytorch训练的模型部署在移动端。然后遇到也遇到了一些坑，简单的记录一下整个过程，转换的模型就使用经典的分类网络模型mobilenet_v2。
肥宅程序员aka不会游泳的鱼·2023-04-16 23:58

Mxnet 框架 Insightface( MMS）模型部署教程

一、Docker镜像准备直接pullmmsimagescpu版本:dockerpullawsdeeplearningteam/multi-model-servergpu版本:拉取官方项目gitclonehttps://github.com/awslabs/multi-model-server.git拉起官方镜像:dockerpullawsdeeplearningteam/mxnet-model-s
一个摸鱼AI喵·2023-04-16 14:18

Python：清华ChatGLM-6B中文对话模型部署

1、简介ChatGLM-6B是一个开源的、支持中英双语的对话语言模型，基于GeneralLanguageModel(GLM)架构，具有62亿参数。结合模型量化技术，用户可以在消费级的显卡上进行本地部署（INT4量化级别下最低只需6GB显存）。ChatGLM-6B使用了和ChatGPT相似的技术，针对中文问答和对话进行了优化。经过约1T标识符的中英双语训练，辅以监督微调、反馈自助、人类反馈强化学习等
拾荒的小海螺·2023-04-15 23:43

Ubuntu16.04安装NCNN和Opencv

一、安装NCNN官网：NCNN官方文档OnDebian,UbuntuorRaspberryPiOS,youcaninstallallrequireddependenciesusing:首先安装NCNN的依赖项
HHzdh·2023-04-15 20:04

ONNX转NCNN记录

【pytorch转onnx】pytorch-onnx【onnx转ncnn】onnx-ncnn【ncnn加载模型】ncnn-load一、python安装依赖项pipinstallonnxruntimeonnxopencv-python
HHzdh·2023-04-15 20:57

Android ncnn

测试下载NCNN-Android-Vulkan.zip或自行构建NCNNforAndroidhttps://github.com/Tencent/ncnn/releases将ncnn-android-vulkan.zip
FakeOccupational·2023-04-15 05:34

paddle实现手写数字识别终章

要点：资源配置训练调试恢复训练模型部署参考文档：paddle官方文档一资源配置1概述从前几节的训练看，无论是房价预测任务还是MNIST手写字数字识别任务，训练好一个模型不会超过10分钟，主要原因是我们所使用的神经网络比较简单
处女座_三月·2023-04-15 05:24

GPT-4工具是软件工程师工作效率的倍增器

主要从事AI算法数据集处理，模型部署工具开发，以及低代码工具开发。使用Github的Copilot编程伴侣超过1个月,简单测试过ChatGPT。
__弯弓__·2023-04-15 04:58

【LLM】Windows本地CPU部署民间版中文羊驼模型踩坑记录

目录前言准备工作GitPython3.9Cmake下载模型合并模型部署模型前言想必有小伙伴也想跟我一样体验下部署大语言模型,但碍于经济实力,不过民间上出现了大量的量化模型,我们平民也能体验体验啦~,该模型可以在笔记本电脑上部署
提笔忘字的帝国·2023-04-14 16:36

yolov7模型部署——代码实现（python版和c#版）

忙了两个星期，终于把c#版onnx调用整合到项目中，并和UI功能结合起来了~~~也终于腾出时间来总结一下，都快忘记踩过什么坑了T_T。一，python版python版比较容易，毕竟有官方的detect.py指导，据说之前官方放了个使用onnx推理的ipynb文件，但很快就删了~~~参考这篇博客。通过模型结构图查看模型输入要求尺寸为[13640640]。onnx调用的基本思想步骤就是：根据EP建立s
boligongzhu·2023-04-14 14:53

基于ai studio的paddlepaddle模型快速部署

在部署过程中，百度给的教程已经很详细了，但是有一点没有说，问了百度的大佬才晓得，下边把我踩的坑总结一下：我的流程主要是这样的：1.在百度aistudio平台上将paddle的模型部署上，然后进行平台上的测试
AA_BUYI工作室·2023-04-14 10:08

paddleserving模型部署，工业级落地部署，高可用、高并发、高吞吐、低延时

完整参考链接：https://www.paddlepaddle.org.cn/tutorials/projectdetail/1555945https://github.com/PaddlePaddle/Serving/blob/v0.6.0/README_CN.md获取模型的方式训练过程直接保存可部署的模型”通常训练过程是使用的save_inference_model接口保存模型的，但是这样保存
愚昧之山绝望之谷开悟之坡·2023-04-14 10:07

『paddle』paddleseg 学习笔记：模型部署

模型部署1.说明2.前置准备3.预测1.说明本方案旨在提供一个PaddlePaddle跨平台图像分割模型的Python预测部署方案作为参考，用户通过一定的配置，加上少量的代码，即可把模型集成到自己的服务中
libo-coder·2023-04-14 10:06

paddle 项目的部署

要点：模型部署和动态图，静态图的转换一动静转换动态图有诸多优点，比如易用的接口、Python风格的编程体验、友好的调试交互机制等。在动态图模式下，代码可以按照我们编写的顺序依次执行。
处女座_三月·2023-04-14 10:03

深度学习模型权重数值精度FP32,FP16,INT8数值类型区别

我们为了获得更短的训练速度，会使用混合精度训练的方式混合精度的含义就是，FP32以及FP16进行混合精度的训练模式，虽然在一定程度上牺牲了训练的精度，但是可以减少内存的占用以及缩短模型的训练时间，在嵌入式的终端进行模型部署的时候
千与编程·2023-04-14 08:08

DnCNN-pytorch版本代码运行环境配置

一、DnCNN-pytorch相关下载（1）DnCNN-pytorch版本代码下载https://download.csdn.net/download/qq_41104871/87457414（2）GPU
假技术po主·2023-04-14 08:37

自动部署PMML模型生成REST API

目录DaaS介绍PMML简介模型部署准备部署实时预测Web服务部署自定义实时预测Web服务部署离线批量预测任务服务部署模型评估任务服务总结参考DaaS介绍DaaS（Deployment-as-a-Service
aipredict·2023-04-14 03:12

部署机器学习模型有哪些方法

部署机器学习模型的方法有很多，下面列举几种常见的方法：在线部署：将模型部署到网络服务器或云平台上，通过接口与用户交互。
焦虑肇事者·2023-04-14 03:50

windows下tensorRT的安装

目的使用tensorRT进行网络模型部署，加快推理速度方法安装tensorRT的过程并不麻烦，主要是需要对各种组件的版本进行匹配主要的前置安装套件有：1、CUDA2、cuDNN3、pyCUDA4、tensorflow
左接左路·2023-04-13 12:27

AI学习-腾讯TNN

TNN框架在原有Rapidnet、ncnn框架的基础上进一步加强了移动端设备的支持以及性能优化，同时借鉴了业界主流开源框架高性能和良好拓展性的特性，拓展了对于后台X86,
superxxd·2023-04-13 11:27

Chatgpt 实践经验分享

模型部署：完成模型训练之
luffy_fe·2023-04-13 09:48

【Pytorch源码模板】深度学习代码：各种骨干网（分类、分割、轻量化、姿态、识别）、注意力、Loss、可视化、数据增强（十万行代码整理，超强模板，入门即精通不是梦）

目录1.前言2.源码框架3.数据增强和网络正则化方法4.模型4.1各种骨干网络4.2.大量注意力机制4.3.轻量型网络4.4生成对抗网络GAN4.5其他常用网络5.模型部署6.pytorch-loss7
诸葛灬孔暗·2023-04-12 23:06

【精华】NanoDet Plus之ncnn部署（Linux）

目录（1）准备工作（2）操作步骤step1step2step3（3）参考教程本项目实现在linux平台使用ncnn部署NanoDetPlus模型的功能，内容亲测有效，可作为通用ncnn模型部署参考项目。
LeeZhao@·2023-04-12 22:23

PaddleDetection针对C#的win10平台模型部署全套流程教程(附疑难解决方案)

目录一.环境配置1.1基础开发环境1.2软件配置环境1.3Cmake编译1.4在VS2019下进行调试二.C#移植部署演示2.1修改main.cc文件(定制化)2.2修改CMakeLists.txt文件2.3C#调用打包好的dll2.3.1C#窗体编写2.3.2C#窗体调用(定制化)三.参考文献由于官方并没有给出Paddledetection关于C#部署的tutorial，很多第三方的教程又不够具
东洋 Dongyang·2023-04-12 13:43

diffusion模型部署的一些bug和操作

我根据这篇文章实现diffusion的部署在自己电脑运行StableDiffusion和完整项目下载因为这个github工程改成这个名字了,放心整.链接为https://github.com/invoke-ai/InvokeAI具体为以下面向大海春暖花开鸡蛋宇航员骑在马上但是有些emmm还是不太行我估计是我说的太抽象了宇航员骑在马桶上人在海里飞芝士雪豹ikunemmm都是我同学让我生成的!!!!!
诶我就不告诉你·2023-04-12 10:40

【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）

ONNX模型部署环境创建1.onnxruntime安装2.onnxruntime-gpu安装2.1方法一：onnxruntime-gpu依赖于本地主机上cuda和cudnn2.2方法二：onnxruntime-gpu
JLGao的博客·2023-04-12 06:22

目标检测——YOLOv6（十二）

在部署方面，YOLOv6支持GPU（TensorRT）、CPU（OPENVINO）、ARM（MNN、TNN、NCNN）等不同平台的部署，极大地简化工程部署时的适配工作。
Y.Z.Y.·2023-04-12 03:34

量化番外篇 | TensorRT-8的量化细节

作者|Oldpan编辑|oldpan博客点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署】技术交流群好久不见各位~这篇文章很久之前写完一直没有整理，最近终于是整理差不多了
自动驾驶之心·2023-04-12 00:55

关于 ubuntu ncnn 环境的安装， protobuf、pnnx

文章目录安装protobufncnn环境安装编译将模型转成ncnn的格式方式1：直接用ncnn自带的工具转方式二安装protobuf下个安装包：有坑，记得下all的protobufv3.19.4地址：github
东哥爱编程·2023-04-11 13:30

AI面试第七弹(模型部署相关知识)

一、离线模型(Offline)离线模型存在于很多业务场景中，其中最常见的业务场景就是用在推荐系统的召回阶段，由于在推荐系统中，召回并不要求是实时的，可以根据业务的需要，调整成每天一次，或者每几个小时跑一次即可，因此，这类的模型，一般我们只需要使用Linux下的crontab定时任务脚本，每隔一段时间来启动一次就可以，然后将log文件输出到指定的文件下即可。这种方式一般来讲仅限离线模型的部署，其本质
加油11dd23·2023-04-11 10:31

DnCNN-keras版本代码运行环境配置

一、DnCNN-keras版本代码下载（1）DnCNN-keras下载https://download.csdn.net/download/qq_41104871/87456626二、DnCNN-keras
假技术po主·2023-04-11 06:24

DnCNN-keras版本代码测试教程

一、DnCNN-keras版本代码下载（1）DnCNN-keras下载https://download.csdn.net/download/qq_41104871/87456626二、DnCNN-keras
假技术po主·2023-04-11 06:24

DnCNN-pytorch版本代码实战前期准备

一、DnCNN-pytorch版本代码实战前期准备（1）DnCNN-pytorch版本代码下载https://download.csdn.net/download/qq_41104871/87457414
假技术po主·2023-04-11 06:24

DnCNN的灰度图像数据集

一、DnCNN的灰度图像数据集DnCNN的灰度图像数据集包括训练的灰度图像数据集和测试的灰度图像数据集。
假技术po主·2023-04-11 06:53

DnCNN的彩色图像数据集

一、DnCNN的彩色图像数据集DnCNN的彩色图像数据集包括训练的彩色图像数据集和测试的彩色图像数据集。
假技术po主·2023-04-11 06:53

DnCNN-keras版本代码训练教程

一、DnCNN-keras版本代码下载（1）DnCNN-keras下载https://download.csdn.net/download/qq_41104871/87456626（2）DnCNN-keras
假技术po主·2023-04-11 06:53

DnCNN-keras版本代码完整实战开发教程

一、DnCNN-keras版本代码完整实战开发教程（1）DnCNN-keras版本代码下载https://download.csdn.net/download/qq_41104871/87456626（
假技术po主·2023-04-11 06:19

在AWS上部署、监控和扩展机器学习模型

Cortex是一个将机器学习模型部署为生产网络服务的开源平
人工智能遇见磐创·2023-04-10 19:19

AI模型部署到Android端:模拟器App的生成与tensorflow模型的输入输出调试

本文是本人涉及深度学习模型部署到安卓端的第一项helloworld，初入安卓领域，若有写得不好的地方或有误的地方，欢迎指正，本教程从0到1实现，希望对你有帮助。
源代码杀手·2023-04-10 18:38

scikit 模型评价指标_如何将scikit学习模型部署到AWS

scikit模型评价指标Inthispost,itwillbeaboutdeployingascikit-learnmachinelearningmodelusingserverlessservicesbecauseitallowsustoletthemodeldeployandonlypayforthetimeitwillbeusedunlikeusingaserver.在本文中，它将涉及使用无
yuan xiong·2023-04-10 18:07

深度学习模型部署-triton

链接：https://www.zhihu.com/question/517971355/answer/2721126560以前学习过tf-server部署和移动端部署方式，今天发现一个新的部署方式，感觉不错，就学习一下。老潘用triton有两年多了，一直想写个教程给大家。顺便自己学习学习，拖了又拖，趁着这次换版本的机会，终于有机会了写了。triton作为一个NVIDIA开源的商用级别的服务框架，个
javastart·2023-04-10 18:06

模型部署学习--有三AI（视频要收费So没学完）

视频地址：深度学习之模型部署模型的整个使用流程从模型训练到部署一部署平台选择：1、在线服务器端部署，精度优先：大模型/分布式（如千亿级参数模型GPT-3）延迟不敏感（如以图搜图应用）2、离线嵌入式端部署
饿了就干饭·2023-04-10 18:33
上一页 11 12 13 14 15 16 17 18 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他