serving模型部署第24页

Win11 + docker + tensorflow serving 完成模型部署

花了半天的时间调通了在Win11系统下，如何利用docker+tensorflowserving实现模型部署。记录一下。

WilliamCHW·2023-01-15 11:32

开源 | 基于YOLOv7实现Transformer的TensorRT部署

作者|林大佬编辑|汽车人原文链接：https://zhuanlan.zhihu.com/p/487877753点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署

自动驾驶之心·2023-01-15 09:47

【模型部署】人脸检测模型DBFace C++ ONNXRuntime推理部署（2）

系列文章目录【模型部署】人脸检测模型DBFaceC++ONNXRuntime推理部署（0）【模型部署】人脸检测模型DBFaceC++ONNXRuntime推理部署（1）【模型部署】人脸检测模型DBFaceC

liuz_notes·2023-01-14 15:11

计算机视觉——加权最小二乘（WLS）滤波器

Edge-PreservingDecompositionsforMulti-ScaleToneandDetailManipulationZeevFarbman,RaananFattal,DaniLischinski

Vic时代·2023-01-14 14:17

YOLOV3 模型训练及模型部署（YOLO动态链接库的封装和调用）

YOLOV3模型训练及模型部署（YOLO动态链接库的封装和调用）一、配置环境windows10+VS2017communitycuda10.0.130_411.31cunn-10.0-v7.6.5.32opencv3.2

Andrew_jdw·2023-01-14 11:02

全志V853 NPU开发（四）模型部署

SwaggerWX·2023-01-14 00:03

我用YOLOX露了一手，记录一下模型部署、优化及训练的实现全过程

作者丨叶润源来源丨https://www.yuque.com/yerunyuan/ar9831/tsm0id#Kfi4w编辑丨极市平台导读YOLOX将近两年来目标检测领域的各个角度的优秀进展与YOLO进行了巧妙地集成组合并且重回AnchorFree的怀抱。本文详细的介绍了作者将FCOS+ATSS模型换成YOLOX模型的全过程并附带相关代码。YOLOX的AnchorFree（AnchorBased针

Wang_AI·2023-01-14 00:53

百度BML-飞桨服务器以及Jetson nano部署实战案例（下）

百度BML-飞桨服务器以及Jetsonnano部署实战案例（下）这次我们直接把模型部署到公有云和Jetsonnano的实战训练，首先说下用的是公有云部署，然后再说下Jetsonnano。

翼达口香糖·2023-01-13 22:39

一个垃圾分类项目带你玩转飞桨（1）

一个垃圾分类项目带你玩转飞桨（1）基于PaddleClas实现垃圾分类，导出inference模型并利用PaddleHubServing进行服务化部署。

Thomas左右·2023-01-13 17:26

以 Animated Drawings APP 为例，用 TorchServe 进行模型调优

内容导读上节介绍了TorchServe模型部署调优的5个步骤，将模型部署到生产环境中。本节以AnimatedDrawingsAPP为例，实际演示TorchServe的模型优化效果。

HyperAI超神经·2023-01-13 10:12

WebAI.js：一个简单的网页前端 AI 模型部署工具

1.简介WebAI.js是一个基于OpenCV.js和ONNXRuntime开发的一个Web前端AI模型部署工具项目GitHub：AgentMaker/WebAI.js可通过在线体验网站HelloWebAI.js

jm_12138·2023-01-13 09:33

WebAI.js：快速使用示例（人脸检测模型网页部署）

1.简介本教程以人脸检测模型为例，简单介绍如何使用WebAI.js在网页前端完成模型部署作为演示，示例网页的搭建非常简单，只包含一个简单的HTML网页示例项目GitHub：AgentMaker/WebAI.js-Examples2

jm_12138·2023-01-13 09:33

paddle模型服务器部署分两步走

愚昧之山绝望之谷开悟之坡·2023-01-12 18:44

tensorflow serving 的相关知识

关于部署方面，建议使用官方的docker方式：https://github.com/tensorflow/serving单模型部署时，执行命令如下：dockerrun-t--rm-p8501:8501\

会发paper的学渣·2023-01-12 16:25

模型部署翻车记：pytorch转onnx踩坑实录

本文原创首发于极市平台公众号，如需转载请私信作者在深度学习模型部署时，从pytorch转换onnx的过程中，踩了一些坑。本文总结了这些踩坑记录，希望可以帮助其他人。

nihate·2023-01-12 16:12

AI算法模型之应用部署概述

模型部署框架类型算法模型的部署主要可以分成两个方面。一是在移动端/边缘端的部署，即嵌入式，通常以SDK形式呈现。

智驱力人工智能·2023-01-12 13:20

模型剪枝的笔记

直接将模型部署

FergusJ·2023-01-12 09:18

联邦学习论文阅读二：PRECAD

联邦学习论文阅读二：PRECADPRECAD:Privacy-PreservingandRobustFederatedLearningviaCrypto-AidedDifferentialPrivacy

一步一个脚印ッ·2023-01-12 06:09

画质增强概述-3.2-AI增强实践之推理与部署

当然，本文不涉及在移动端的部署，我理解移动端模型部署很核心的工作是模型压缩(量化、枝剪和蒸馏)，这块我涉及不算很深入，只搞过一点量化和枝剪，就不展开描述了。

何亮-1108·2023-01-11 13:44

强调应用的WACV 2021，5篇最佳论文都在这里了

详情请看视频：获奖论文分别来自模型部署、图像恢复、6D姿态估计、人体姿态估计、医学领域

OpenCV中文网公众号·2023-01-11 09:33

ESP32 上快捷部署 Tensorflow lite 机器学习（TinyML）

在这篇文章中，我将向您展示使用ArduinoIDE将TensorFlowLite模型部署到ESP32的最简单方法，无需任何编译内容。

亚图跨际·2023-01-11 07:58

最简单体验TinyML、TensorFlow Lite——ESP32跑机器学习（全代码）

目录前言数据采集、处理导入包正弦波数据生成数据集分类模型1训练模型1创建模型1训练检查训练指标模型2训练模型导出（TensorFlowLite）模型部署、功能编写前言TinyML是机器学习前沿的一个分支

全栈O-Jay·2023-01-11 07:57

As-Rigid-As-Possible Surface Modeling

ACMSIGGRAPHSymposiumonGeometryProcessing2007AbstractModelingtasks,suchassurfacedeformationandediting,canbeanalyzedbyobservingthel

wqcriver·2023-01-10 17:40

ECCV 2022 Oral | CCPL: 一种通用的关联性保留损失函数实现通用风格迁移

关注公众号，发现CV技术之美本篇分享论文『CCPL:ContrastiveCoherencePreservingLossforVersatileStyleTransfer』。

我爱计算机视觉·2023-01-10 11:28

Diffie-Hellman密钥协商算法探究

作者|魔王赵二狗导读隐私计算（Privacy-preservingcomputation）是指在保证数据提供方不泄露原始数据的前提下，对数据进行分析计算的一系列信息技术，保障数据在流通与融合过程中的可用不可见

·2023-01-10 11:45

【一种数据异构的FL迁移学习框架】Privacy-preserving Heterogeneous Federated Transfer Learning

原文：Privacy-preservingHeterogeneousFederatedTransferLearning本文讲了数据异构（区别于模型结构异构）下的FL训练框架，此外还有隐私保护的作用。

学渣渣渣渣渣·2023-01-10 11:41

基于Windows的Mask-RCNN使用自己的数据集训练流程

以前认为写博客非常耽误时间的事情，但当一个不善于总结的人回顾过去的时候，他虽然做出了不少工作却想不起来什么，于是为了加强记忆也为了后来的人少踩一些坑，这里把Mask-RCNN模型部署到自己电脑上并用自己数据集训练的过程记录下来

qq_40761033·2023-01-10 10:34

采用rknn-toolkit导出rknn模型并部署在rock3a-rk3568芯片上全流程

因工作需要，需要将目标检测模型部署在开发板上。在走了很多弯路后找到一个成功的案例并记载下来这里说一下我现有的硬件设备。

linxizi0622·2023-01-10 10:00

MindSpore Serving模型部署，如何提升吞吐量，降低推理时延

1.关于MindSporeServingMindSporeServing是一个轻量级、高性能的服务模块，旨在帮助MindSpore开发者在生产环境中高效部署在线推理服务。

昇思MindSpore·2023-01-10 08:59

vivo 云原生容器探索和落地实践

向上支撑了算法中台，为算法工程师提供数据管理、模型训练、模型管理、模型部署等能力，为广告、推荐和搜索等业务赋能，成功为算法实现了降本、提效

·2023-01-09 19:15

[CVPR 2018] Zero-Shot Visual Recognition Using Semantics-Preserving Adversarial Embedding Networks

[paper]摘要：作者提出了SP-AEN，即语义保持对抗嵌入网络，来解决基于嵌入的零样本方法的固有问题——语义损失。语义损失：是指在训练阶段，如果一些语义对训练类别是没有判别性的，它们很可能会被丢弃。但是这些语义可能对识别测试类是很关键的。框架图如上，上面的分支是语义嵌入网络，下面分支是自编码器结构。上面的分支是用来学习视觉到语义的映射，在嵌入空间年关联已见类和未见类。下面的分支用来弥补语义损失

一亩高粱·2023-01-09 13:07

论文创新及观点2

题目Zero-ShotVisualRecognitionusingSemantics-PreservingAdversarialEmbeddingNetworks摘要基于visual-semanticembedding

big_matster·2023-01-09 13:35

V831本地训练,小白超详细,奇葩踩坑之路

V831本地训练下载源码配置环境nncn模型转换工具照片拍摄制作数据集训练模型转换模型部署提示:看这篇文章前最好先看一遍官方说明,v831的配置只要不是我这种倒霉蛋,一般都是很好配置的,跟着官方文档就能配好

Deadpresimmon·2023-01-09 13:39

华为云AI应用在线服务部署custom_service写法

/usr/bin/python#-*-coding:UTF-8-*-importjsontry:frommodel_service.pytorch_model_serviceimportPTServingBaseSe

Kross Sun·2023-01-09 12:26

机器学习开发项目流程

机器学习开发项目流程1.机器学习开发流程1.1数据1.2模型选择1.3模型训练1.4模型测试1.5模型部署机器学习不只是模型！

Steven迪文·2023-01-09 10:35

Python中使用Flask：Docker发布Flask API

在从零点一开始机器学习之HDF5模型发布到tensorflow/serving中，我们也发布了我们的模型，那么如果将模型更好的给第三方人员使用呢？在进行验证的时候，如果

小黄瓜要编程·2023-01-09 08:04

深度学习模型部署学习四

spade_eddie·2023-01-09 07:31

opencv（十）-图像滤波

高斯滤波高斯核的计算高斯滤波2.1.4非局部均值去噪声2.1.5中值滤波2.2边缘保留滤波2.2.1高斯双边滤波参数选择2.2.2均值迁移模糊(mean-shiftblur)2.2.3局部均方差模糊2.2.4edgePreservingFilter2.2

奋斗的大庆·2023-01-08 15:20

bert生成句向量(python)

第一步：安装库pipinstallbert-serving-serverpipinstallbert-serving-client第二步：下载语料库bert中文模型链接：https://storage.googleapis.com

江湖夜雨十年灯丶·2023-01-08 00:40

使用bert提取中文句子向量遇到的问题

必须使用tensorflow1.10.0以上的版本，并且不能使用tensorflow2.0以上的版本查看方式:model下载中文预训练模型：bert中文数据集installpipinstallbert-serving-server

_lilian_·2023-01-08 00:38

【C++】【TensorRT】检测时间不稳定原因汇总（持续更新）

本人使用C++版本的TensorRT框架做模型部署的开发工作，在实际上线具体的项目过程中碰到过检测时间不理想的情况，所以本人专门为此写一篇博客记录曾经遇到过的坑以及对应的解决方案。

少有人走的路_心智旅程·2023-01-07 22:53

【人人可学的AI】策略蒸馏

这个方法通常用于将训练好的大型深度强化学习模型部署到现实世界的情况中。在策略蒸馏中，我们会使用训练好的大型模型来生成大量的“模拟”

欧阳枫落·2023-01-07 21:53

TensorRT & C++ & TensorFlow & DenseNet & CIFAR10模型部署

TensorRT&C++&TensorFlow&DenseNet&CIFAR10模型部署一些题外话：这篇博客源自于实际的项目经历，项目中我负责对各类模型在Qt系统上的部署，从Libtorch到Pytorch

半步鸠·2023-01-07 15:21

【nvidia jetson xavier】Deepstream Yolox,Yolov4,Yolov5模型部署

DeepstreamYoloX模型部署https://github.com/Megvii-BaseDetection/YOLOXhttps://github.com/nanmi/YOLOX-deepstreamDeepstreamYolov4

凤⭐尘·2023-01-07 12:09

【nvidia jetson xavier】Deepstream 自定义检测Yolo v5模型部署

Deepstream自定义检测Yolov5模型部署依照四部署yolov5环境。