paddle模型部署

[技术分享]神经网络中的动态图

Paddle2中支持动态图，动态图是指神经网络的结构可以动态变化，buildwithrun，类似于Python语言中变量不需要定义好类型就可以赋值。
yestolife123·2024-01-08 08:44

在win10上cuda12+tensorrt8.6+vs2019环境下编译paddle2.6生成python包与c++推理库

paddleinfer官方目前没有发布基于cuda12的c++库，为此参考https://www.paddlepaddle.org.cn/inference/user_guides/source_compile.html
万里鹏程转瞬至·2024-01-08 06:30

Pytorch 模型部署方案

TorchserveTorchserve是AWS和Facebook推出的pytorch模型服务库，整体架构如下torchserve架构图.png特点提供ManagementAPI和InferenceAPI，用户通过API进行模型管理和模型推理支持多模型，多GPU部署InferenceAPI支持批量推理支持模型版本控制提供日志服务，默认情况下，TorchServe将日志消息打印到stderr和sto
晓柒NLP与药物设计·2024-01-08 04:29

sigmoid softmax优化

1.前言最近在搞模型部署发现，推理速度不能满足我们需求，于是最近学习了优化算子技巧，学到了sigmoid，softmax算子优化，真的数学之美。
鲤鱼不懂·2024-01-07 22:40

非工程师指南: 训练 LLaMA 2 聊天机器人

我们将以LLaMA2基础模型为例，在开源指令数据集上针对聊天场景对其进行微调，并将微调后的模型部署到一个可分享的聊天应用中。全程只需点击鼠标，即可轻松通往荣耀之路！为什么这很重要？
Hugging Face·2024-01-07 20:39

[C#]使用sdcb.paddleocr部署v4版本ocr识别模型

【官方框架地址】https://github.com/sdcb/PaddleSharp【算法介绍】PaddleOCR，全称为PaddlePaddleOCR，是PaddlePaddle深度学习平台下的一款强大的光学字符识别工具
FL1623863129·2024-01-07 14:17

模型部署——onnx定义、读写和调试

概述神经网络本质上是一个计算图。计算图的节点是算子，边是参与运算的张量。而通过可视化ONNX模型，我们知道ONNX记录了所有算子节点的属性信息，并把参与运算的张量信息存储在算子节点的输入输出信息中。事实上，ONNX模型的结构可以用类图大致表示如下：如图所示，一个ONNX模型可以用ModelProto类表示。ModelProto包含了版本、创建者等日志信息，还包含了存储计算图结构的graph。Gra
令狐少侠、·2024-01-07 10:43

TensorRT优化部署（一）--TensorRT和ONNX基础

优化部署（一）–TensorRT和ONNX基础第二章TensorRT优化部署（二）–剖析ONNX架构第三章TensorRT优化部署（三）------ONNX注册算子文章目录TensorRT部署优化前言一、模型部署目的二
小豆包的小朋友0217·2024-01-07 10:07

【开源】轻松实现车牌检测与识别：yolov8+paddleocr【python源码+数据集】

《博主简介》小伙伴们好，我是阿旭。专注于人工智能、AIGC、python、计算机视觉相关分享研究。✌更多学习资源，可关注公-仲-hao:【阿旭算法与机器学习】，共同学习交流~感谢小伙伴们点赞、关注！《------往期经典推荐------》一、AI应用软件开发实战专栏【链接】项目名称项目名称1.【人脸识别与管理系统开发】2.【车牌识别与自动收费管理系统开发】3.【手势识别系统开发】4.【人脸面部活体
阿_旭·2024-01-07 10:30

手搓没有softmax 的gpt

手搓没有softmax的gpt代码解析代码代码importpandasaspdfromtqdmimporttqdmimportnumpyasnpimportpaddle#classFeedForward
东方佑·2024-01-07 09:25

保存模型时报错ValueError: The target variable must have an associated operator that generates it. - Padd...

PaddlePaddle飞桨FAQ合集-训练问题13Question:保存模型时报错ValueError:Thetargetvariablemusthaveanassociatedoperatorthatgeneratesit.Answer
GT_Zhang·2024-01-07 01:16

Pytorch中的ONNX部署，你真的全部都了解了吗？

ONNX是目前模型部署中最重要的中间表示之一。学懂了ONNX的技术细节，就能规避大量的模型部署问题。
AI量化小木屋·2024-01-06 10:28

简易机器学习笔记（十）Windows下 PaddlePaddle配置CUDA加速环境

前言大伙既然都来做这个了，那配个CUDA环境肯定是必不可少的了吧（笑）最前面的最前面，流程确定当前设备支持的CUDA版本安装CUDAToolkit和GPU版的Paddlepaddle下载cuDNNArchive
Leventure_轩先生·2024-01-06 06:46

[C#]winform部署PaddleDetection的yolo印章检测模型

【官方框架地址】https://github.com/PaddlePaddle/PaddleDetection.git【算法介绍】PaddleDetection是一个基于PaddlePaddle（飞桨）
FL1623863129·2024-01-06 02:02

paddlehub 文本检测使用

PaddleHub负责模型的管理、获取和预训练模型的使用。
回到工作狂状态·2024-01-05 19:28

paddle v4 hubserving 部署

环境准备：https://github.com/PaddlePaddle/PaddleOCR/tree/release/2.7/deploy/hubserving#24-%E5%90%AF%E5%8A%
回到工作狂状态·2024-01-05 19:28

【2023 CCF 大数据与计算智能大赛】基于TPU平台实现超分辨率重建模型部署 基于QuickRNet的TPU超分模型部署

2023CCF大数据与计算智能大赛《赛题名称》基于QuickRNet的TPU超分模型部署巴黎欧莱雅林松智能应用业务部算法工程师中信科移动中国-北京[email protected]团队简介巴黎欧莱雅团队包含一个队长和零个队员
算能开发者社区·2024-01-05 17:44

【2023 CCF 大数据与计算智能大赛】基于TPU平台实现超分辨率重建模型部署 基于Real-ESRGAN的TPU超分模型部署

2023CCF大数据与计算智能大赛《基于TPU平台实现超分辨率重建模型部署》洋洋很棒李鹏飞算法工程师中国-烟台[email protected]团队简介本人从事工业、互联网场景传统图像算法及深度学习算法开发
算能开发者社区·2024-01-05 17:41

Jetson Xavier NX 下 yolov8 tensorrt模型部署（Jetpack5.1.2、CUDA11.4、Cudnn8.6.0、Tensorrt8.5.2）

文章目录前言JetsonXavierNX环境配置一、TensorRT-Alpha源码下载1.源码下载2.文件设置二、yolov8模型部署1.导出yolov8onnx模型2.使用tensorrt转换onnx
编程是一点都不懂的·2024-01-05 12:39

yolov8 opencv模型部署（python版）

TensorRT系列之Windows10下yolov8tensorrt模型加速部署TensorRT系列之Linux下yolov8tensorrt模型加速部署TensorRT系列之Linux下yolov7tensorrt模型加速部署TensorRT系列之Linux下yolov6tensorrt模型加速部署TensorRT系列之Linux下yolov5tensorrt模型加速部署TensorRT系列之
韩师兄_·2024-01-05 12:37

C#利用openvino部署PP-TinyPose人体姿态识别

【官方框架地址】github.com/PaddlePaddle/PaddleDetection【算法介绍】关键点检测算法往往需要部署在轻量化、边缘端设备上，因此长期以来都存在一个难题：精度高、速度则慢、
小楼先森·2024-01-04 21:34

C#利用openvino部署PP-TinyPose人体姿态识别

【官方框架地址】github.com/PaddlePaddle/PaddleDetection【算法介绍】关键点检测算法往往需要部署在轻量化、边缘端设备上，因此长期以来都存在一个难题：精度高、速度则慢、
FL1623863129·2024-01-04 17:23

PaddlePaddle初使用

模型导出与预测#-c后面设置训练算法的yml配置文件#-o配置可选参数#Global.pretrained_model参数设置待转换的训练模型地址，不用添加文件后缀.pdmodel，.pdopt或.pdparams。#Global.save_inference_dir参数设置转换的模型将保存的地址。python3tools/export_model.py-cconfigs/rec/PP-OCRv3
云端一散仙·2024-01-04 14:51

简易机器学习笔记（七）计算机视觉基础 - 常用卷积核和简单的图片的处理

前言这里实际上涉及到了挺多有关有关理论的东西，可以详细看一下paddle的官方文档。不过我这里不过多的谈有关理论的东西。
Leventure_轩先生·2024-01-04 06:29

paddle报错SystemError: (Fatal) Blocking queue is killed because the data reader raises an exception.

在使用paddle的dataloader的时候，如果defgetitem(self,index):函数发生异常会报错：ERROR:root:DataLoaderreaderthreadraisedanexception
只会git clone的程序员·2024-01-04 02:39

Paddle3D 2 雷达点云CenterPoint模型训练

2Paddle3D雷达点云CenterPoint模型训练–包含KITTI格式数据地址2.0数据集百度DAIR-V2X开源路侧数据转kitti格式。
爱吃油淋鸡的莫何·2024-01-04 02:08

安装Paddle-ChatDocuments大模型

利用LangChain和ChatGLM-6B系列模型制作的Webui,提供基于本地知识的大模型应用.环境安装项目依赖PaddlePaddledevelolop版本和最新的PaddleNLP（更推荐在终端里安装
人工智能MOS·2024-01-04 02:08

paddle实现resnet复现

文章目录一、介绍二、对总体网络的介绍1、网络亮点2、网络构成3、网络结构三、论文复现3.1导入工具包3.2建立Basicblock3.3建立Bottleneckblock3.4搭建Resnet的主干3.5具象化网络四、查看网络结构五、测试网络是否可以使用一、介绍ResNet（ResidualNeuralNetwork）由微软研究院的KaimingHe等四名华人提出，通过使用ResNetUnit成功
扬志九洲·2024-01-03 19:43

1.2 波士顿房价预测(飞桨版)

#加载飞桨、NumPy和相关类库importpaddlefrompaddle.nnimportLinearimportpaddle.nn.functionalasFimportnumpyasnpimportosimportran
一条大蟒蛇6666·2024-01-03 12:45

机器学习与深度学习——使用paddle实现随机梯度下降算法SGD对波士顿房价数据进行线性回归和预测

文章目录机器学习与深度学习——使用paddle实现随机梯度下降算法SGD对波士顿房价数据进行线性回归和预测一、任务二、流程三、完整代码四、代码解析五、效果截图机器学习与深度学习——使用paddle实现随机梯度下降算法
星川皆无恙·2024-01-03 12:12

机器学习-深度学习入门CV-手写数字识别实验

实践总体过程和步骤如下图实验结果展示learning_rate是学习率(它的大小与网络的训练收敛速度有关系)实验代码importnumpyasnpimportpaddleaspaddleimportpaddle.fluidasfluidfromPILimportImageimportmat
septnancye·2024-01-03 08:58

How to understand Data Mining

什么是数据挖掘为何使用数据挖掘数据挖掘有哪些类型流程挖掘文本挖掘预测挖掘数据挖掘如何运作业务了解数据了解数据准备数据筛选数据变量转换缺失值处理坏数据处理数据标准化主成分分析属性选择数据规约数据建模评估模型部署模型数据挖掘的方法有哪些异常检测
qwfys200·2024-01-03 08:13

简易机器学习笔记（四）初识卷积神经网络

前言第一次写卷积神经网络，也是照着paddlepaddle的官方文档抄，这里简单讲解一下心得。
Leventure_轩先生·2024-01-03 05:40

pytorch 转 onnx

ONNX是目前模型部署中最重要的中间表示之一，在把PyTorch模型转换成ONNX模型时，使用的torch接口是torch.onnx.export这里记录了pytorch模型转onnx时的原理和注意事项
哦豁灬·2024-01-03 05:08

PaddlePaddle/fluid: 静态图 vs. 动态图

昨天，师兄问我：PaddlePaddle支持动态图吗？我才知道，模型还可以是动态的！孤陋寡闻了呀。
vickeex·2024-01-03 01:43

AI 训练框架：Pytorch TensorFLow MXNet Caffe ONNX PaddlePaddle

https://medium.com/jit-team/bridge-tools-for-machine-learning-frameworks-3eb68d6c6558
linzhiji·2024-01-03 00:29

移动端模型部署框架

移动端模型部署框架1.MNN整体特点轻量性通用性高性能易用性架构设计主体工具致谢移动端模型部署框架1.MNNhttps://www.yuque.com/mnn/cn/aboutMNN是全平台轻量级高性能深度学习引擎
落花逐流水·2024-01-02 13:54

Windows CPU部署llama2量化模型并实现API接口

目录模型部署本地运行llama2使用fastapi实现API接口常用git仓库模型部署从huggingface下载模型https://huggingface.co/放在本地文件夹，如下本地运行llama2fromctransformersimportAutoModelForCausalLMllm
我只钓小鱼·2024-01-02 07:49

怎么测试的安装PaddlePaddle是否安装成功？ - PaddlePaddle 飞桨 FAQ合集 - 安装配置15

PaddlePaddle飞桨FAQ合集-安装配置15Question:安装PaddlePaddle后怎么测试是否安装成功？
GT_Zhang·2024-01-02 06:33

【毕设项目】视频人像背景替换器-抠出视频中人像到动态背景中去

首先毫无疑问就是环境配置，附上链接→开始使用_飞桨-源于产业实践的开源深度学习平台(paddlepaddle.org.cn)https://www.paddlepaddle.org.cn/install
大气层煮月亮·2024-01-02 00:51

LLM 系列 | 04：ChatGPT Prompt编写指南

后续会持续整理模型加速、模型部署、模型压缩、LLM、AI艺术等系列专题，敬请关注。
JasonLiu1919·2024-01-01 22:06

实践：基于双向LSTM模型完成文本分类任务

数据处理1.1数据加载1.2构造Dataset类1.3封装DataLoader2模型构建3模型训练4模型评价5模型预测5拓展实验5.1使用Pytorch内置的单向LSTM进行文本分类实验编辑5.2使用Paddle
熬夜患者·2024-01-01 22:35

活动预告丨CodeWisdom可信AI系列学术报告：第9期（杜晓宁, Monash University)

本次报告将关注模型部署后，推理阶段的计算资源浪费问题，并提出可用于推理前及推理中的提升资源利用率和推理效率的策略，旨在减少计算开销，避免不必要的资源浪费，更好地推进代码大模型的商业化与落地。报告人
pengxin_ce·2024-01-01 11:25

数据挖掘与知识发现：解析关键概念

数据挖掘的基本概念2.1定义与范畴2.1.1数据挖掘的定义2.1.2数据挖掘的范畴2.2数据挖掘过程2.2.1问题定义2.2.2数据采集与清洗2.2.3特征选择2.2.4模型构建2.2.5模型评估与验证2.2.6模型部署
轩Scott·2024-01-01 07:49

基于PaddleClas的猫的十二分类

基于PaddleClas实现猫的十二分类项目背景介绍飞桨PaddlePaddle大赛：猫的十二种分类问题。本场比赛要求参赛选手对十二种猫进行分类，属于CV方向经典的图像分类任务。
PrototypeONE·2023-12-31 07:23

基于飞浆OCR的文本框box及坐标中心点检测JSON格式保存文本

数据保存需求说明一、借助飞浆框出OCR识别的文本框二、以圆圈形式标出每个框的中心点位置三、以JSON及文本格式保存OCR识别的文本四、以文本格式保存必要的文本信息解决方法一、文本的坐标来自飞浆的COR识别二、借助paddleocr
ShenLiang2025·2023-12-30 18:50

完成一个预测建模项目一般需要多长时间？

为了回答这个问题，我们先来了解一下建模的流程，通常一个完整的数据挖掘项目包含以下流程（1）业务理解、（2）数据理解、（3）数据准备、（4）数据预处理和建模、（5）模型评估、（6）模型部署应用。
小黄鸭呀·2023-12-30 15:48

使用yolov5的2.0分支训练自己的模型并在x3派运行

不过最近需要将yolov5的模型部署到旭日X3派的开发板上，参考教程和社区帖子一阵折腾，成功转换模型并运行了，就是检测的结果很不
贝斯塔·2023-12-30 08:47

深度学习框架:Tensorflow和pytorch、PaddlePaddle比较

Tensorflow和pytorch、PaddlePaddle都是非常优秀的深度学习框架，它们各自有着独特的优势和特点。
科学熊·2023-12-30 05:17

llama大模型部署

看模型加载的参数设置.importtorch#初始化HalfTensorh=torch.tensor([1.0,2.0,3.0],dtype=torch.half)#h=torch.tensor([1.0,2.0,3.0],dtype=torch.float16)#跟上面一行一样.#查看数据类型print(h.dtype)importaccelerateimportbitsandbytesfrom
weixin_40467931·2023-12-30 03:08
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他