paddle模型部署

【模型部署】入门教程（六）：实现 PyTorch-ONNX 精度对齐工具

模型部署入门教程（六）：实现PyTorch-ONNX精度对齐工具-知乎(zhihu.com)目录设计思路代码实现Debug算子Debugger类生成调试节点提取调试模型运行调试模型输出调试信息使用方法总结系列传送门久等啦
卖报的大地主·2024-01-26 07:41

国内外AI绘画『文生图』模型效果对比

ERNIE-ViLG效果prompt：明日方舟，炫酷，兽耳娘，机能风，卡通项目地址：PaddleHub/module
AI小工·2024-01-25 21:31

书生·浦语大模型--第五节课笔记&作业--LMDeploy 大模型量化部署实践

文章目录大模型部署背景LMDeploy简介动手实践创建环境服务部署在线转换离线转换TurboMind推理+API服务Gradio作为前端Demo演示TurboMind服务作为后端TurboMind推理作为后端作业大模型部署背景部署
李日音·2024-01-25 21:28

模型部署flask学习篇（二）---- flask用户登录&用户管理

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、用户登录&用户管理1、flask路由:可以接收get请求和post请求2、动态路由3、获取提交的参数4、返回数据（四种形式）5、模板处理（也就是在html中）二、完整代码三、完整html代码1、login.html2、index.html3、edit.html前言在学习机器学习或者深度学习后，我们常常会将自己训练好的模
算法小白（真小白）·2024-01-25 00:31

PaddleNLP 如何打包成Windows环境可执行的exe？

当我们使用paddleNLP完成业务开发后，需要将PaddleNLP打包成在Windows操作系统上可执行的exe程序。
李楷杰·2024-01-24 23:40

在jetson上对fastdeploy进行源码编译（完整版）

CouldNOTfindPythonNoCMAKE_CUDA_COMPILERcouldbefound.准备工作jetpackcudaopencv下载飞桨推理库根据jetpack的版本选择对应的推理库版本https://www.paddlepaddle.org.cn
点PY·2024-01-24 14:54

ncnn模型部署——使用VS2019把项目打包成DLL文件

一、项目打包成DLL文件1.创建动态链接库DLL项目创建完成，项目中包含源文件dllmain.cpp,pch.cpp，头文件framework.h,pch.h2.编写和配置DLL项目（1）配置pch.h文件，在头文件pch.h中定义宏，宏的作用的是允许该函数能够被外部访问，并直接调用//pch.h:这是预编译标头文件。//下方列出的文件仅编译一次，提高了将来生成的生成性能。//这还将影响Intel
liguiyuan112·2024-01-24 14:31

【jetson 硬解码】使用NVDEC模块解码rtsp视频流，超低时延、比opencv更快、资源更少

jetson系统：32.7.1，2、jetpack：4.6.1，3、deepstream：6.0.1，工程环境FastDeploy工程地址：[FastDeploy](https://github.com/PaddlePadd
艾尔_1222·2024-01-24 11:09

模型部署flask学习篇（一）---- flask初始及创建登录页面

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录前言一、Flask快速使用二、快速使用flask三、创建登录页面前言在学习机器学习或者深度学习后，我们常常会将自己训练好的模型来进行部署或者可视化出来，供自己或者别人来使用，那么python的flask框架就可以作为选择之一。一、Flask快速使用安装#python环境的安装方式pipinstallflask#conda环境安
算法小白（真小白）·2024-01-24 10:32

书生·浦语大模型实战营-学习笔记5

LMDeploy大模型量化部署实践大模型部署背景LMDeploy简介轻量化、推理引擎、服务核心功能-量化显存消耗变少了大语言模型是典型的访存密集型任务，因为它是decoder-by-decoder先把数据量化为
Kinno酱·2024-01-24 05:52

第五节课 LMDeploy 大模型量化部署实践（笔记）

LMDeploy大模型量化部署实践_哔哩哔哩_bilibili课程文档：https://github.com/InternLM/tutorial/blob/main/lmdeploy/lmdeploy.md1.大模型部署背景
幽径微澜·2024-01-24 05:34

地平线旭日 X3 开发板上手体验

最近嫖到一块旭日X3开发板，借此熟悉地平线AI芯片旭日X3模型部署流程，以及算法工具链。这里基本是跟着官方的用户手册进行操作，其中也遇到一些奇怪的问题。
哦豁灬·2024-01-24 04:00

【书生·浦语大模型实战营05】《(5)LMDeploy 大模型量化部署实践》学习笔记

《(5)LMDeploy大模型量化部署实践》课程文档：《LMDeploy的量化和部署》1、大模型部署背景1.1模型部署定义将训练好的模型在特定软硬件环境中启动的过程，使模型能够接收输入并返回预测结果为了满足性能和效率的需求
songyuc·2024-01-24 03:42

【书生·浦语大模型实战】“PDF阅读小助手”学习笔记

1模型部署在InternStudio平台中选择A100(1/4)的配置，镜像选择Cuda11.7-conda，可以选择已有的开发机langchain；1.1创建工作空间mkdir/root/pdf_project1.2Clone
songyuc·2024-01-24 03:42

T2T VIT 学习笔记（附代码）

论文地址：https://arxiv.org/abs/2101.11986代码地址：https://github.com/PaddlePaddle/PASSL/tree/main/configs/t2t_vit1
无妄无望·2024-01-23 22:07

大模型学习与实践笔记（十二）

使用RAG方式，构建opencv专业资料构建专业知识库，并搭建专业问答助手，并将模型部署到openxlab平台代码仓库：https://github.com/AllYoung/LLM4opencv1：创建代码仓库在
AllYoung_362·2024-01-23 21:19

AI大模型三种技术服务模式的比较

大模型服务是指将大模型部署在云端，提供给用户通过API或界面调用的服务。大模型服务可以帮助用户解决各种知识获取、创作、沟通等问题，提高效率和创新性。对大模型的使用从轻度到重度有三种模式：纯提示词模
AI明说·2024-01-23 21:16

走出大模型部署新手村！小明这样用魔搭×函数计算

作者：拓山前文介绍了魔搭ModelScope社区模型服务SwingDeploy服务。开发者可以将模型从魔搭社区的模型库一键部署至阿里云函数计算，当选择模型并部署时，系统会选择对应的机器配置。按需使用可以在根据工作负载动态的减少资源，节约机器使用成本。5分钟完成从开源模型至模型推理API服务的生产转换……好，优势前文已经介绍过了。那么，到底怎么应该怎么开始使用，本文将带小明（纯纯的小白）走出新手村，
阿里云云原生·2024-01-23 20:35

HugggingFace 推理 API、推理端点和推理空间相关模型部署和使用以及介绍

HugggingFace推理API、推理端点和推理空间相关模型部署和使用以及介绍。HuggingFace是一家开源模型库公司。
代码讲故事·2024-01-23 08:54

PaddlePaddle怎么配置让两个层的共享参数？ - PaddlePaddle 飞桨 FAQ合集 - 训练问题14

PaddlePaddle飞桨FAQ合集-训练问题14Question:PaddlePaddle怎么配置让两个层的共享参数？
GT_Zhang·2024-01-23 04:02

paddleocr打包exe,结果执行异常问题汇总

Nomodulenamed'framework_pb2'找不到framework_pb2答案:修改image.py然后重新用pyinstaller打包生成exe，运行发现还是报错，执行下面第2步继续按照上面链接中提到的，将site-packages/paddle
稻草人_123456·2024-01-23 01:25

from paddleocr import PaddleOCR执行exe,ModuleNotFoundError: No module named ‘framework_pb2‘

frompaddleocrimportPaddleOCRFile"PyInstaller\loader\pyimod03_importers.py",line546,inexec_moduleFile"paddleocr.py
稻草人_123456·2024-01-23 01:55

深度学习笔记（九）——tf模型导出保存、模型加载、常用模型导出tflite、权重量化、模型部署

文中程序以Tensorflow-2.6.0为例部分概念包含笔者个人理解，如有遗漏或错误，欢迎评论或私信指正。本篇博客主要是工具性介绍，可能由于软件版本问题导致的部分内容无法使用。首先介绍tflite:TensorFlowLite是一组工具，可帮助开发者在移动设备、嵌入式设备和loT设备上运行模型，以便实现设备端机器学习。框架具有的主要特性：延时（数据无需往返服务器）隐私（没有任何个人数据离开设备）
絮沫·2024-01-22 20:20

大模型训练折戟之路

在租用资源之前，首先在笔记本电脑上部署LLaMA.CPP，使用大模型部署成功，因为资源不足，又没有GPU，
manok·2024-01-22 11:59

利用Anaconda安装pytorch和paddle深度学习环境+pycharm安装后不能调用pytorch和paddlepaddle框架

问题现象：之前安装后不能在添加pytorch和paddlepaddle框架原因（疑似）：在终端中显示pytorch和paddle在C盘但是安装是安装在J盘解决办法：卸载、删除文件重新安装后可以看到文件位置在
嵌入式小张的学习之路·2024-01-22 07:14

基于BERT对中文邮件内容分类

系列的起源是《使用PaddleNLP识别垃圾邮件》项目，旨在解决企业面临的垃圾邮件问题，通过深度学习方法探索多语言垃圾邮件的内容、标题提取与分类识别。在本篇文章中，我们使
OverlordDuke·2024-01-22 06:04

解决：An HTTP error occurred when trying to retrieve this URL. HTTP errors are often intermittent

镜像源导致的问题方法一：修改镜像源方法二：修改.condarc文件参考网上即可，网上对于原因一导致的错误修改方法有很多原因二：导致的问题关掉重新导入原因三：包的导入方式问题我采用的是conda安装condainstallpaddlepaddle
库噜熊·2024-01-22 04:46

生成式语言大模型的工程实践

本文将重点探讨生成式语言大模型的一些工程思考，并结合paddlenlp、chatglm和llama这三个案例进行详细阐述。一、概述生成式语言大模型是指能够生成自然语言文本的深度学习模型。
百度_开发者中心·2024-01-22 02:30

安装PaddleSpeech

前提条件python:3.8.10pipinstallpaddlepaddle==2.4.2安装PaddleSpeechgitclone-br1.2https://gitee.com/paddlepaddle
xxzblog·2024-01-21 20:37

篇二：MindSpore在实际项目中的应用与挑战

其次，模型部署和运行效率也是实际项目中需要考虑的重要问题。在某些场景下，模型的运行速度和稳定性对于用户体验至关重要。通过优化模型结构和算法、调整运行环境配置等方式，我
GT开发算法工程师·2024-01-20 22:05

【小白向】MMDeploy安装部署|暗坑标注版

文章目录序言正文1安装PPLCV2TensorRT环境相关3编译MMDeploy4编译SDK结束序言本文主要针对在编译安装OpenMMLab团队的MMDeploy模型部署工具时遇到的“难以下手”的问题。
早上真好·2024-01-20 22:22

paddlepaddle在执行loss.item()的时候，报错an illegal memory access was encountered.

正在使用PaddlePaddle，并在执行loss.item()时遇到了一个“anillegalmemoryaccesswasencountered”的错误。
樂小伍·2024-01-20 18:33

module 'paddle.fluid' has no attribute 'data'

module'paddle.fluid'hasnoattribute'data'解决：pipinstallpaddlepaddle-gpu==1.7.0.post107-ihttps://mirror.baidu.com
AI视觉网奇·2024-01-20 16:47

【GitHub项目推荐--全球首个开源图像识别系统】【转载】

GitHub地址：https://github.com/PaddlePaddle/PaddleClas那
旅之灵夫·2024-01-20 15:40

利用预训练模型SKEP进行情感分析

同时演示如何使用情感分析预训练模型SKEP完成以上两种任务，详细介绍预训练模型SKEP及其在PaddleNLP的使用
伪_装·2024-01-20 15:12

PaddleNLP评论观点抽取和属性级情感分析

项目地址：PaddleNLP评论观点抽取和属性级情感分析-飞桨AIStudio星河社区(baidu.com)情感分析旨在对带有情感色彩的主观性文本进行分析、处理、归纳和推理，其广泛应用于消费决策、舆情分析
伪_装·2024-01-20 14:41

PaddleDetection训练目标检测模型

参考链接：PaddleDetection训练目标检测模型-CSDN博客文章浏览阅读1.1k次，点赞38次，收藏3次。
无忧秘书智脑·2024-01-20 14:13

[C#]winform部署openvino调用padleocr模型

【官方框架地址】https://github.com/PaddlePaddle/PaddleOCR【算法介绍】OpenVINO和PaddleOCR都是用于计算机视觉应用的工具，但它们有不同的特点和用途。
FL1623863129·2024-01-20 13:50

基于深度学习的老黑白视频修复

基于深度学习的老黑白视频修复PaddleGAN实现老北京黑白视频修复项目背景与意义安装PaddleGAN1.1准备工作1.2下载PaddleGAN代码1.3安装依赖导入依赖包2.1导入相关库2.2定义display
OverlordDuke·2024-01-20 03:12

走出大模型部署新手村！小明这样用魔搭+函数计算

作者：拓山前文介绍了魔搭ModelScope社区模型服务SwingDeploy**服务**。开发者可以将模型从魔搭社区的模型库一键部署至阿里云函数计算，当选择模型并部署时，系统会选择对应的机器配置。按需使用可以在根据工作负载动态的减少资源，节约机器使用成本。5分钟完成从开源模型至模型推理API服务的生产转换……好，优势前文已经介绍过了。那么，到底怎么应该怎么开始使用，本文将带小明（纯纯的小白）走出
Serverless 社区·2024-01-19 16:44

魔搭+ 函数计算: 一键部署，缩短大模型选型到生产的距离

引言面对魔搭ModelScope社区提供的海量模型，用户希望快速进行选型并生产使用起来，但在此之前，却一定会面临算力管理难、模型部署难等一系列问题，那么能否实现快速把选定的模型部署在云端功能强大的GPU
Serverless 社区·2024-01-19 16:14

轻松玩转书生·浦语大模型internlm-demo 配置验证过程

helloworld/hello_world.md1.InternLM-Chat-7B智能对话Demo本小节我们将使用InternStudio中的A100(1/4)机器和InternLM-Chat-7B模型部署一个智能对话
cq99312254·2024-01-19 14:54

浦语·灵笔图文理解创作 Demo

本小节我们将使用InternStudio中的A100(1/4)*2机器和internlm-xcomposer-7b模型部署一个图文理解创作demo1.环境准备首先在InternStudio上选择A100
cq99312254·2024-01-19 14:54

开源模型应用落地-qwen模型小试-入门篇（四）

使用Gradio，我们可以快速地将模型部署为一
charles_vaez·2024-01-19 13:31

别再实验了，让你的图像识别算法赶紧上线！

别担心，今天就教大家应用一个开源项目——飞桨全流程开发工具PaddleX，快速开发AI算法并快速部署实现业务上线，搭上人工智能的产业浪潮！
算法channel·2024-01-19 11:32

节后综合征疗愈神器，这个开源项目帮你10分钟上手AI算法开发！

别担心，今天就教大家应用一个开源项目——飞桨全流程开发工具PaddleX，快速开发AI算法并快速部署实现业务上线，搭上人工智能的产业浪潮！
架构师小秘圈·2024-01-19 11:56

厉害了！3分钟搞定开发部署，这个霸榜的AI开源项目大公司都在用

别担心，今天就教大家应用一个开源项目——飞桨全流程开发工具PaddleX，快速开发AI算法并快速部署实现业务上线，搭上人工智能的产业浪潮！
互联网架构·2024-01-19 11:55

“节后综合征”疗愈神器，10分钟上手AI算法开发！

别担心，今天就教大家应用一个开源项目——飞桨全流程开发工具PaddleX，快速开发AI算法并快速部署实现业务上线，搭上人工智能的产业浪潮！
飞桨PaddlePaddle·2024-01-19 11:54

IMDB电影评论的情感分析——paddle

项目地址：IMDB电影评论的情感分析-飞桨AIStudio星河社区(baidu.com)1.实验介绍1.1实验目的理解并掌握循环神经网络的基础知识点，包括模型的时序结构、模型的前向传播、反向传播等掌握长短时记忆网络LSTM和门控循环单元网络GRU的设计原理熟悉如何使用飞桨深度学习开源框架构建循环神经网络1.2实验内容自然语言是人类传递信息的一种载体，同时它也能表达人类交流时的一种情感。一段对话或者
伪_装·2024-01-19 11:23

全流程机器视觉工程开发（一）环境准备，paddledetection和labelme

大概理解了机器视觉的原理，然后大概了解了一下，我发现现在的库其实已经很发展了，完全不需要用到非常多的理论，只需要知道开发过程就可以了，甚至paddlex已经直接有了傻瓜式模型训练的软件，所以我现在准备来做一个全流程机器视觉工程开发
Leventure_轩先生·2024-01-19 11:51
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他