paddle模型部署

【大模型】triton inference server

前言：tritoninferenceserver常用于大模型部署，可以采用http或GRPC调用，支持大部分的backend，单GPU、多GPU都可以支持，CPU也支持。
idiotyi·2024-09-15 05:47

【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程

【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程提示:博主取舍了很多大佬的博文并亲测有效,分享笔记邀大家共同学习讨论文章目录【深度学习】【OnnxRuntime
牙牙要健康·2024-09-14 14:34

NLP_jieba中文分词的常用模块

1.jieba分词模式（1）精确模式:把句子最精确的切分开,比较适合文本分析.默认精确模式.（2）全模式:把句子中所有可能成词的词都扫描出来,cut_all=True,缺点:速度快,不能解决歧义（3）paddle
Hiweir ··2024-09-13 12:48

Ollama全面指南：安装、使用与高级定制

详细讲解了如何在不同操作系统上安装Ollama，如何运行和自定义大型语言模型，以及如何通过Ollama进行模型部署和交互。此外，还提供了丰富的故障排除和FAQ，帮助用户解决使用过程中的常见问题。
我就是全世界·2024-09-12 18:51

正确解决ModuleNotFoundError: No module named ‘paddle‘异常的有效解决方法

正确解决ModuleNotFoundError:Nomodulenamed‘paddle‘异常的有效解决方法文章目录报错问题报错原因解决方法报错问题ModuleNotFoundError:Nomodulenamed
飞码创造者·2024-09-12 13:50

【Python】已解决：ModuleNotFoundError: No module named ‘paddle‘

文章目录一、分析问题背景二、可能出错的原因三、错误代码示例四、正确代码示例步骤1：安装PaddlePaddle库步骤2：验证安装五、注意事项已解决：ModuleNotFoundError:Nomodulenamed
屿小夏·2024-09-12 13:44

【Python】已解决：ModuleNotFoundError: No module named ‘paddle’

文章目录一、分析问题背景二、可能出错的原因三、错误代码示例四、正确代码示例五、注意事项已解决：ModuleNotFoundError:Nomodulenamed‘paddle’一、分析问题背景在Python
屿小夏·2024-09-12 12:43

本地部署大语言模型详细讲解

前言：本地部署大语言模型（LLM，LargeLanguageModel）需要相应的硬件资源和技术栈支持，如GPU计算能力、大量内存、存储空间，以及模型部署框架。
程序员小羊！·2024-09-12 04:25

【环境搭建：onnx模型部署】onnxruntime-gpu安装与测试（python）(1)

cuda==10.2cudnn==8.0.3onnxruntime-gpu==1.5.0or1.6.0pipinstallonnxruntime-gpu==1.6.0###2.2方法二：onnxruntime-gpu不依赖于本地主机上cuda和cudnn在conda环境中安装，不依赖于本地主机上已安装的cuda和cudnn版本，灵活方便。这里，先说一下已经测试通过的组合：*python3.6,cu
2401_83703835·2024-09-11 13:36

【三】分布式训练---单机多卡与多机多卡组网（飞桨paddle2.0+）更加推荐spawn方式！

1.单机多卡启动并行训练飞桨2.0增加paddle.distributed.spawn函数来启动单机多卡训练，同时原有的paddle.distributed.launch的方式依然保留。
汀、人工智能·2024-09-09 16:14

百度飞桨paddle安装 包括CUDA,cuDNN,opencv的安装

conda创建新环境这部分代码均在AnacondaPrompt中写，要求已有Anaconda第一步：创建condacreate--nameyourEnvpython=3.6–name：也可以缩写为【-n】，【yourEnv】是新创建的虚拟环境的名字，创建完，可以装anaconda的目录下找到envs/yourEnv目录python=2.7：是python的版本号。也可以指定为【python=3.6
小甲学长·2024-09-09 16:13

使用paddlerocr识别固定颜色验证码

1引言本文使用opencv和paddlerocr识别出固定颜色的验证码，原理不解释，安装包的方法自行查找，只提供代码和思路。
王小葱鸭·2024-09-09 15:36

Python包的安装

只是在包装paddlepaddle包的时候，使用官方推荐的命令使用安装失败。
weixin_38778542·2024-09-09 08:46

机器学习框架巅峰对决：TensorFlow vs. PyTorch vs. Scikit-Learn实战分析

合适的框架可以极大地提高开发效率，简化模型的构建和训练过程，并支持大规模的模型部署。因此，了解和选择最合适的机器学习框架对于研究人员和工程师来说是一个关键的步骤。
@sinner·2024-09-08 18:42

PaddlePaddle竟然支持Python 3.7了！

****PaddlePaddle****竟然支持****Python3.7****了！image这个2018，如果你还不知道这件事情，你就真的OUT了！
高斯纯牛奶·2024-09-07 17:26

python与OCR识别的库存有哪些？

Python与OCR（光学字符识别）识别相关的库有多个，其中一些最常用和流行的库包括TesseractOCR（通过pytesseract接口）、EasyOCR、PaddleOCR等。
小九不会Python·2024-09-06 21:08

PaddleOCR超大分辨率文本检测代码教程

PaddleOCR超大分辨率文本检测代码教程目录1.前提2.PaddleOCR部署（win10下）3.解决思路和代码1.前提这是我提的issue：https://github.com/PaddlePaddle
LEILEI18A·2024-09-04 12:23

并行处理的艺术：深入探索PyTorch中的torch.nn.parallel模块

PyTorch，作为当前流行的深度学习框架之一，提供了torch.nn.parallel模块，允许我们轻松地将模型部署到多个GPU上。
杨哥带你写代码·2024-09-04 06:10

百度飞浆目标检测PPYOLOE模型在PC端、Jetson上的部署（python）

部署目标检测模型前，需要配置好paddlepaddle的环境：开始使用_飞桨-源于产业实践的开源深度学习平台(paddlepaddle.org.cn)PC端和Jetson板卡端的部署方法相同，如下（直接放置部署和测试代码
代码能跑就可以·2024-09-02 10:09

最新视频合成后调优技术ExVideo模型部署

ExVideo是一种新型的视频合成模型后调优技术，由华东师范大学和阿里巴巴的研究人员共同开发。ExVideo提出了一种新的后调优策略，无需对整个模型进行大规模重训，仅通过对模型中时序相关组件的微调，就能够显著增强其生成更长视频片段的能力，大大降低了对计算资源的需求，仅需1.5kgpu小时就能将视频生成帧数提高至原模型的5倍。ExVideo在提升视频长度的同时，并没有牺牲模型的泛化能力，生成的视频在
杰说新技术·2024-08-31 09:56

[模型部署] ONNX模型转TRT模型部分要点

本篇讲“ONNX模型转TRT模型”部分要点。以下皆为TRT模型的支持情况。模型存为ONNX格式后，已经丢失了很多信息，与原python代码极难对应。因为在“ONNX转TRT”时，转换出错，更难映射回python代码。解决此类问题的关键为：转onnx时要打开verbose选项，输出每一行python的模型代码被转成了哪些ONNX算子。torch.onnx.export(model,(dummy_in
lainegates·2024-08-31 04:19

百度飞桨教程（一）

百度飞桨（paddle），是一个开源的深度学习平台百度飞桨的安装pipinstallpaddlepaddle-ihttps://mirror.baidu.com/pypi/simple手写数字识别案例我们来通过一个案例
怎么这么多名字都被占了·2024-08-31 00:55

深度学习系列70：模型部署torchserve

1.流程说明ts文件夹下，从launcher.py进入，执行jar文件。入口为model_server.py的start()函数。内容包含：读取args，创建pid文件找到java，启动model-server.jar程序，同时读取log-config文件，TEMP文件夹地址，TS_CONFIG_FILE文件根据cpu核数、gpu个数，启动多进程。每个进程有一个socket_name和socket
IE06·2024-08-31 00:25

PaddleDetection多目标跟踪报错MCMOTEvaluator is not exist, so the MOTA will be -INF

ppdet.metrics.mcmot_metricsWARNING:gt_filename'{}'ofMCMOTEvaluatorisnotexist,sotheMOTAwillbe-INFPaddleDetection
ATM006·2024-08-29 10:49

在STM32上实现嵌入式人工智能应用

本文将探讨如何在STM32平台上实现深度学习应用，特别是利用STM32Cube.AI工具链将训练好的神经网络模型部署到STM32设备上。
嵌入式详谈·2024-08-28 19:30

数据科学生命周期的7个步骤–在业务中应用AI

DataCollection）3.数据准备（DataPreparation）4.数据探索（ExploratoryDataAnalysis,EDA）5.模型构建（Modeling）6.模型评估（Evaluation）7.模型部署与维护
听忆.·2024-08-28 11:10

Python，Nuitka，打包Paddle和Paddleocr，test.dist\\paddle\\fluid\\..\\libs‘；

Python版本3.9，Nuitka版本1.8.6，paddleocr版本2.6.1.3，paddlepaddle版本2.5.2Nuitka打包后提示报错File"C:\Users\Administrator
飞天小女警出击·2024-08-27 02:09

Yolov8：模型部署到安卓端

1.项目准备1.1先安装JDK和Androidstudio（1）JDK下载：官网站：https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html同意协议后，下载相应版本的JDK我这里没有下载JDK21版的，下载的是jdk1.8版本，参考文章：AndroidStudio开发环境快速搭建（超详细
爱编码的小陈·2024-08-25 17:04

ubuntu18.04+cuda11.4+nccl安装

使用paddlepaddle框架进行多卡训练时报错：Traceback(mostrecentcalllast):File"train.py",line210,indo_train()File"train.py
袁泽斌的学习记录·2024-08-24 20:57

paddle nlp 3.0 全面拥抱开源大模型

首先安装神圣的飞桨自然语言处理框架3.0pipinstall--upgradepaddlenlp==3.0.0b0阿里云通义千问（Qwen2）系列大模型介绍阿里云通义千问（Qwen2）是阿里云推出的一系列先进的大型语言模型
路人与大师·2024-08-24 04:40

【机器学习】Whisper：开源语音转文本（speech-to-text）大模型实战

目录一、引言二、Whisper模型原理2.1模型架构2.2语音处理2.3文本处理三、Whisper模型实战3.1环境安装3.2模型下载3.3模型推理3.4完整代码3.5模型部署四、总结一、引言上一篇对ChatTTS
LDG_AGI·2024-08-24 03:06

【Python】已解决：WARNING: Ignoring invalid distribution -addlepaddle (d:\soft\python36\lib\site-packages)

文章目录一、分析问题背景二、可能出错的原因三、错误代码示例四、正确解决方法五、注意事项已解决：WARNING:Ignoringinvaliddistribution-addlepaddle(d:\soft
屿小夏·2024-08-23 05:51

pyinstaller打包onnxruntime-gpu报错找不到CUDA的解决方案

问题说明：使用onnxruntime-gpu完成了深度学习模型部署，但在打包时发生了报错：找不到CUDA具体问题描述：RuntimeError:D:\a\_work\1\s\onnxruntime\python
布呐呐na·2024-08-22 15:56

飞桨科学计算套件PaddleScience

PaddleScience是一个基于深度学习框架PaddlePaddle开发的科学计算套件，利用深度神经网络的学习能力和PaddlePaddle框架的自动(高阶)微分机制，解决物理、化学、气象等领域的问题
skywalk8163·2024-03-22 05:52

RuntimeError: (PreconditionNotMet) The third-party dynamic library (cublas64_102.dll；cublas64_10.dll

校验paddle报错：RuntimeError:(PreconditionNotMet)Thethird-partydynamiclibrary(cublas64_102.dll;cublas64_10
xxxggany·2024-03-12 21:13

基于ERNIR3.0文本分类的开发实践

utm_id=0遇到的问题：如下采用paddleNLP下文本分类实例进行分类训练后发现生成的模型分类不准。打算自己开发脚本进行分类计算再进行服务化部署。基于ERNIR3.0文本分类任务模型
wangqiaowq·2024-03-07 03:54

tio-boot使用@Import 注解整合 paddle-ocr-server

使用@Import注解整合paddle-ocr-serverpaddle-ocr-server是笔者开发的款ocr识别应用,开源地址,paddle-ocr-server完全基于tio-boot开发,所以可以非常方便的整合到
·2024-02-28 09:29

大模型量化技术原理-LLM.int8()、GPTQ

近年来，随着Transformer、MOE架构的提出，使得深度学习模型轻松突破上万亿规模参数，从而导致模型变得越来越大，因此，我们需要一些大模型压缩技术来降低模型部署的成本，并提升模型的推理性能。
吃果冻不吐果冻皮·2024-02-20 21:39

我把ChatGPT部署到我的手机上

正常的大模型部署都是在服务器上的但是最近我看到一个手机上可以运行的大模型分享给大家MiniCPMMiniCPM是基于MLC-LLM开发，将MiniCPM和MiniCPM-V在Android手机端上运行。
·2024-02-20 17:55

TechDay公开课实录:PaddlePaddle车牌识别实战和心得

2019年1月5日百度深度学习线下技术公开课PaddlePaddleTechDay第一期演讲则邀请了百度认证布道师胡晓曼老师分享基于PaddlePaddle最新版
PaddleWeekly·2024-02-20 11:03

基于Python的paddleocr推理环境列表

基于Python的paddleocr推理环境列表，#Python==3.9.13，安装目录名不能太长#单独导入python-mpipinstallpaddlepaddle-gpu==2.6.0.post120
博观而约取,厚积而薄发·2024-02-20 10:18

pip安装paddlepaddle报错ERROR: Could not install packages due to an OSError

ERROR:CouldnotinstallpackagesduetoanOSError:[Errno2]Nosuchfileordirectory:'C:\\Users\\yang\\AppData\\Local\\Packages\\PythonSoftwareFoundation.Python.3.9_qbz5n2kfra8p0\\LocalCache\\local-packages\\Pyt
博观而约取,厚积而薄发·2024-02-20 09:13

PaddleSeg分割框架解读[01] 核心设计解析

文章目录PaddleSeg分割框架解读[01]核心设计解析tools/train.pypaddleseg/cvlibs/config.pypaddleseg/cvlibs/builder.pypaddleseg
我是天才很好·2024-02-20 07:00

利用PaddleNLP进行文本数据脱敏

因此尝试使用了paddlenlp中的taskflow进行处理。主要思路就是利用ner
weixin_37763484·2024-02-20 07:29

paddlepaddle 2.6版本在WSL2环境中如何使用NVIDIA显卡运行神经网络

paddlepaddle2.6版本发布后，官网上可以使用NVIDIAcuda12.x进行机器学习了，训练神经网络的效率大为提升。
kampoo·2024-02-15 09:47

概率论与数理统计实验 附源码及实验报告 可打包为exe

…I’mlookingtocollaborateon…Howtoreachme…README目录（持续更新中）各种错误处理、爬虫实战及模板、百度智能云人脸识别、计算机视觉深度学习CNN图像识别与分类、PaddlePaddle
货又星·2024-02-15 04:13

【新手必看】解决GitHub打不开问题，亲测有效

…I’mlookingtocollaborateon…Howtoreachme…README目录（持续更新中）各种错误处理、爬虫实战及模板、百度智能云人脸识别、计算机视觉深度学习CNN图像识别与分类、PaddlePaddle
货又星·2024-02-15 04:43

使用ssh链接GitHub，附GitHub命令

…I’mlookingtocollaborateon…Howtoreachme…README目录（持续更新中）各种错误处理、爬虫实战及模板、百度智能云人脸识别、计算机视觉深度学习CNN图像识别与分类、PaddlePaddle
货又星·2024-02-15 04:43

NSsimulation：使用python模拟Navier-Stokes equations（ns方程），附项目GitHub地址，亲测可用。（2023 apmcm、2024美赛）

…I’mlookingtocollaborateon…Howtoreachme…README目录（持续更新中）各种错误处理、爬虫实战及模板、百度智能云人脸识别、计算机视觉深度学习CNN图像识别与分类、PaddlePaddle
货又星·2024-02-15 04:42

PaddleNLP 自然语言处理 知识图谱 uie-x-base,uie-m-large,uie-m-base模型使用时，报错Out of memory error on GPU 0 gpu内存不够

…️I’mlookingtocollaborateon…Howtoreachme…README目录（持续更新中）各种错误处理、爬虫实战及模板、百度智能云人脸识别、计算机视觉深度学习CNN图像识别与分类、PaddlePaddle
货又星·2024-02-15 04:42
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他