tensorRt

tensorrtx can not determine linker language for target: myplugins，报错

注意动态链接库是直接生成的，不需要从其他地方获取，这个报错是路径问题或者没有生成的原因，解决方法１，查看是不是路径有问题２.这个错误通常发生在CMake试图为一个目标链接源文件，但是无法确定应该使用哪种语言进行链接。在你的情况下，myplugins库可能只包含了头文件（.h或.hpp），而没有源文件（.cpp或.cu）。CMake需要至少一个源文件来确定链接语言。你可以尝试在CMakeLists.
鼾声鼾语·2023-10-23 19:56

tensorrt模型转换及优化

1.从百度下载TensorRT-5.0包：链接：https://pan.baidu.com/s/1buOjyLE5DPh6yLKK8e9Mrg提取码：834t2.解压包，然后cd至/TensorRT-5.0.2.6
未来真好·2023-10-22 16:56

UserWarning: Failed to load image Python extension: warn(f“Failed to load image Python extension: {e

TensorRTINT8calibrationpythonAPI-Jetson&EmbeddedSystems/JetsonAGXOrin-NVIDIADeveloperForums原因可能是从yolo5
无证驾驶梁嗖嗖·2023-10-22 06:27

PTQ量化和QAT量化

（计算每一层的scale）TensorRT提供的PTQ算法包括：EntropyCalibratorV2、Min
晓晓纳兰容若·2023-10-22 01:10

TensorRT学习笔记--常用卷积、激活、池化和FC层算子API

目录1--Tensor算子API1-1--卷积算子1-2--激活算子1-3--池化算子1-4--FC层算子2--代码实例3--编译运行1--Tensor算子APITensorRT提供了卷积层、激活函数和池化层三种最常用算子的
晓晓纳兰容若·2023-10-22 01:10

ONNXRuntime、TensorRT扫盲

onnxruntime官方介绍：https://baijiahao.baidu.com/s?id=1619064549798705268&wfr=spider&for=pc个人笔记/理解：当地时间12月4日，微软在GitHub上宣布ONNXRuntime开源。ONNXRuntime是适用于Linux，Windows和Mac上ONNX格式的机器学习模型的高性能推理引擎。也就是onnxruntime是
weixin_43870390·2023-10-22 00:47

ROS学习记录

ROS学习记录1.系统环境Ubuntu16.04CUDA10.2cudnn7.6.5TensorRT7.1.3.4奥比中光astra-mini摄像头2.ROS系统路径/root/catkin_ws3.相关指令
Alex-Leung·2023-10-21 14:58

基于YOLOv5s的火焰检测在jetson nano边缘计算设备上的部署（使用tensorrt加速，Deepstream视频推流SDK）

前情提要：本文章是我自己一点点的小感悟，是整个大框架的分析与大的流程，不是你们想要的具体过程，但是如果你们仔细阅读下这篇文章，有一个大局的观念，会对项目流程有一个清晰的认识与想法，效果可能比那些细的流程的文章要好些，也因人而异吧，所以提前告知下大家。咱们来说下这次课设让做的一个基于人体关键点检测的姿势识别或者跌倒检测的一个项目，我打算基于openpose这个算法做，需要用什么VGA网络训练啥的，我
低龄儿童·2023-10-21 11:23

模型部署踩坑(持续更新ing)

不能衡量模型性能，因为FLOPs只是模型计算大小的单位还需要考虑访存量跟计算无关的DNN部分(reshape,shortcut,nchw2nhwc等等)DNN以外的部分(前处理、后处理这些)踩坑2不能够完全依靠TensorRTTensorRT
莫余·2023-10-21 06:09

英伟达Tensorrt开发·yolov8

官方预训练模型转换下载yolov8源码解压到本地，并配置基础运行环境。下载官方预训练模型yolov8n.ptyolov8s.ptyolov8m.pt…进入ultralytics-main目录下，新建文件夹weights，并将步骤2中下载的权重文件放进去。新建export.py文件#encoding:utf-8fromultralyticsimportYOLOimportonnximportargp
烂笔头·张·2023-10-21 01:14

Caffe版yolov3+tensorRT

一、caffe安装（基于ubuntu16.04,cuda9.0,cudnn7.0,opencv3.2）由于不同机器的环境和配置不同，安装caffe大体会有些差异。不过基本的流程是一致的。1.安装gpu显卡：百度自行解决。2.安装cuda：百度自行解决。3.配置cudnn：百度自行解决。4.安装OpenCV3.2源码。安装opencv源码是整个过程相对坑较多的地方。安装过程可以参考：OpenCV-3
未来真好·2023-10-18 20:46

TensorRT(9):查看tensorrt的版本号

TensorRT的官网更新相对比较频繁，每次当算法库以及TensorRT库更新后，都会面临实际使用的库和TensorRT库版本对应不上的问题，通过接口查看版本号，并通过代码做相应的参数检查，是一个重要的环节
hjxu2016·2023-10-18 06:27

模型量化笔记--KL散度量化

上面两种直接映射的方法比较粗暴，而TensorRT中的int8量化是基于KL散度来选取最佳的阈值T来映射到127中。超出阈值±∣T∣\pm|T|±∣T∣的数据会直接映射为阈值（类似于截断映射）。
晓晓纳兰容若·2023-10-17 22:42

Triton部署mmdeploy导出的TensorRT模型失败篇

记录一下历程，最终没有部署成功，应该是Ubantu系统版本的问题。现在没有时间搞了，先记录一下，后续用到再填坑。Tritondemogitclone-br22.06https://github.com/triton-inference-server/server.gitcdserver/docs/examples./fetch_models.sh#构建并启动容器1的服务dockerrun--gpu
gy-7·2023-10-17 21:29

ubuntu下yolox tensorrt模型部署

TensorRT系列教程之Windows10下yolov8tensorrt模型加速部署TensorRT系列教程之Linux下yolov8tensorrt模型加速部署TensorRT系列教程之Linux下
燃烧的枫·2023-10-17 13:24

AI - Ubuntu 机器学习环境 (TensorFlow GPU, JupyterLab, VSCode)

tensorflow-gpu-on-ubuntu介绍所需软件安装前GCCNVIDIApackagerepositoriesNVIDIAmachinelearningNVIDIAGPUdriverCUDAToolKitandcuDNNTensorRTMiniconda
CatchZeng·2023-10-17 10:27

Jetson Nano TensorRT加速Yolov5

gitclone-bv7.0https://github.com/ultralytics/yolov5.gitgitclone-byolov5-v7.0https://github.com/wang-xinyu/tensorrtx.gitcdyolov5
权双·2023-10-17 02:14

Ubuntu20.04（arm架构）系统在vscode中配置cuda+c/c++编程环境

、环境介绍在linux系统中安装vscode后配置cuda+c/c++编程环境进行学习cuda编程，笔者使用的arm架构的jetsonagxorin开发套件，其中已经安装好的cuda11，cudnn,TensorRT
m0_61133217·2023-10-17 02:12

TensorRT cmake时出现Could NOT find TENSORRt library

blog.csdn.net/qq_36501182/article/details/79220009声明变量路径即可解决方法exportPATH="$PATH:/home/ubuntu/Download/TensorRT
fanzy1234·2023-10-16 21:36

主机回来以及，简单的环境配置(RTX3070+CUDA11.1+CUDNN+TensorRT)

紧接着前几天的事：特殊的日子，想起了当年的双(1080TI)显卡装机实录和炼丹炉买不起了:聊一聊这段日子的显卡行情之后，决定买一台整机玩玩。而现在，主机终于回！来！了！主机回来干什么，当然是——配置环境。老潘之前也有一些配置环境的文章，可以参考：ubuntu16.04下安装NVIDIA（cuda）-gtx965m相关步骤以及问题pytorch-0.2成功调用GPU：ubuntu16.04，Nvid
OLDPAN·2023-10-16 18:11

使用 TensorRT 对 YOLOv8 模型进行 int8 量化

文章目录前言1.量化后的效果2.代码3.软硬件环境4.int8量化的参考资料前言使用Python版的TensorRT，可以很方便地对YOLOv8模型进行int8量化。
杭州的平湖秋月·2023-10-16 03:25

cuda系列详细教程-花絮

2dblock索引二、kernel函数实例三、性能优化(内存)四、原子操作五、流stream六、cuda处理nms编码七、cuda处理yolo算法输出编码八、cuda处理yolo算法整个过程九、yolo的tensorrt
tangjunjun-owen·2023-10-15 14:00

没有为paddle_inference.dll 加载符号文件

我下载的c++预测库如下图所示，cuda10.2_cudnn7.6_avx_mkl_trt7要求CUDA10.2,CUDNN7.6,TensorRT7。
脆皮茄条·2023-10-15 01:44

瑞芯微平台（RV1126）基于轻量级推理框架TengineInferpipe实现tengine后端的NPU部署应用

TengineInferpipe的简介参考TengineInferPipe在Jetson平台基于TensorRT后端Demo实现_space01的博客-CSDN博客。
space01·2023-10-14 23:38

边缘AI推理框架

tvmTengine可以适配龙芯3aTensorRT只能用在N卡上。OpenEI没开源tinymlEdgeML微软
baidu_35560935·2023-10-14 23:05

【Jetson平台 ubuntu 18.04 使用 TensorRT 加速 YOLOv5 检测】

Pytorch版本的模型推理速度有限，为了提高检测速率，使用TensorRT部署。
GUNDAM_EXIA_·2023-10-14 23:59

ubuntu下yolov7 tensorrt模型部署

文章目录ubuntu下yolov7tensorrt模型部署一、Ubuntu18.04环境配置1.1安装工具链和opencv1.2安装Nvidia相关库1.2.1安装Nvidia显卡驱动1.2.2安装cuda11.31.2.3
燃烧的枫·2023-10-14 23:59

ubuntu下yolov6 tensorrt模型部署

文章目录ubuntu下yolov6tensorrt模型部署一、Ubuntu18.04环境配置1.1安装工具链和opencv1.2安装Nvidia相关库1.2.1安装Nvidia显卡驱动1.2.2安装cuda11.31.2.3
燃烧的枫·2023-10-14 23:59

ubuntu下yolov5 tensorrt模型部署

文章目录ubuntu下yolov5tensorrt模型部署一、Ubuntu18.04环境配置1.1安装工具链和opencv1.2安装Nvidia相关库1.2.1安装Nvidia显卡驱动1.2.2安装cuda11.31.2.3
燃烧的枫·2023-10-14 23:27

Docker【部署 05】docker使用tensorflow-gpu安装及调用GPU踩坑记录

安装tensorflow-gpu2.Docker使用GPU2.1Couldnotfindcudadrivers2.2wasunabletofindlibcuda.soDSO2.3CouldnotfindTensorRT
シ風箏·2023-10-14 15:59

quantization

https://github.com/NVIDIA/TensorRT/tree/master/tools/pytorch-quantization/docs/source/tutorials一、creating_custom_quantized_modulesThereareseveralquantizedmodulesprovidedbythequantizationtoolasfollows
phily123·2023-10-14 14:19

CUDA编程模型系列十( CUDA Stream / CUDA 流 / 多流执行)

本系列视频目的是帮助开发者们一步步地学会利用CUDA编程模型加速GPU应用,我们的口号是:让GPU飞起来本期我介绍了CUDA中Stream的概念和使用方法,CUDA流也是很多CUDA加速库(cuBLAS,cuDNN,TensorRT
扫地的小何尚·2023-10-14 10:39

Ubuntu 20.04 安装 TensorRT 8.2.5.1

首先要安装cuda和cudnn，我装的版本分别是python3.8，cuda11.3，cudnn8.4，TensorRT8.2.5.1一、cuda安装由于本机之前装pytorch的时候已经装过cuda了
猪扒已出闸·2023-10-14 00:13

我的NVIDIA开发者之旅——利用NVIDIA TAO工具包3.0和Deepstream快速搭建车辆信息识别系统

利用NVIDIATAO工具包3.0和Deepstream快速搭建车辆信息识别系统实现目标部署工具：NVIDIADeepStreamSDK简单设置参数工作流程注意事项GPU深度学习推理：TensorRT部署工具实战代码
啥都鼓捣的小yao·2023-10-14 00:30

TensorRT详细入门指北，如果你还不了解TensorRT，过来看看吧！

前言大名鼎鼎的TensorRT有多牛逼就不多说了，因为确实很好用。
OLDPAN·2023-10-13 20:05

DOCKER UBUNTU 配置

***TensorRT8.2.1.8安装笔记(超全超详细)|Docker快速搭建TensorRT环境-知乎1：DOCKER深度学习环境基本要素1.Docker部署深度学习服务器，CUDA+cudnn+ssh
齐名南·2023-10-13 02:04

MMDeploy部署实战系列【第二章】：mmdeploy安装及环境搭建

目录：0️⃣mmdeploy源码安装(转换fasterrcnnr50/yolox为tensorrt，并进行推理)_
gy-7·2023-10-10 19:43

使用Tensorrt的一般步骤

使用Tensorrt的一般步骤TensorRT的使用包括两个阶段：buildanddeployment。
Vec[95]·2023-10-10 15:11

TensorRT的步骤详情

每个步骤常用的方法和参数：1.logger日志记录器通常出现在代码的最开头，在一次会话中，多个builder可以共享同一个logger，通过传入参数的不同，可以产生不同详略的参数，通常使用Verbose和info（这两个等级可以获取一些网络优化过程和优化结果的相关信息）2.Builder引擎构建器Builder紧随着logger出现，是用于构建推理引擎的核心对象，在比较旧的TRT版本中，build
Vec[95]·2023-10-10 15:11

TensorRT的结构

Builder（网络原数据）：模型搭建的入口，网络的tensorRT内部表示以及可执行程序引擎都是由该对象的成员方法生成的BuiderConfig（网络原数据的选项）：负责设置模型的一些参数，如是否开始
Vec[95]·2023-10-10 15:41

Pytorch\Onnx\TensorRT

前言TensorRT是NVIDIA推出的一款高效深度学习模型推理框架，其包括了深度学习推理优化器和运行时，能够让深度学习推理应用拥有低时延和高吞吐的优点。
烂桃先生之前的账号·2023-10-10 15:09

转权重格式darknet转onnx转tensorrt

将darknet格式的权重转为onnx格式，然后再转为tensorrt格式首先准备好一个darknet格式的权重文件(.weights)，配置文件(.cfg)，训练集名称文件(.names)一、darknet
melicent114·2023-10-10 15:07

PyTorch 预训练模型转 onnx，Tensorrt 部署

所用环境Centos7PyTorch1.8.0（此为模型训练时的配置，转onnx时改为1.2.0）onnx1.7.0tensorrt7.2.2.3cuda11.1安装onnxpipinstallonnx
zengyiii·2023-10-10 15:35

PyTorch中F.conv2d从ONNX到TensorRT的支持

另一方面，TensorRT是NVIDIA推出的一款高效深度学习模型推理框架，其包括了深度学
TracelessLe·2023-10-10 15:59

onnx转换TensorRT的步骤

A.解析onnx已有的trt不适配，需要将onnx转为trtparseonnxserializetrt保存trt文件注意：如果不使用Int8模式，onnx的parser代码几乎通用概览构建阶段建立logger（日志）建立builder（网络元数据)创建network（计算图）（API独需）生成序列化的网络（网络的trt内部表示）运行阶段建立engine（可执行代码）创建context（gpu进程）
Vec[95]·2023-10-10 15:27

【AI】yolov5：数据下载、图像标注、训练、预测等，超详细笔记；pytorch转onnx再转TensorRT；训练识别口罩

AI学习目录汇总1、搭建yolov5开发环境1.1官方源码https://gitcode.net/mirrors/ultralytics/yolov5/1.2创建虚拟环境condacreate--nameyolovpython=3.9-ycondaactivateyolovcondainstall-nyolovipykernelpython-mipykernelinstall--user--nam
郭老二·2023-10-10 04:18

ubuntu20.04配置autoware环境

一：总体安装思路安装Ubuntu20.04->安装CUDA、cuDNN、osqp、tensorRT->安装ROS-kenetic->安装autowarerepository（->安装autoware的实验室版本
王小霆·2023-10-09 03:24

C++获取指定路径文件夹下的所有图片-windows和linux下各自的处理方案

使用场景获取某路径下的图片，再逐张传入TensorRT进行识别，但是如果要做连续帧处理，需要将图片序列从小到大排序，因为原来读取进去的图片列表是乱序的。
Alex-Leung·2023-10-07 17:25

模型部署翻车记：pytorch转onnx踩坑实录

作者|nihate编辑|极市平台点击下方卡片，关注“自动驾驶之心”公众号ADAS巨卷干货，即可获取点击进入→自动驾驶之心【模型部署】技术交流群后台回复【模型部署工程】获取基于TensorRT的分类、检测任务的部署源码
自动驾驶之心·2023-10-07 12:57

DeepStream 部署 RTSP + scaled-yolov4 (tensorrtx)

DeepStream应用程序将深度神经网络和其他复杂的处理任务引入到流处理管道中，以实现对视频和其他传感器数据的近实时分析。从这些传感器中提取有意义的见解为提高运营效率和安全性创造了机会。例如，摄像头是当前使用最多的物联网传感器。在我们的家中，街道上，停车场，大型购物中心，仓库，工厂中都可以找到相机–无处不在。视频分析的潜在用途是巨大的：访问控制，防止丢失，自动结帐，监视，安全，自动检查（QA），
J ..·2023-10-06 22:36
上一页 3 4 5 6 7 8 9 10 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他