全网最新发现，在系统中不装cuda和cudnn，在装完Nvidia驱动之后直接在Anaconda中装pytorch，也可以使用

ubuntu20.04+pytorch1.8+cuda11.1+cudnn8.0.5+tensorrt8x

最近想搞yolox，看到里面有tensorrt和torch2trt就以为要装。白废了两天的时间还是没装上torch2trt。如果真的想搞还是用ubuntu18和tesorrt7x，cuda用11.0以下的，bug会少很多。

最近发现在系统中不装cuda和cudnn，在装完Nvidia驱动之后直接在Anaconda中装pytorch，也可以使用！！！！！

应该是pytorch官网自己的原因，

# CUDA 11.1
conda install pytorch==1.8.0 torchvision==0.9.0 torchaudio==0.8.0 cudatoolkit=11.1 -c pytorch -c conda-forge

竟然没有用。换源也不行。（在近几次的安装中，换源就没有用过—— _ ——）
去Anaconda离线下载的方法也不行，下的慢不说，装完之后还有bug，真的气死。

最后用的是这种离线安装方法。
我的python是3.7，cuda是11.1,所以为下载的两个.whl文件如下图所示：

下载完之后，在你的conda环境下pip install 就可以了。里面自带cudatoolkit，不用额外安装。torchaudio我感觉可有可无。这两个装完之后，再去环境里面,pip install torchaudio也可以。但是我这个版本，安装完torch和torchvision再去pip install torchaudio会给我把torch装成1.10的。

python调用c++的gcc 问题

cuda11.0+的cudnn用

cd 你的cudnn.....
sudo cp cuda/include/cudnn.h /usr/local/cuda/include
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*
cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

不输出是正常的。

非要看的话：

sudo cp cuda/include/cudnn.h /usr/local/cuda/include
sudo cp cuda/lib64/libcudnn* /usr/local/cuda/lib64
sudo cp cuda/include/cudnn_version.h /usr/local/cuda-11.1/include/
sudo chmod a+r /usr/local/cuda/include/cudnn.h /usr/local/cuda/lib64/libcudnn*
cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

至此，pytroch装完了。

tersorrt一定要选 tar的不要deb，看其他帖子说选deb的话，cuda也要选用deb安装的。

下载之后解压。要选TAR和Linux.x84_64的。有具体版本的不好用。

tar xvf TensorRT-8.2.1.8.Linux.x86_64-gnu.cuda-11.4.cudnn8.2.tar.gz

pip python

cd TensorRT-8.2.1.8.Linux.x86_64-gnu.cuda-11.4.cudnn8.2/TensorRT-8.2.1.8
cd python
pip install tensorrt-8.2.1.8-cp38-none-linux_x86_64.whl

pip uff

cd ../
cd uff
pip install uff-0.6.9-py2.py3-none-any.whl

pip graphsurgeon

cd ../
cd graphsurgeon
pip install graphsurgeon-0.4.5-py2.py3-none-any.whl

最后和验证是否成功

source activate xxx
python
import tensorrt

如果出现在导入pytorch时libmkl_intel_lp64.so找不到

torch2trt装完了不能用，也不知道什么原因，以后再说吧。