Ubuntu下HoiTransformer复现pytorch环境搭建+解决问题
一、准备工作
论文：End-to-End Human Object Interaction Detection with HOI Transformer
代码：GitHub - bbepoch/HoiTransformer: This is the code for HOI Transformer
二、环境搭建
硬件/系统：服务器GPU3090，Ubuntu20.。。（忘记了），CUDA11.2
虚拟环境：python3.6，torch1.10.0+cu113，torchaudio0.10.0+cu113，torchvision0.11.1+cu113
虚拟环境创建过程略
三、复现过程
1.克隆代码（github难以直接克隆于是去gitee克隆了，最好克隆不要直接下载压缩包）
git clone https://gitee.com/hoi_xd/HoiTransformer
2.下载预训练模型
cd data/detr_coco && bash download_model.sh
3.下载注释文件
cd data && bash download_annotations.sh
4. 下载数据集
cd data && bash download_images.sh
5.安装相关依赖
pip install -r requirements.txt
6.可以把数据移到服务器机械硬盘上，只在目录下映射一个地址（可省略）
mv data /home/hoi/
ln -s /home/hoi/data data
7.训练模型
# Train on HICO-DET.
python3 -m torch.distributed.launch --nproc_per_node=8 --use_env main.py --epochs=150 --lr_drop=110 --dataset_file=hico --batch_size=2 --backbone=resnet50
# Train on HOI-A.
python3 -m torch.distributed.launch --nproc_per_node=8 --use_env main.py --epochs=150 --lr_drop=110 --dataset_file=hoia --batch_size=2 --backbone=resnet50
# Train on V-COCO.
python3 -m torch.distributed.launch --nproc_per_node=8 --use_env main.py --epochs=150 --lr_drop=110 --dataset_file=vcoco --batch_size=2 --backbone=resnet50
# Training longer can get even better performance.8.测试模型
python3 test.py --backbone=resnet50 --batch_size=1 --dataset_file=vcoco --log_dir=./ --model_path=checkpoint/p_202205242249/checkpoint.pth 四、相关问题
1、下载注释文件、部分数据集的时候，都是在driver.google上下载，会失败
解决方法：这里训练了vcoco2014，没有训练其他数据集，所有需要下载的部分直接在本机上下载好传到服务器，下载了以下三个文件，
vcoco压缩包为注释文件，挂梯子下载20M左右，网址：https://drive.google.com/uc?id=1vWVScXPsu0KVMtXW8QdLjb25NGLzEPhN
另两个数据集，可以直接下载，网址：
# File name: train2014.zip，16G
http://images.cocodataset.org/zips/train2014.zip
# File name: val2014.zip，6G
http://images.cocodataset.org/zips/val2014.zip
2、按以下目录结构，步骤6做了之后，地址会映射过来，目录结构不变
HoiTransformer/
├── data/
│ ├── detr_coco/
│ ├── hico/
│ │ ├── eval/
│ │ └── images/
│ │ ├── train2015/
│ │ └── test2015/
│ ├── hoia/
│ │ ├── eval/
│ │ └── images/
│ │ ├── trainval/
│ │ └── test/
│ └── vcoco/
│ ├── eval/
│ └── images/
│ ├── train2014/
│ └── val2014/
├── datasets/
├── models/
├── tools/
├── util/
├── engin.py
├── main.py
└── test.py
3、GPU和 pytorch算力不匹配
pytorch capability sm_86 is not compatible with the current PyTorch installation
解决方法，3090GPU，CUDA11.2 匹配pytorch版本也要高一点
所以下载cu113版本的pytorch，不用pip3下载会下载到实际anaconda环境，用pip下载
pip install torch==1.10.0+cu113 torchvision==0.11.1+cu113 torchaudio==0.10.0+cu113 -f https://download.pytorch.org/whl/cu113/torch_stable.html
4、out of memory
GPU并行模式没调整好，学习怎么弄并行模式，或者直接关闭并行模式训练
# Train on V-COCO.
python main.py --epochs=150 --lr_drop=110 --dataset_file=vcoco --batch_size=2 --backbone=resnet50
经过学习学会了用分布式训练：
# 查看空余GPU，比如3，4，5，6四张卡空余
nvidia-smi
# 选择空余GPU训练
CUDA_VISIBLE_DEVICES=3,4,5,6 python3 -m torch.distributed.launch --nproc_per_node=4 --use_env main.py --epochs=150 --lr_drop=110 --dataset_file=vcoco --batch_size=2 --backbone=resnet101
并行模式学习参考：
PyTorch分布式DPP的基本概念(node&rank&local_rank&nnodes&node_rank&nproc_per_node&world_size)_hxxjxw的博客-CSDN博客_nproc_per_node
Pytorch中多GPU并行计算教程_太阳花的小绿豆的博客-CSDN博客_pytorch多gpu训练