2.1【YoloV3--pytorch】Part One：基于Pytorch的YoloV3训练自己的数据集----准备数据集、配置文件并下载预训练权重文件

之前整理了基于tensorflow的Yolov3训练自己的数据集的相关步骤，奈何最近的一个课程实验要求必须使用pytorch架构的yolov3，so整理一波。

参考blog：
【YoloV3–tensorflow】Part one ---- 目标检测实战：用YOLOV3训练自建的数据集
【YoloV3–tensorflow】Part two ---- Ubuntu16.04：opencv调用yolov3训练后的模型进行目标检测

一、数据集准备及配置文件

1.1 下载源码并配置环境

源码github地址：ultralytics-yolov3

打开官方的requirements.txt如下：

# pip install -U -r requirements.txt
numpy
opencv-python >= 4.1
torch >= 1.5
matplotlib
pycocotools
tqdm
pillow
tensorboard >= 1.14

# Nvidia Apex (optional) for mixed precision training --------------------------
# git clone https://github.com/NVIDIA/apex && cd apex && pip install -v --no-cache-dir --global-option="--cpp_ext" --global-option="--cuda_ext" . --user && cd .. && rm -rf apex

# Conda commands (in place of pip) ---------------------------------------------
# conda update -yn base -c defaults conda
# conda install -yc anaconda numpy opencv matplotlib tqdm pillow ipython
# conda install -yc conda-forge scikit-image pycocotools tensorboard
# conda install -yc spyder-ide spyder-line-profiler
# conda install -yc pytorch pytorch torchvision
# conda install -yc conda-forge protobuf numpy && pip install onnx  # https://github.com/onnx/onnx#linux-and-macos

按照官方配置要求进行配置即可，在源码的github主页上，作者指出python版本要求3.7+，本人所使用的python版本是3.6.5，亲测可用；除此之外需要注意的是torchvision这个模块，torchvision的版本必须与torch版本匹配，否则会产生错误。
如果不确认如何安装对应的torchvision版本，请参考该网址：https://pytorch.org/get-started/locally/，界面如下

可根据自己的实际环境选择橙红色的选项，会在最后Run the Command选项那里生成可直接运行的终端命令，直接复制到终端运行即可。通过这种方法安装的torch和torchvision一定是相匹配的。本人之前使用pyharm搭建的虚拟环境，从charm中安装下载管理包，尽管版本号对应，但依然存在问题，使用这种方法问题迎刃而解。

1.2 制作文件格式，生成训练测试文本数据

Step1：

$在./data文件夹下新建Annotations、JPEGImages文件夹$，使用labelimage标注工具进行标注，设置好保存文件路径。

之前的blog已经详细记录了自制数据集的流程以及相关详细的参考资料，这里不再赘述，请参考：
【YoloV3–tensorflow】Part one ---- 目标检测实战：用YOLOV3训练自建的数据集
【YoloV3–tensorflow】Part two ---- Ubuntu16.04：opencv调用yolov3训练后的模型进行目标检测

（倘若是直接使用之前已经标注好的数据集，那么一定要注意Annotations文件夹下每个.xml文件中所对应的文件路径，事实上，每次移动JPEGImages文件夹之后都需要修改这部分内容）
　使用下面的demo可以达到$批量修改.xml文件中path内容$的效果：

#!/usr/bin/python
# -*- coding: UTF-8 -*-
import os
import os.path
from shutil import copy
from xml.etree.ElementTree import parse, Element
import xml.dom.minidom

def test():
    path='/home/eden/Downloads/yolov3-master/data/Annotations/'  #原始xml文件存放路径
    files=os.listdir(path)  #得到文件夹下所有文件名称 ,注意这里的文件夹下只是放着xml文件，不用把同名的jpg文件放这里
    files.sort()

    idx = 0
    for xmlFile in files: #遍历文件夹
        if not os.path.isdir(xmlFile): #判断是否是文件夹,不是文件夹才打开
            print(xmlFile)
            pass
        path='/home/***/Downloads/yolov3-master/data/Annotations/'

        newStr=os.path.join(path,xmlFile) #拼接路径
        
        dom=parse(newStr)  #读取xml文件
        root=dom.getroot()
      
        #修改folder的值
        dom.find('folder').text="JPEGImages"
        
        idx += 1
        dom.find('filename').text =str(idx).zfill(6)+'.jpg'
        newfilename = dom.find('filename').text

        newStr1='/home/***/Downloads/yolov3-master/data/JPEGImages/'+newfilename    
        root.find('path').text=newStr1

        print('path after change')
        
        dom.write(newStr,encoding="utf-8")

        pass
    print('total xml: ',idx)

if __name__=='__main__':
    test()

Step２：

$在./data文件夹下新建ImageSets、labels文件夹$，
$同时复制JPEGImages文件夹并重命名为images。$

Step3：

在文件夹根目录（./yolov3-master）下新建makeTxt.py和voc_label.py两个文件

makeTxt.py：

import os
import random
#划分训练数据和测试数据比例，可自行根据实际数据量大小进行调整 
trainval_percent = 0.1
train_percent = 0.9
xmlfilepath = 'data/Annotations'
txtsavepath = 'data/ImageSets'
total_xml = os.listdir(xmlfilepath)
 
num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)
 
ftrainval = open('data/ImageSets/trainval.txt', 'w')
ftest = open('data/ImageSets/test.txt', 'w')
ftrain = open('data/ImageSets/train.txt', 'w')
fval = open('data/ImageSets/val.txt', 'w')

for i in list:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        ftrainval.write(name)
        if i in train:
            ftest.write(name)
        else:
            fval.write(name)
    else:
        ftrain.write(name)
 
ftrainval.close()
ftrain.close()
fval.close()
ftest.close()

运行该py文件后会在data/ImageSets/文件夹下生成四个.txt文本文件， trainval.txt、test.txt、train.txt、val.txt，这些txt文本文件中只包含文件名，并未包含完整的图像路径。接着运行voc_label.py：

voc_label.py：

import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
 
sets = ['train', 'test','val']
 
classes = ["tank"]
 
 
def convert(size, box):
    dw = 1. / size[0]
    dh = 1. / size[1]
    x = (box[0] + box[1]) / 2.0
    y = (box[2] + box[3]) / 2.0
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x * dw
    w = w * dw
    y = y * dh
    h = h * dh
    return (x, y, w, h)

 
def convert_annotation(image_id):
    in_file = open('data/Annotations/%s.xml' % (image_id))
    out_file = open('data/labels/%s.txt' % (image_id), 'w')
    tree = ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)
 
    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
             float(xmlbox.find('ymax').text))
        bb = convert((w, h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
 
 
wd = getcwd()
print(wd)
for image_set in sets:
    if not os.path.exists('data/labels/'):
        os.makedirs('data/labels/')
    image_ids = open('data/ImageSets/%s.txt' % (image_set)).read().strip().split()
    list_file = open('data/%s.txt' % (image_set), 'w')
    for image_id in image_ids:
        list_file.write('data/images/%s.jpg\n' % (image_id))
        convert_annotation(image_id)
    list_file.close()

运行该py文件后会在./data文件夹下生成test.txt 、train.txt、val.txt三个文本文件。后续我们只用到前两个。

Step 4：

在./data文件夹下新建两个文件分别命名为voc.data 、 voc.names
其中voc.names存放识别物体的类别名称
voc.data的格式如下;

classes=1
train=data/train.txt
valid=data/test.txt
names=data/voc.names
backup=backup/   
eval=coco

backup=backup/ 、eval=coco这两项根据自身实际情况添加即可，backup=backup/ 指的是会在backup文件夹下存放训练得到的checkpoint，eval=coco指的是在测试和评判模型时采用coco数据集中的评判标准，倘若加了这一项，还需要对之前生成的.xml文件做一些小小的改动，将其coco数据集格式的.cfg文件（详细的实现过程会在后续的参考资料中给出，感兴趣的可以自行查看）。本人后续使用的voc.data文件中并未添加后两项。

到此为止，data文件夹下应该有如下这些文件

samples文件夹存放的是待测试的图像文件，这里可以提前将要测试的图像文件放到这个文件夹下，以免后续遗忘。

1.3 修改配置文件

本文所使用的是yolov3-tiny.cfg（受疫情影响，目前仍然家里蹲，电脑太渣，显卡配置低且只有cpu，so只好先用yolov3-tiny跑一跑了，电脑配置高的可以路过了）
打开./cfg文件夹下的yolov3-tiny.cfg文件进行修改，主要修改的地方有两个方面，一个是classes修改为自己要检测的物体类别，另一个要修改的是strides，其计算方式为 3*(classes+5)
本人最终训练要用的yolov3-tiny.cfg如下（只检测一类物体）：

[net]
# Testing
batch=1
subdivisions=1
# Training
# batch=64
# subdivisions=2
width=416
height=416
channels=3
momentum=0.9
decay=0.0005
angle=0
saturation = 1.5
exposure = 1.5
hue=.1

learning_rate=0.001
burn_in=1000
max_batches = 500200
policy=steps
steps=400000,450000
scales=.1,.1

[convolutional]
batch_normalize=1
filters=16
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=32
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=64
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=128
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=256
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=512
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=1

[convolutional]
batch_normalize=1
filters=1024
size=3
stride=1
pad=1
activation=leaky

###########

[convolutional]
batch_normalize=1
filters=256
size=1
stride=1
pad=1
activation=leaky

[convolutional]
batch_normalize=1
filters=512
size=3
stride=1
pad=1
activation=leaky

[convolutional]
size=1
stride=1
pad=1
filters=18
activation=linear



[yolo]
mask = 3,4,5
anchors = 10,14,  23,27,  37,58,  81,82,  135,169,  344,319
classes=1
num=6
jitter=.3
ignore_thresh = .7
truth_thresh = 1
random=1

[route]
layers = -4

[convolutional]
batch_normalize=1
filters=128
size=1
stride=1
pad=1
activation=leaky

[upsample]
stride=2

[route]
layers = -1, 8

[convolutional]
batch_normalize=1
filters=256
size=3
stride=1
pad=1
activation=leaky

[convolutional]
size=1
stride=1
pad=1
filters=18
activation=linear

[yolo]
mask = 1,2,3
anchors = 10,14,  23,27,  37,58,  81,82,  135,169,  344,319
classes=1
num=6
jitter=.3
ignore_thresh = .7
truth_thresh = 1
random=1

二、下载预训练权重文件

经过上面一番折腾，距离成功只剩两步之遥了，接下来的第一步就是要下载预训练权重文件。
在./weights文件夹下的download_yolov3_weights.sh文件中详细的给出了预训练权重文件的下载方式。这里只简单的讲哈yolov3-tiny.weights权重文件的生成过程，其他的权重文件本人会上传到资源供各位下载。

首先下载训练好的网络参数yolov3-tiny.weights，https://pjreddie.com/media/files/yolov3-tiny.weights到weights目录下，但仍然需要fine-tune，so对yolov3-tiny.weights进行改造，下载darknet相关文件https://github.com/pjreddie/darknet，下载好之后进入文件make一下，生成darknet可执行文件，在当前文件目录下运行：

./darknet partial cfg/yolov3-tiny.cfg yolov3-tiny.weights yolov3-tiny.conv.15 15

之后会生成yolov3-tiny.conv.15，将其也放在weights文件夹下。over，下篇继续。

资源下载链接：

yolov3-tiny.weights下载资源
yolov3-tiny.conv.15下载资源
darknet53.conv.74下载资源
yolov3.weights下载资源
yolov3-spp.weights下载资源

参考资料：

https://github.com/ultralytics/yolov3
https://pytorch.org/get-started/locally/

❤❤❤❤❤Yolov3的.cfg文件中的参数详解
❤❤❤❤❤参考Blog1
❤❤❤❤❤参考Blog2
❤❤❤❤❤参考Blog3
❤❤❤❤参考Blog4
❤❤❤参考Blog5