YOLOV3训练自己的数据集（PyTorch版本）

        由于这一段时间从事目标检测相关工作，因而接触到yolov3，进行目标检测，具体原理大家可以参考大神的博客目标检测（九）--YOLO v1,v2,v3，我就不细讲了，直接进入正题，如何利用深度学习框架PyTorch对自己的数据进行训练以及最后的预测。

一、数据集

        首先我们要对自己的数据进行标注，标注的工具LabelImg，如果是windows用户的话，可以直接下载可执行文件，labelImg的下载地址以及使用，可以参考博客windows下使用labelImg标注图像，使用的图示如下

得到标注后的xml文件

	Desktop
	BloodImage_00000.jpg
	/Users/xxx/Desktop/BloodImage_00000.jpg
	
		Unknown
	
	
		640
		480
		3
	
	0
	

        我们本次训练的数据集是进行细胞的检测，已经标注好的数据链接红细胞检测，主要分两部分图像和标注。

        我们将labels在图像中标注可以得到

        

二、训练代码

         由于本次不采用官网的代码，使用PyTorch框架，这里我们采用github上https://github.com/ultralytics/yolov3，clone下来，目录如下

注：makeTxt.py和voc_label.py文件是后面添加到。

三、数据预处理

        为了能够用clone下来的工程进行训练和预测，我们需要对数据进行处理，以适应相应的接口。

        1.将细胞数据Annotations和JPEGImages放入data目录下，并新建文件ImageSets，labels，复制JPEGImages，重命名images， 

 

          2.运行根目录下makeTxt.py，将数据分成训练集，测试集和验证集，其中比例可以在代码设置，代码如下

import os
import random

trainval_percent = 0.1
train_percent = 0.9
xmlfilepath = 'data/Annotations'
txtsavepath = 'data/ImageSets'
total_xml = os.listdir(xmlfilepath)

num = len(total_xml)
list = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list, tv)
train = random.sample(trainval, tr)

ftrainval = open('data/ImageSets/trainval.txt', 'w')
ftest = open('data/ImageSets/test.txt', 'w')
ftrain = open('data/ImageSets/train.txt', 'w')
fval = open('data/ImageSets/val.txt', 'w')

for i in list:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        ftrainval.write(name)
        if i in train:
            ftest.write(name)
        else:
            fval.write(name)
    else:
        ftrain.write(name)

ftrainval.close()
ftrain.close()
fval.close()
ftest.close()

        在ImageSets得到四个文件，其中我们主要关注的是train.txt，test.txt，val.txt，文件里主要存储图片名称。

        3.运行根目录下voc_label.py，得到labels的具体内容以及data目录下的train.txt，test.txt，val.txt，这里的train.txt与之前的区别在于，不仅仅得到文件名，还有文件的具体路径。voc_label.py的代码如下

import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join

sets = ['train', 'test','val']

classes = ["RBC"]#我们只是检测细胞，因此只有一个类别


def convert(size, box):
    dw = 1. / size[0]
    dh = 1. / size[1]
    x = (box[0] + box[1]) / 2.0
    y = (box[2] + box[3]) / 2.0
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x * dw
    w = w * dw
    y = y * dh
    h = h * dh
    return (x, y, w, h)


def convert_annotation(image_id):
    in_file = open('data/Annotations/%s.xml' % (image_id))
    out_file = open('data/labels/%s.txt' % (image_id), 'w')
    tree = ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)

    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
             float(xmlbox.find('ymax').text))
        bb = convert((w, h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')


wd = getcwd()
print(wd)
for image_set in sets:
    if not os.path.exists('data/labels/'):
        os.makedirs('data/labels/')
    image_ids = open('data/ImageSets/%s.txt' % (image_set)).read().strip().split()
    list_file = open('data/%s.txt' % (image_set), 'w')
    for image_id in image_ids:
        list_file.write('data/images/%s.jpg\n' % (image_id))
        convert_annotation(image_id)
    list_file.close()

        labels文件下的具体labels信息

        data目录下train.txt

四、配置文件

        1.在data目录下新建rbc.data，配置训练的数据，内容如下

classes=1
train=data/train.txt
valid=data/test.txt
names=data/rbc.names
backup=backup/
eval=coco

        2.在data目录下新建rbc.names，配置预测的类别，内容如下

        3.网络结构配置，在原工程下cfg目录下有很多的yolov3网络结构，我们本次采用的是yolov3-tiny.cfg

        具体参数的意义可以参考博客YOLOV3实战4：Darknet中cfg文件说明和理解和yolo配置文件的参数说明和reorg层的理解！

        因为我们只是估计了一个类，所以需要对cfg文件进行修改，yolov3-tiny.cfg

[net]
# Testing
batch=1
subdivisions=1
# Training
# batch=64
# subdivisions=2
width=416
height=416
channels=3
momentum=0.9
decay=0.0005
angle=0
saturation = 1.5
exposure = 1.5
hue=.1

learning_rate=0.001
burn_in=1000
max_batches = 500200
policy=steps
steps=400000,450000
scales=.1,.1

[convolutional]
batch_normalize=1
filters=16
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=32
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=64
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=128
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=256
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=2

[convolutional]
batch_normalize=1
filters=512
size=3
stride=1
pad=1
activation=leaky

[maxpool]
size=2
stride=1

[convolutional]
batch_normalize=1
filters=1024
size=3
stride=1
pad=1
activation=leaky

###########

[convolutional]
batch_normalize=1
filters=256
size=1
stride=1
pad=1
activation=leaky

[convolutional]
batch_normalize=1
filters=512
size=3
stride=1
pad=1
activation=leaky

[convolutional]
size=1
stride=1
pad=1
filters=18
activation=linear



[yolo]
mask = 3,4,5
anchors = 10,14,  23,27,  37,58,  81,82,  135,169,  344,319
classes=1
num=6
jitter=.3
ignore_thresh = .7
truth_thresh = 1
random=1

[route]
layers = -4

[convolutional]
batch_normalize=1
filters=128
size=1
stride=1
pad=1
activation=leaky

[upsample]
stride=2

[route]
layers = -1, 8

[convolutional]
batch_normalize=1
filters=256
size=3
stride=1
pad=1
activation=leaky

[convolutional]
size=1
stride=1
pad=1
filters=18 #3*(class + 4 + 1)
activation=linear

[yolo]
mask = 0,1,2
anchors = 10,14,  23,27,  37,58,  81,82,  135,169,  344,319
classes=1
num=6
jitter=.3
ignore_thresh = .7
truth_thresh = 1
random=1

        注：修改的地方主要是filter，因为我们每一个网格就预测3个anchor结果，所以filter =3*（1 + 5）=18

        4.获取官网已经训练好的网络参数yolov3-tiny.weights，下载链接https://pjreddie.com/media/files/yolov3-tiny.weights，导入weights目录下，由于需要进行fine-tune，所以需要对yolov3-tiny.weights进行改造，因而需要下载官网的代码https://github.com/pjreddie/darknet，运行一下脚本，并将得到的yolov3-tiny.conv.15导入weights目录下，脚本如下

./darknet partial cfg/yolov3-tiny.cfg yolov3-tiny.weights yolov3-tiny.conv.15 15

 

        这里，我直接提供yolov3-tiny.conv.15下载地址。

        如果是其他结构的网络，那么可以参考download_yolov3_weights.sh中的说明，里面有详细的介绍。

五、训练

        一切准备妥当，我们就可以开始训练了，训练脚本如下

python train.py --data-cfg data/rbc.data --cfg cfg/yolov3-tiny.cfg --epochs 10

        得到训练好的模型best.pt

        

        训练结果如下（这里只有10次迭代的结果）

        

六、预测

        我们将得到的模型进行预测，这里代预测的图片我们放在data/samples目录下

        运行以下脚本

python detect.py --data-cfg data/rbc.data --cfg cfg/yolov3-tiny.cfg --weights weights/best.pt

        得到的结果可以在output目录

        可以看出来效果一般，主要我们的网络结构较简单，同时迭代的次数较少。

 

        以上就是 利用PyTorch版本，通过YOLOV3训练自己的数据集的整个过程，我也是刚刚起步，希望大家一起学习加油。?