Yolov5学习第二周--训练数据集

        在安装好yolov5并测试成功后，可以来尝试训练数据集。可以完全是自己的数据集，通过标注工具（如labelme）来进行标准，也可以是公开数据集，这里先暂时采用公开数据集（后续将完整走一步训练自己的数据集）。

1.下载数据集

        这里采用一个公开的水果数据集，也可以采用其他数据集，将数据集放在yolov5目录下的data文件夹下即可。

链接：https://pan.baidu.com/s/1TMp5ZiPhFoHFDf2lVqgm0w?pwd=yolo

提取码：yolo        

        该数据集总共200张水果图像，共四类，分别为：香蕉、蛇果、火龙果、菠萝。

2.准备yolo标注文件

2.1拆分数据集

        上述数据集仅有两个文件夹，如下图所示

        其中：

（1）Annotations:为label文件，xml格式

（2）Images:为图像文件，该数据集为png格式（也可以为其他图像格式）

        一般数据集分为测试集、验证集和训练集，因此需要将此数据集进行划分，使用以下python脚本进行数据集拆分，可以自己写脚本进行一定比例的拆分，也可参考网上的代码，这里直接使用网上的python脚本split_train_val.py，如下所示。

# coding:utf-8

import os
import random
import argparse

parser = argparse.ArgumentParser()
# xml文件的地址，根据自己的数据进行修改 xml一般存放在Annotations下
parser.add_argument('--xml_path', default='Annotations', type=str, help='input xml label path')
# 数据集的划分，地址选择自己数据下的ImageSets/Main
parser.add_argument('--txt_path', default='dataset', type=str, help='output txt label path')
opt = parser.parse_args()

# trainval_percent = 1.0
# train_percent = 0.9
trainval_percent = 0.8  # 训练集和验证集所占比例。
train_percent = 0.8  # 训练集所占比例，可自己进行调整
xmlfilepath = opt.xml_path
txtsavepath = opt.txt_path
total_xml = os.listdir(xmlfilepath)
if not os.path.exists(txtsavepath):
    os.makedirs(txtsavepath)

num = len(total_xml)
list_index = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list_index, tv)
train = random.sample(trainval, tr)

file_trainval = open(txtsavepath + '/trainval.txt', 'w')
file_test = open(txtsavepath + '/test.txt', 'w')
file_train = open(txtsavepath + '/train.txt', 'w')
file_val = open(txtsavepath + '/val.txt', 'w')

for i in list_index:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        file_trainval.write(name)
        if i in train:
            file_train.write(name)
        else:
            file_val.write(name)
    else:
        file_test.write(name)

file_trainval.close()
file_train.close()
file_val.close()
file_test.close()

        根据代码中参数（上图红框部分）可知，训练验证集占80%（其中训练集又占训练验证集的80%，验证集则为20%），测试集占20%。拆分后其结果如下图所示。

        分别打开每个txt，可以得到数据量如下，符合拆分时的比例设置

Test:40个 

Train:128个

trainVal:160个

Val:32个

2.2准备yolo标定文件

        2.1仅仅将所有数据集的文件名（不含路径和图像格式）进行拆分，运行以下脚本（voc_label.py）文件，将根据前一步的结果，分别形成以下内容

# -*- coding: utf-8 -*-
import xml.etree.ElementTree as ET
import os
from os import getcwd

'''
准备labels，把数据集格式转换成yolo_txt格式，即将每个xml标注提取bbox信息为txt格式，
每个图像对应一个txt文件，文件每一行为一个目标的信息，包括class, x_center, y_center, width, height格式
'''

sets = ['train', 'val', 'test']
classes = ["banana", "snake fruit", "dragon fruit", "pineapple"]  # 改成自己的类别
abs_path = os.getcwd()
print(abs_path)


def convert(size, box):
    dw = 1. / (size[0])
    dh = 1. / (size[1])
    x = (box[0] + box[1]) / 2.0 - 1
    y = (box[2] + box[3]) / 2.0 - 1
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x * dw
    w = w * dw
    y = y * dh
    h = h * dh
    return x, y, w, h


def convert_annotation(image_id):
    in_file = open('Annotations/%s.xml' % (image_id), encoding='UTF-8')
    out_file = open('labels/%s.txt' % (image_id), 'w')
    tree = ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)
    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        # difficult = obj.find('Difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
             float(xmlbox.find('ymax').text))
        b1, b2, b3, b4 = b
        # 标注越界修正
        if b2 > w:
            b2 = w
        if b4 > h:
            b4 = h
        b = (b1, b2, b3, b4)
        bb = convert((w, h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')


#wd = getcwd()
for image_set in sets:
    if not os.path.exists('labels/'):
        os.makedirs('labels/')
    image_ids = open('dataset/%s.txt' % (image_set)).read().strip().split()
    list_file = open('./%s.txt' % (image_set), 'w')
    for image_id in image_ids:
        list_file.write(abs_path + '/images/%s.png\n' % (image_id))
        convert_annotation(image_id)
    list_file.close()

 

        其中 

* test.txt：所有测试集的图像完整路径（绝对路径）

* train.txt：所有训练集的图像完整路径（绝对路径）

* val.txt：所有验证集的图像完整路径（绝对路径）

(4) labels：所有图像的标注文件，其格式是按照yolo的格式写入的，如下图fruit0.txt所示，每行为一个水果，每行共5个数据，第一个为类别，第2-5为位置信息，分别为x、y、w、h。

        注意：

（1）如果是采用其他数据集，一定要进行相应的类别修改，如下图所示

 （2）注意各文件路径，需要修改为自己的路径。

3.准备配置文件

3.1编写数据集配置文件

        在data文件夹下编写fruit.yaml文件，如下图所示：

 

        注意类别个数和名称需要与voc_label.py对应，同时需要注意文件路径（由于fruit.yaml在data目录下，刚开始时train和val路径并未加data，但后面训练时会报错找不到train和val路径，因此一定要加上data）。

3.2 修改模型配置文件

        Yolov5有s、m、l和x四个不同的模型版本，这里选择s版本，将yolov5s.yaml中的类别进行相应的修改，其他暂时不变。

4.训练

        使用以下命令进行训练

python train.py --img 640 --epochs 100 --data data/fruit.yaml --cfg models/yolov5s.yaml

        训练完成，如下图所示

5.问题解决

        根据报错内容找到cmd.py路径并打开，添加如下内容，如图所示。

os.environ['GIT_PYTHON_REFRESH'] = 'quiet'