将数据集制作成VOC数据集格式
在做目标检测任务时，若使用Github已复现的论文时，需首先将自己的数据集转化为VOC数据集的格式，因为论文作者使用的是公开数据集VOC 2007、VOC2012、COCO等类型数据集做方法验证与比对。
一、VOC数据集格式
--VOCdevkit2007
--VOC2007
--Annotations (xml格式的文件)
--000001.xml
--ImageSets
--Layout
--Main
--train.txt
--test.txt
--val.txt
--trainval.txt
--Segmentation
--JPEGImages (训练集和测试集图片)
--000001.jpg
--results
二、转换过程步骤
1. 使用标注工具标注图片目标检测框，生成JSON格式的标注文件(本人使用此生成类型的标注工具，也可使用(LabelImg等标注工具)；
2. 批量修改图片和标注文件名称，从000001.jpg、000001.json标号开始；
#coding='utf-8'
import os
import numpy as np
def imgs_rename(imgs_path):
imgs_labels_name = np.array(os.listdir(imgs_path)).reshape(-1,2)
# 从 000001开始
i = 1
for img_label_name in imgs_labels_name:
if img_label_name[0].endswith('.jpg'):
# 修改图片名称
img_old_name = os.path.join(os.path.abspath(imgs_path), img_label_name[0])
# 类别+图片编号 format(str(i),'0>3s') 填充对齐
img_new_name = os.path.join(os.path.abspath(imgs_path), '00' + format(str(i),'0>4s') + '.jpg')
os.rename(img_old_name, img_new_name)
# 修改json文件名称
label_old_name = os.path.join(os.path.abspath(imgs_path), img_label_name[1])
label_new_name = os.path.join(os.path.abspath(imgs_path), '00' + format(str(i), '0>4s') + '.json')
os.rename(label_old_name, label_new_name)
i = i + 1
if __name__=='__main__':
# 读取json文件的路径
root = "read_file_path"
imgs_rename(root)3. 提取图片和标注文件到不同文件夹下，并将读取的标注框转化为txt文件格式(本人的图片和JSON文件在同一目录下生成)；
import json
import os
import numpy as np
import cv2
#读取json格式文件，返回坐标
def read_json(file_name):
file = open(file_name,'r',encoding='utf-8')
set = json.load(file)
# print("读取完整信息：",set)
coord = set['objects'][0]['seg'] # 只读取第一个标注的车牌
return coord
def save_imgs(imgs_jsons_files, imgs_path):
# 提取图片文件夹中的jpg文件名称
for idx in range(len(imgs_jsons_list)):
if imgs_jsons_list[idx][-3:]=='jpg':
img_name = imgs_jsons_list[idx]
read_img_path = os.path.join(imgs_jsons_files, img_name)
img = cv2.imread(read_img_path)
save_img_path = os.path.join(imgs_path, img_name)
cv2.imwrite(save_img_path, img)
def save_labels(imgs_jsons_files, labels_path):
# 提取图片文件夹中的json文件名称
for idx in range(len(imgs_jsons_list)):
if imgs_jsons_list[idx][-4:] == 'json':
json_name = imgs_jsons_list[idx]
# 操作每一个json文件，读取并保存坐标
json_path = os.path.join(imgs_jsons_files, json_name)
json_coord = read_json(json_path)
if len(json_coord) > 8:
print("标注坐标多于四个点的文件名称：", json_name)
# 提取左上和右下坐标
roi_coord = []
for idx in range(len(json_coord)):
if idx == 0 or idx == 1 or idx == 4 or idx == 5:
roi_coord.extend([json_coord[idx]])
# 保存roi坐标到txt文件中
label_path = labels_path + json_name[:6] + '.txt'
np.savetxt(label_path, roi_coord)
if __name__=='__main__':
print("loading......")
# 读取jpg json文件的路径
imgs_jsons_files = "Jpg_json_file_path"
# 保存读取的真实标签路径
labels_path = "save_labels_path"
if not os.path.exists(labels_path):
os.mkdir(labels_path)
# 保存读取的图片
imgs_path = "sabe_imgs_path"
if not os.path.exists(imgs_path):
os.mkdir(imgs_path)
imgs_jsons_list = os.listdir(imgs_jsons_files)
save_imgs(imgs_jsons_files, imgs_path)
save_labels(imgs_jsons_files, labels_path)
print("done!!!")4. 转化标注框txt格式为xml格式；
# encoding = utf-8
import os
import numpy as np
import codecs
import cv2
def read_txt(label_path):
file = open(label_path,'r',encoding='utf-8')
label_lines = file.readlines()
label = []
for line in label_lines:
one_line = float(line.strip().split('\n')[0])
label.extend([one_line])
return np.array(label,dtype=np.float64)
def covert_xml(label,xml_path, img_name, img_path):
# 获得图片信息
img = cv2.imread(img_path)
height, width, depth = img.shape
x_min,y_min,x_max,y_max = label
xml = codecs.open(xml_path, 'w', encoding='utf-8')
xml.write('\n')
xml.write('\t' + 'VOC2007' + ' \n')
xml.write('\t' + img_name + ' \n')
xml.write('\t\n')
xml.write('\t\tThe VOC 2007 Database \n')
xml.write('\t\tPascal VOC2007 \n')
xml.write('\t\tflickr \n')
xml.write('\t\tNULL \n')
xml.write('\t \n')
xml.write('\t\n')
xml.write('\t\tNULL \n')
xml.write('\t\tfaster \n')
xml.write('\t \n')
xml.write('\t\n')
xml.write('\t\t' + str(width) + ' \n')
xml.write('\t\t' + str(height) + ' \n')
xml.write('\t\t' + str(depth) + ' \n')
xml.write('\t \n')
xml.write('\t\t0 \n')
xml.write('\t\n')
xml.write(' ')
if __name__=='__main__':
labels_file_path = "D:/Code_py/VOC2007/labels/"
imgs_file_path = "D:/Code_Py/VOC2007/imgs/"
xmls_file_path = "D:/Code_py/VOC2007/xmls/"
if not os.path.exists(xmls_file_path):
os.mkdir(xmls_file_path)
labels_name = os.listdir(labels_file_path)
for label_name in labels_name:
label_path = os.path.join(labels_file_path, label_name)
label = read_txt(label_path)
xml_name = label_name[:6]+'.xml'
xml_path = os.path.join(xmls_file_path, xml_name)
img_name = label_name[:6]+'.jpg'
img_path = os.path.join(imgs_file_path, img_name)
covert_xml(label, xml_path, img_name, img_path)5. 切分数据集为训练集、验证集和测试集，仅保存图片的名称到txt问价下即可；
import os
import numpy as np
if __name__=='__main__':
root = "save_path"
train = open(root+"train.txt", 'w', encoding='utf-8')
train_val = open(root+"trainval.txt", 'w', encoding='utf-8')
test = open(root+"test.txt", 'w', encoding='utf-8')
val = open(root+"val.txt", 'w', encoding='utf-8')
imgs_path = os.path.join(root, "imgs")
imgs_name = os.listdir(imgs_path)
# 首先切分训练验证集和测试集
train_val_img_info = []
for img_name in imgs_name:
x = np.random.uniform(0,1)
img_info = str(img_name).strip().split('.')[0]
# 随机选取1/2比例的数据为测试集
if x>0.5:
train_val_img_info.append(img_info)
train_val.writelines(img_info)
else:
test.writelines(img_info+'\n')
# 然后切分训练验证集为训练集和验证集
for img_name in train_val_img_info:
x = np.random.uniform(0,1)
if x>0.5:
train.writelines(img_name+'\n')
else:
val.writelines(img_name+'\n')