YOLOv5：使用7.0版本训练自己的实例分割模型（车辆、行人、路标、车道线等实例分割）

前言

• 由于本人水平有限，难免出现错漏，敬请批评改正。
• 更多精彩内容，可点击进入YOLO系列专栏或我的个人主页查看
• YOLOv5：添加SE、CBAM、CoordAtt、ECA注意力机制
• YOLOv5：yolov5s.yaml配置文件解读、增加小目标检测层
• YOLOv5：IoU、GIoU、DIoU、CIoU、EIoU
• YOLOv7训练自己的数据集（口罩检测）
• YOLOv8训练自己的数据集（足球检测）
• 玩转Jetson Nano（五）：TensorRT加速YOLOv5目标检测

前提条件

• 熟悉Python

相关介绍

• Python是一种跨平台的计算机程序设计语言。是一个高层次的结合了解释性、编译性、互动性和面向对象的脚本语言。最初被设计用于编写自动化脚本(shell)，随着版本的不断更新和语言新功能的添加，越多被用于独立的、大型项目的开发。
• PyTorch 是一个深度学习框架，封装好了很多网络和深度学习相关的工具方便我们调用，而不用我们一个个去单独写了。它分为 CPU 和 GPU 版本，其他框架还有 TensorFlow、Caffe 等。PyTorch 是由 Facebook 人工智能研究院（FAIR）基于 Torch 推出的，它是一个基于 Python 的可续计算包，提供两个高级功能：1、具有强大的 GPU 加速的张量计算（如 NumPy）；2、构建深度神经网络时的自动微分机制。
• YOLOv5是一种单阶段目标检测算法，该算法在YOLOv4的基础上添加了一些新的改进思路，使其速度与精度都得到了极大的性能提升。它是一个在COCO数据集上预训练的物体检测架构和模型系列，代表了Ultralytics对未来视觉AI方法的开源研究，其中包含了经过数千小时的研究和开发而形成的经验教训和最佳实践。
• 实例分割是指将图片中属于物体类别的像素识别出来并作分类。1 实例分割是视觉经典四个任务中相对最难的一个，它既具备语义分割（Semantic Segmentation）的特点，需要做到像素层面上的分类，也具备目标检测（Object Detection）的一部分特点，即需要定位出不同实例，即使它们是同一种类。
• 本文数据集免费获取链接：https://download.csdn.net/download/FriendshipTang/88118028
• 同时，也可以在本文开头获取，如下图所示。
  

使用YOLOv5-7.0版本训练自己的实例分割模型

YOLOv5项目官方源地址

https://github.com/ultralytics/yolov5.git

下载yolov5-7.0版源码

解压

目录结构

准备实例分割数据集

在./data目录下，新建myseg.yaml配置文件

内容如下：

# YOLOv5  by Ultralytics, AGPL-3.0 license
# COCO128-seg dataset https://www.kaggle.com/ultralytics/coco128 (first 128 images from COCO train2017) by Ultralytics
# Example usage: python train.py --data coco128.yaml
# parent
# ├── yolov5
# └── datasets
#     └── coco128-seg  ← downloads here (7 MB)


# Train/val/test sets as 1) dir: path/to/imgs, 2) file: path/to/imgs.txt, or 3) list: [path/to/imgs1, path/to/imgs2, ..]
path: ../datasets/myseg  # dataset root dir
train: ../myseg/trainset/images  # train images (relative to 'path') 128 images
val: ../myseg/valset/images  # val images (relative to 'path') 128 images
test: ../myseg/testset/images  # test images (optional)

# Classes
names:
  0: background
  1: car
  2: traffic_sign
  3: lane_lines
  4: person
  5: motorcyclist
  6: cyclist

训练分割模型

python segment/train.py --data data/myseg.yaml --weights yolov5s-seg.pt --img 640 --batch-size 16

注：如果报显存溢出错误，可将batch-size调小。

解决‘ImportError: Failed to initialize: Bad git executable.’

Traceback (most recent call last):
  File "segment/train.py", line 66, in <module>
    GIT_INFO = check_git_info()
  File "D:\anaconda3\envs\test2\lib\contextlib.py", line 75, in inner
    return func(*args, **kwds)
  File "E:\mytest\yolov5-master\utils\general.py", line 360, in check_git_info
    import git
  File "D:\anaconda3\envs\test2\lib\site-packages\git\__init__.py", line 91, in <module>
    raise ImportError("Failed to initialize: {0}".format(exc)) from exc
ImportError: Failed to initialize: Bad git executable.
The git executable must be specified in one of the following ways:
    - be included in your $PATH
    - be set via $GIT_PYTHON_GIT_EXECUTABLE
    - explicitly set via git.refresh()

All git commands will error until this is rectified.

This initial warning can be silenced or aggravated in the future by setting the
$GIT_PYTHON_REFRESH environment variable. Use one of the following values:
    - quiet|q|silence|s|none|n|0: for no warning or exception
    - warn|w|warning|1: for a printed warning
    - error|e|raise|r|2: for a raised exception

Example:
    export GIT_PYTHON_REFRESH=quiet

解决方法

在train.py代码中，import os 后面添加了一行

os.environ["GIT_PYTHON_REFRESH"] = "quiet"

验证分割模型

python segment/val.py --weights runs\train-seg\exp\weights\best.pt --data data/myseg.yaml --img 640

BoxPR_curve

MaskPR_curve

测试分割模型

python segment/predict.py --weights runs/train-seg/exp/weights/best.pt --source test.jpg --img 640

参考

[1] https://github.com/ultralytics/yolov5

• 由于本人水平有限，难免出现错漏，敬请批评改正。
• 更多精彩内容，可点击进入YOLO系列专栏或我的个人主页查看
• YOLOv5：添加SE、CBAM、CoordAtt、ECA注意力机制
• YOLOv5：yolov5s.yaml配置文件解读、增加小目标检测层
• YOLOv5：IoU、GIoU、DIoU、CIoU、EIoU
• YOLOv7训练自己的数据集（口罩检测）
• YOLOv8训练自己的数据集（足球检测）
• 玩转Jetson Nano（五）：TensorRT加速YOLOv5目标检测