yolov5全面解析教程⑥：模型训练流程详解

关键词：

作者 | Fengwen、BBuf
 

欢迎Star、试用One-YOLOv5：

https://github.com/Oneflow-Inc/one-yolov5

1

结构项目预览

 

2

安装

git clone https://github.com/Oneflow-Inc/one-yolov5  # clone
cd one-yolov5
pip install -r requirements.txt  # install

3

训练

两种训练方式

1. 带权重训练 

$ python path/to/train.py --data coco.yaml --weights yolov5s --img 640

2. 不带权重训练 

$ python path/to/train.py --data coco.yaml --weights '' --cfg yolov5s.yaml --img 640

单GPU训练

$ python train.py  --data coco.yaml --weights yolov5s --device 0

多GPU训练

$ python -m oneflow.distributed.launch --nproc_per_node 2 train.py --batch 64 --data coco.yaml --weights yolov5s --device 0,1

注意：
 

• --nproc_per_node  指定要使用多少GPU。举个例子:在上面多GPU训练指令中它是2。

• --batch 是总批量大小。它将平均分配给每个GPU。在上面的示例中，每GPU是64/2＝32。

• --cfg : 指定一个包含所有评估参数的配置文件。

• 上面的代码默认使用GPU 0…（N-1）。使用特定的GPU？可以通过简单在 --device 后跟指定GPU来实现。「案例」，在下面的代码中，我们将使用GPU 2,3。

$ python -m oneflow.distributed.launch --nproc_per_node 2 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights '' --device 2,3

恢复训练

如果你的训练进程中断了，你可以这样恢复先前的训练进程。

# 多卡训练.
python -m oneflow.distributed.launch --nproc_per_node 2 train.py --resume

你也可以通过 --resume 参数指定要恢复的模型路径。

# 记得把 /path/to/your/checkpoint/path  替换为你要恢复训练的模型权重路径
--resume /path/to/your/checkpoint/path

使用SyncBatchNorm

SyncBatchNorm可以提高多gpu训练的准确性，但会显著降低训练速度。它仅适用于多GPU DistributedDataParallel 训练。建议最好在每个GPU上的样本数量较小（样本数量<=8）时使用。

要使用SyncBatchNorm，只需将添加 --sync-bn 参数选项，具体「案例」如下:

$ python -m oneflow.distributed.launch --nproc_per_node 2 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights '' --sync-bn

4

评估

下面的命令是在COCO val2017数据集上以640像素的图像大小测试 yolov5x 模型。yolov5x是可用小模型中最大且最精确的，其它可用选项是 yolov5n ，yolov5m，yolov5s，yolov5l ，以及他们的 P6 对应项比如 yolov5s6 ，或者你自定义的模型，即 runs/exp/weights/best 。

$ python val.py --weights yolov5x --data coco.yaml --img 640

5

推理

首先，下载一个训练好的模型权重文件，或选择你自己训练的模型；然后，通过 detect.py文件进行推理。

python path/to/detect.py --weights yolov5s --source 0              # webcam
                                                    img.jpg        # image
                                                    vid.mp4        # video
                                                    path/          # directory
                                                    path/*.jpg     # glob
                                                    'https://youtu.be/Zgi9g1ksQHc'  # YouTube
                                                    'rtsp://example.com/media.mp4'  # RTSP, RTMP, HTTP stream

6

训练结果

本地日志

默认情况下，所有结果都记录为runs/train，并为每个新训练创建一个新的训练结果目录，如runs/train/exp2、runs/train/exp3等。查看训练和测试JPG以查看 mosaics, labels, predictions and augmentation 效果。注意：Mosaic Dataloader 用于训练（如下所示），这是Ultralytics发表的新概念，首次出现在YOLOv4中。

train_batch0.jpg 显示 batch 为 0 的 (mosaics and labels):

val_batch0_labels.jpg 展示测试 batch 为 0 的labels:

val_batch0_pred.jpg 展示测试 batch 为 0 predictions(预测):

训练训损失和性能的指标有记录到Tensorboard和自定义结果中results.csv日志文件，训练训完成后作为结果绘制 results.png如下。在这里，我们展示了在COCO128上训练的YOLOV5结果

• 从零开始训练 (蓝色)。

• 加载预训练权重 --weights yolov5s (橙色)。

具体的指标分析详见文章《模型精确度评估》

7

训练技巧

声明：大多数情况下，只要数据集足够大且标记良好，就可以在不改变模型或训练设置的情况下获得良好的结果。如果一开始你没有得到好的结果，你可以采取一些步骤来改进，但我们始终建议用户在考虑任何更改之前先使用所有默认设置进行一次训练。这有助于建立评估基准和发现需要改进的地方。

模型选择

类似于YOLOv5x和YOLOv5x6的大型模型在几乎所有情况下都会产生更好的结果，但参数更多，需要更多的CUDA内存进行训练，运行速度较慢。

对于移动部署，我们推荐YOLOv5s/m，对于云部署，我们建议YOLOV5l/x。

（有关所有模型的完整比较）
 

• 从预先训练的权重开始训练。建议用于中小型数据集（即VOC、VisDrone、GlobalWheat）。将模型的名称传递给--weights参数。模型自动从latest YOLOv5 releasse 下载 。

python train.py --data custom.yaml --weights yolov5s 
                                             yolov5m 
                                             yolov5l 
                                             yolov5x 
                                             custom_pretrained # 自定义的网络结构文件

• 从头开始训练的话，推荐用大的数据集(即 COCO、Objects365、OIv6 )在 --cfg 选项后传递你感兴趣的网络结构文件参数 以及空的 --weights '' 参数：

python train.py --data custom.yaml --weights '' --cfg yolov5s.yaml
                                                      yolov5m.yaml
                                                      yolov5l.yaml
                                                      yolov5x.yaml

训练配置

在修改任何内容之前，首先使用默认设置进行训练，以建立性能基线。训练参数的完整列表,能够在train.py文件中发现。

• Epochs : 默认训练300个epochs。如果早期过拟合，则可以减少训练。如果在300个周期后未发生过拟合，则可以训练更长，比如600、1200个epochs。

• Image size: COCO以 --img 640,的分辨率进行训练，但由于数据集中有大量的小对象，它可以从更高分辨率（如--img 1280）的训练中训练。如果有许多小对象，则自定义数据集将从更高分辨率的训练中获益。最好的推断结果是在相同的--img 处获得的 ，即如果在-img 1280处进行训练，也应该在--img 1280处进行测试和检测。

• Batch Size: 使用更大的 --batch-size 。能够有效缓解小样本数产生的batchnorm统计的错误。

• Hyperparameters：默认超参数在hyp.scratch-low.yaml文件中。我们建议你在考虑修改任何超参数之前，先使用默认超参数进行训练。一般来说，增加增强超参数将减少和延迟过度拟合，允许更长的训练和得到更高mAP值。减少损耗分量增益超参数，如hyp['obj']，将有助于减少这些特定损耗分量中的过度拟合。有关优化这些超参数的自动化方法，请参阅我们的  《超参数演化教程》。

• ...更多训练的超参数配置请查看本文的附录。

8

拓展 

使用多机训练

这仅适用于多GPU分布式数据并行训练。

在训练之前，确保所有机器上的文件都相同，数据集、代码库等。之后，确保机器可以相互通信。

你必须选择一台主机器（其他机器将与之对话）。记下它的地址（master_addr）并选择一个端口（master-port）。对于下面的示例，将使用master_addr=192.168.1.1和master_ port=1234。

要使用它，可以执行以下指令：

# On master machine 0
$ python -m oneflow.distributed.launch --nproc_per_node G --nnodes N --node_rank 0 --master_addr "192.168.1.1" --master_port 1234 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights ''

# On machine R
$ python -m oneflow.distributed.launch --nproc_per_node G --nnodes N --node_rank R --master_addr "192.168.1.1" --master_port 1234 train.py --batch 64 --data coco.yaml --cfg yolov5s.yaml --weights ''

其中G是每台机器的GPU数量，N是机器数量，R是从0到（N-1）的机器数量。

假设我有两台机器，每台机器有两个GPU，对于上面的情况，G=2，N=2，R=1。

在连接所有N台机器之前，训练不会开始。输出将仅显示在主机上！

‍

注意：

• oneflow目前不支持windows平台

• --batch 必须是GPU数量的倍数。

• GPU 0 将比其他GPU占用略多的内存，因为它维护EMA并负责检查点等。

• 如果你得到 RuntimeError: Address already in use ，可能是因为你一次正在运行多个训练程序。要解决这个问题，只需通过添加--master_port来使用不同的端口号，如下所示

$ python -m oneflow.distributed.launch --master_port 1234 --nproc_per_node 2 ...

配置代码

# prepare
t=https://github.com/Oneflow-Inc/one-yolov5:latest && sudo docker pull $t && sudo docker run -it --ipc=host --gpus all -v "$(pwd)"/coco:/usr/src/coco $t
pip install --pre oneflow -f https://staging.oneflow.info/branch/master/cu112
cd .. && rm -rf app && git clone https://github.com/Oneflow-Inc/one-yolov5 -b master app && cd app
cp data/coco.yaml data/coco_profile.yaml

# profile
python train.py --batch-size 16 --data coco_profile.yaml --weights yolov5l  --epochs 1 --device 0 
python -m oneflow.distributed.launch --nproc_per_node 2 train.py --batch-size 32 --data coco_profile.yaml --weights yolov5l  --epochs 1 --device 0,1   
python -m oneflow.distributed.launch --nproc_per_node 4 train.py --batch-size 64 --data coco_profile.yaml --weights yolov5l  --epochs 1 --device 0,1,2,3  
python -m oneflow.distributed.launch --nproc_per_node 8 train.py --batch-size 128 --data coco_profile.yaml --weights yolov5l  --epochs 1 --device 0,1,2,3,4,5,6,7

附件

train.py参数解析表

参数	help	帮助
--weight	initial weights path	加载的权重文件路径
--cfg	model.yaml path	模型配置文件，网络结构 路径
--data	dataset.yaml path	数据集配置文件，数据集路径
--hyp	hyperparameters path	超参数文件 路径
--epochs	Total training rounds	训练总轮次
--batch-size	total batch size for all GPUs, -1 for autobatch	一次训练所选取的样本数
--imgsz	train, val image size (pixels)	输入图片分辨率大小
--rect	rectangular training	是否采用矩形训练，默认False
--resume	resume most recent training	接着打断训练上次的结果接着训练
--nosave	only save final checkpoint	只保存最终的模型，默认False
--noautoanchor	disable AutoAnchor	不自动调整anchor，默认False
--noplots	save no plot files	不保存打印文件，默认False
--evolve	evolve hyperparameters for x generations	是否进行超参数进化，默认False
--bucket	gsutil bucket	谷歌云盘bucket，一般不会用到
--cache	--cache images in "ram" (default) or "disk"	是否提前缓存图片到内存，以加快训练速度，默认False
--device	cuda device, i.e. 0 or 0,1,2,3 or cpu	训练的设备，cpu；0(表示一个gpu设备cuda:0)；0,1,2,3(多个gpu设备)
--multi-scale	vary img-size +/- 50%%	是否进行多尺度训练，默认False
--single-cls	train multi-class data as single-class	数据集是否只有一个类别，默认False
--optimizer	optimizer	优化器
--sync-bn	use SyncBatchNorm, only available in DDP mode	是否使用跨卡同步BN,在DDP模式使用
--workers	max dataloader workers (per RANK in DDP mode)	dataloader的最大worker数量
--project	save to project path	保存到项目结果地址
--name	save to project/name/	保存到项目结果/名称
--exist-ok	existing project/name ok, do not increment	现有项目/名称确定，不递增，默认False
--quad	quad dataloader	四元数据加载器 开启之后在尺寸大于640的图像上识别效果更好，但是有可能会使在640尺寸的图片上效果更差
--cos-lr	cosine LR scheduler	是否采用退火余弦学习率，默认False
--label-smoothing	Label smoothing epsilon	标签平滑
--patience	EarlyStopping patience (epochs without improvement)	早停机制，默认False
--freez	Freeze layers: backbone=10, first3=0 1 2	冻结层数，默认不冻结
--save-period	Save checkpoint every x epochs (disabled if < 1)	用于记录训练日志信息，int 型，默认 -1
--seed	Global training seed	随机数种子设置
--local_rank	Automatic DDP Multi-GPU argument, do not modify	自动单机多卡训练 一般不改动

Reference

• https://github.com/ultralytics/yolov5/wiki/Train-Custom-Data

• https://docs.ultralytics.com/quick-start/

其他人都在看

• GPT-3/ChatGPT复现的经验教训

• 超越ChatGPT：大模型的智能极限

• YOLOv5解析教程:计算mAP用到的Numpy函数

• ChatGPT作者Schulman：我们成功的秘密武器

• 比快更快，开源Stable Diffusion刷新作图速度

• OneEmbedding:单卡训练TB级推荐模型不是梦

• GLM训练加速：性能最高提升3倍，显存节省1/3

欢迎Star、试用OneFlow新版本：GitHub - Oneflow-Inc/oneflow: OneFlow is a deep learning framework designed to be user-friendly, scalable and efficient.OneFlow is a deep learning framework designed to be user-friendly, scalable and efficient. - GitHub - Oneflow-Inc/oneflow: OneFlow is a deep learning framework designed to be user-friendly, scalable and efficient.https://github.com/Oneflow-Inc/oneflow/

Disable checkingPremium suggestions

一个更快的yolov5问世，附送全面中文解析教程

...模型的可行性以及性能的优越性，我们将Ultralytics版YOLOv5（https://github.com/ultralytics/yolov5）通过importoneflowastorch的方式迁移为OneFlow后端（对应YOLOv5的commit为：48a85314bc80d8023c99bfb114cea98d71dd0591）。相比PyTorch，... 查看详情

yolov5全面解析教程⑤：计算map用到的numpy函数详解

作者| Fengwen、BBuf本文主要介绍在One-YOLOv5项目中计算mAP用到的一些numpy操作，这些numpy操作使用在utils/metrics.py中。本文是《YOLOv5全面解析教程④：目标检测模型精确度评估》的补充，希望能帮助到小伙伴们。欢迎Star、... 查看详情

yolov5——train.py代码注释详解使用教程(代码片段)

yolov5——train.py代码【注释、详解、使用教程】yolov5——train.py代码【注释、详解、使用教程】yolov5——train.py代码【注释、详解、使用教程】前言1.parse_opt函数2.main函数2.1main函数——打印关键词/安装环境2.2main函数——是否进行... 查看详情

yolov5改进技巧详解(代码片段)

本文以yolov5-7.0的代码进行讲解yolov5的改进技巧。1.使用yolov5-p6以及yolov5-p7模型yolov5官方实现的代码，提供了多种架构的模型配置文件，包括:yolov3-spp,yolov5-bifpn,yolov5-p6,yolov5-p7,yolov5-panet,yolov5-transformer如果想训练不同架构的模型，... 查看详情

博客3：yolov5车牌识别实战教程：模型训练与评估(代码片段)

摘要：本篇博客将详细介绍如何使用YOLOv5进行车牌识别模型的训练与评估。我们将搭建训练环境、准备数据、配置模型参数、启动训练过程，以及使用验证集评估模型性能。车牌识别视频正文：3.1搭建训练环境 首先，我们需... 查看详情

yolov5全面解析教程④：目标检测模型精确度评估

...仓库地址，欢迎Star：https://github.com/Oneflow-Inc/one-yolov51指标评估（一些重要的定义）IOU(IntersectionOverUnion) 基于Jaccard索引，用于评估两个边界框之间的重叠程度。它需要一个真实回归框(agroundtruthboundingbox) 和一... 查看详情

stablediffusion半秒出图；vliw的前世今生；yolov5全面解析教程|ai系统前沿动态

 1.StableDiffusion采样速度翻倍！仅需10到25步的扩散模型采样算法自研深度学习编译器技术的OneFlow团队更是在不降低采样效果的前提下，成功将之前的“一秒出图”缩短到了“半秒出图”！在GPU上仅仅使用不到0.5秒就可... 查看详情

yolov5解析|第二篇：用yolov5训练自己的数据集（超级详细完整版）(代码片段)

大家好，我是K同学啊！我们接着上一篇文章YOLOv5解析|第一篇：快速部署YOLOv5模型配置完YOLOv5需要的环境后，今天我们试着用YOLOv5训练自己的数据。（在开始本教程前，记得先跑一遍入门篇，确保其他... 查看详情

yolov5解析|第二篇：用yolov5训练自己的数据集（超级详细完整版）(代码片段)

大家好，我是K同学啊！我们接着上一篇文章YOLOv5解析|第一篇：快速部署YOLOv5模型配置完YOLOv5需要的环境后，今天我们试着用YOLOv5训练自己的数据。（在开始本教程前，记得先跑一遍入门篇，确保其他... 查看详情

yolov5坐标相关的判断与转换，评价指标，训练结果解析

文章大纲工程化实现为什么推荐yolov5yolo坐标归一化像素坐标转yoloyolo坐标转像素坐标yolov5坐标的输出，抠图评价指标训练与模型优化参考文献与学习路径工程化实现为什么推荐yolov5可以看看下面的issue，这是我在使用中发现的，y... 查看详情

yolov5坐标相关的判断与转换，评价指标，训练结果解析

文章大纲工程化实现为什么推荐yolov5yolo坐标归一化像素坐标转yoloyolo坐标转像素坐标yolov5坐标的输出，抠图评价指标训练与模型优化参考文献与学习路径工程化实现为什么推荐yolov5可以看看下面的issue，这是我在使用中发现的，y... 查看详情

深度学习目标检测---使用yolov5训练自己的数据集模型（windows系统）(代码片段)

目录0   前言1、从githab上克隆yolov5代码1.1yolov5网络project克隆1.2项目代码结构的整体介绍1.3深度学习环境的配置和安装yolov5所需要的库2、数据集和预训练权重的准备2.1利用labelimg对数据进行标注和划分2.2下载预训练权重 3、训练... 查看详情

全流程从头在树莓派4b上部署自己训练的yolov5模型（配合ncs2加速）(代码片段)

目录0.前言1.我的环境2.整个流程3.具体过程3.1训练自己的yolov5模型3.2将.pt模型转换为.onnx模型3.3在本地将.onnx转换成IR模型3.4在树莓派4B上使用IR模型推理4.一些坑4.1树莓派4B上安装pytorch4.2安装好了pytorch没法用4.3模型转换失败4.4转换... 查看详情

使用ymir生产基于yolov5的头盔检测模型

使用YMIR生产基于yolov5的头盔检测模型1.概述2.YOLOV5结构解析YOLOV5在coco数据集性能测试图3.算法基本信息动手实测查看训练、测试数据集模型训练启动页面模型运行中性能、进度曲线变化启动训练任务后即可查看训练过程模型发布... 查看详情

[yolo专题-22]：yolov5-ultralytics代码解析-超参数详解(代码片段)

...如何指定超参数配置文件第2章超参数内容详解前言：YOLOV5除了通过用户命令行参数来控制模型的训练和模型的预测，YOLOV5的工程代码，还提供了超参数配置文件来控制对模型的训练和预测过程。通常情况下，这些... 查看详情

[课程][原创]使用yolov5训练自己实例分割模型windows版

搞定系列:yolov5训练自己的实例分割模型windows版课程地址：搞定系列:yolov5训练自己的实例分割模型windows版--深度学习视频教程-人工智能-CSDN程序员研修院14节节数课程介绍课程目录讨论留言你将收获学会安装yolov5环境学会转... 查看详情

深度学习和目标检测系列教程17-300：3个类别面罩检测类别数据集训练yolov5s模型(代码片段)

@Author：RunsenYOLO是目前最火爆的的计算机视觉算法之一，今天使用的数据集来源：https://www.kaggle.com/andrewmvd/face-mask-detection这是数据集可以创建一个模型来检测戴口罩、不戴口罩或不正确戴口罩的人。该数据集包含... 查看详情

深度学习和目标检测系列教程17-300：3个类别面罩检测类别数据集训练yolov5s模型(代码片段)

@Author：RunsenYOLO是目前最火爆的的计算机视觉算法之一，今天使用的数据集来源：https://www.kaggle.com/andrewmvd/face-mask-detection这是数据集可以创建一个模型来检测戴口罩、不戴口罩或不正确戴口罩的人。该数据集包含... 查看详情