关键词:
深度学习训练营之训练自己的数据集
原文链接
- 🍨 本文为🔗365天深度学习训练营 中的学习记录博客
- 🍦 参考文章:365天深度学习训练营-第Y2周:训练自己的数据集
- 🍖 原作者:K同学啊|接辅导、项目定制
环境介绍
- 语言环境:Python3.9.13
- 编译器:vscode
- 深度学习环境:torch
- 显卡:NVIDIA GeForce RTX 3070 Laptop GPU
准备好数据集
我这里采用的数据集是经典的目标检测算法当中的一个数据集,这里附上链接:
文件提取:链接:https://pan.baidu.com/s/1SuNxOTCgrQlqXWK_cRzCZQ
提取码:0909
文件夹下内容:
划分数据集
运行如下命令进行数据集的划分
python split_train_val.py --xml_path D:\\yolov5-master\\yolov5-master\\my_data\\Annotations --txt_path D:\\yolov5-master\\yolov5-master\\my_data\\ImageSets\\Main
原始应该是这样
python split_train_val.py --xml_path xx --txt_path xx
其中xx的地方根据相应的路径进行更改,需要注意到的是运行的路径是函数python split_train_val.py
所在的文件夹下进行运行,否则会报错
在弹出的对话框中进行运行
可以看到已经成功生成了
运行voc_train.py
遇到问题
遇到如下报错unsupported operand type(s) for +: 'builtin_function_or_method' and 'str'
这里所说的意思应该是指不能将type(s)类型的字符加上一个函数或者方法,我简单查看了一些,是我在定义abs_path
的时候漏加括号,导致abs_path
的字符类型出现错误
完整代码
经过调试和更改路径之后得到的代码如下
import xml.etree.ElementTree as ET
import pickle
import os
from os import listdir, getcwd
from os.path import join
sets = ['train','val','test']
# 20类
classes = ["aeroplane", "bicycle", "bird", "boat", "bottle", "bus", "car", "cat", "chair", "cow", "diningtable", "dog",
"horse", "motorbike", "person", "pottedplant", "sheep", "sofa", "train", "tvmonitor"]
abs_path=os.getcwd()
print(abs_path)
# size w,h
# box x-min,x-max,y-min,y-max
def convert(size, box):
dw = 1./size[0]
dh = 1./size[1]
x = (box[0] + box[1])/2.0 -1# 中心点位置
y = (box[2] + box[3])/2.0 -1
w = box[1] - box[0]
h = box[3] - box[2]
x = x *dw
w = w *dw
y = y *dh
h = h *dh # 全部转化为相对坐标
return (x, y, w, h)
def convert_annotation(image_id):
# 找到2个同样的文件
in_file = open('Annotations/%s.xml' % (image_id),encoding='UTF-8')
out_file = open('labels/%s.txt' % (image_id), 'w')
tree = ET.parse(in_file)
root = tree.getroot()
size = root.find('size')
w = int(size.find('width').text)
h = int(size.find('height').text)
for obj in root.iter('object'):
difficult = obj.find('difficult').text
cls = obj.find('name').text
if cls not in classes or int(difficult) == 1: #difficult ==1 的不要了
continue
cls_id = classes.index(cls) # 排在第几位
xmlbox = obj.find('bndbox')
b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
float(xmlbox.find('ymax').text))
# 传入的是w,h 与框框的周边
b1,b2,b3,b4=b
if b2>w:
b2=w
if b4>h:
b4=h
b=(b1,b2,b3,b4)
bb = convert((w, h), b)
out_file.write(str(cls_id) +" "+" ".join([str(a) for a in bb]) + '\\n')
wd = getcwd()
for image_set in sets:
# ('2012', 'train') 循环5次
# 创建目录 一次性
if not os.path.exists('labels/' ):
os.makedirs('labels/')
# 图片的id数据
image_ids = open('ImageSets/Main/%s.txt' % (image_set)).read().strip().split()
# 结果写入这个文件
list_file = open('%s.txt' % (image_set), 'w')
for image_id in image_ids:
list_file.write(abs_path+'/JPEGImages/%s.jpg\\n' % (image_id)) # 补全路径
convert_annotation(image_id)
list_file.close()
(记录一下
:一开始这个最后的JPEGImages没加斜杠,导致后续报错,这里是添加过后的)
运行val_voc.py
可以得到三个txt的文件,其内容如下:
创建new_data.yaml文件
这个文件的名称new_data.yaml
是我自己随便起的一个名字,大家可以自行更改
模型训练时遇到的报错
expected '<document start>', but found '<scalar>'
这里主要的原因是在定义变量的时候我使用的是=
,但是应该用:
错误图片:(这里突然发现这个mydata当中trian和val的名字不一样,导致后面一系列的错误,我后面改完之后就行)
更正以后:
models
文件夹下的用于训练的yolov5s.yaml
把这个原本的分类从80改成20(20是我的数据集的类型)
模型训练
运行如下命令,开始训练
python train.py --img 928 --batch 2 --epoch 10 --data data/new_data.yaml --cfg models/yolov5s.yaml --weights weights/yolov5s.pt
出现以下报错(没有出现就是成功训练啦)
No labels found in D:\\yolov5-master\\yolov5-master\\my_data\\train.cache.
在train.py
当中更改成绝对路径
new_data.yaml也进行修改
更改D:\\yolov5-master\\yolov5-master\\utils
当中的sa
,sb
的路径
开始运行…
结果可视化
运行结果如下
使用wandb可以看到我们的运行结果的一些可视化
参考链接
- yolov5数据读取报错:train: No labels found in /root/yolov5-master/VOCData/dataSet_path/train.cache
- Python编译报错的自我记录
深度学习100例|第53天:用yolov5训练自己的数据集(超级详细完整版)(代码片段)
...收录大家好,我是K同学啊!我们接着上一篇文章深度学习100例|第51天-目标检测算法(YOLOv5)(入门篇)配置完YOLOv5需要的环境后,今天我们试着用YOLOv5训练自己的数据。 查看详情
深度学习目标检测:yolov5实现车辆检测(含车辆检测数据集+训练代码)(代码片段)
深度学习目标检测:YOLOv5实现车辆检测(含车辆检测数据集+训练代码) 目录YOLOv5实现车辆检测(含车辆检测数据集+训练代码)1.前言2.车辆检测数据集说明(1)车辆检测数据集(2)自定义数据集3.基于YOLOv5... 查看详情
深度学习目标检测:yolov5实现车辆检测(含车辆检测数据集+训练代码)(代码片段)
深度学习目标检测:YOLOv5实现车辆检测(含车辆检测数据集+训练代码) 目录YOLOv5实现车辆检测(含车辆检测数据集+训练代码)1.前言2.车辆检测数据集说明(1)车辆检测数据集(2)自定义数据集3.基于YOLOv5... 查看详情
深度学习100例|第53天:用yolov5训练自己的数据集(超级详细完整版)(代码片段)
...收录大家好,我是K同学啊!我们接着上一篇文章深度学习100例|第51天-目标检测算法(YOLOv5)(入门篇)配置完YOLOv5需要的环境后,今天我们试着用YOLOv5训练自己的数据。(在开始本教程前,记... 查看详情
深度学习目标检测:yolov5实现红绿灯检测(含红绿灯数据集+训练代码)(代码片段)
深度学习目标检测:YOLOv5实现红绿灯检测(含红绿灯数据集+训练代码)1.前言本篇博客,我们将手把手教你搭建一个基于YOLOv5的红绿灯目标检测项目。目前,基于YOLOv5s的红绿灯检测精度平均值mAP_0.5=0.93919,mAP_0... 查看详情
深度学习目标检测:yolov5实现红绿灯检测(含红绿灯数据集+训练代码)(代码片段)
深度学习目标检测:YOLOv5实现红绿灯检测(含红绿灯数据集+训练代码)1.前言本篇博客,我们将手把手教你搭建一个基于YOLOv5的红绿灯目标检测项目。目前,基于YOLOv5s的红绿灯检测精度平均值mAP_0.5=0.93919,mAP_0... 查看详情
yolov5详细解读(代码片段)
YOLOV5检测算法详解学习前言本文主要是对基于深度学习的目标检测算法进行细节解读,以YOLOV5为例;基于深度学习的目标检测整体流程基于深度学习的目标检测主要包括训练和测试两个部分。训练阶段训练的目的是利用... 查看详情
[课程][原创]yolov5安装标注训练自己数据集windows版
...地址:搞定系列:yolov5训练自己数据集windows版--深度学习视频教程-人工智能-CSDN程序员研修院开会员学更多课程课程介绍课程目录讨论留言你将收获1、学会如何搭建yolov5环境2、学会如何使用labelImg标注自己的数据集3、学... 查看详情
图像识别之yolov5训练自己的模型(代码片段)
图像识别之Yolov5训练自己的模型文章目录图像识别之Yolov5训练自己的模型一、前言二、对图像进行标注三、数据集的划分四、配置训练的文件1、修改yolov5l.yaml配置文件2、修改coco128.yaml配置文件五、开始训练六、训练结果呈现1、... 查看详情
[深度学习][原创]yolox快速训练自己数据集方法
yolox据说是性能和精度超过yolov5全新设计anchorfree的框架,目前框架还在火热更新中,本文将使用非常简单的步骤即可完成自己模型训练任务。第一步:搭建自己的yolox环境,yolox支持windows和linux大家按照官方教程安装即... 查看详情
深度学习和目标检测系列教程17-300:3个类别面罩检测类别数据集训练yolov5s模型(代码片段)
@Author:RunsenYOLO是目前最火爆的的计算机视觉算法之一,今天使用的数据集来源:https://www.kaggle.com/andrewmvd/face-mask-detection这是数据集可以创建一个模型来检测戴口罩、不戴口罩或不正确戴口罩的人。该数据集包含... 查看详情
[课程][原创]使用yolov5训练自己实例分割模型windows版
...址:搞定系列:yolov5训练自己的实例分割模型windows版--深度学习视频教程-人工智能-CSDN程序员研修院14节节数课程介绍课程目录讨论留言你将收获学会安装yolov5环境学会转换自己实例分割数据集学会如何训练自己实例分割模型... 查看详情
笔记2:yolov5训练自己的目标检测模型_创建并划分数据集(代码片段)
...检测的数据集资源标签的格式都是VOC(xml格式)的,而yolov5训练所需要的文件格式是yolo(txt格式)的,这里就需要对xml格式的标签文件转换为txt文件。同时训练自己的yolov5检测模型的时候,数据集需要划分为训练集和验证 查看详情
深度学习和目标检测系列教程16-300:通过全球小麦数据集训练第一个yolov5模型(代码片段)
@Author:Runsen之前的检测系统重新利用分类器或定位器来执行检测,将模型应用于多个位置和比例的图像。Yolo使用了一种完全不同的方法。它将单个神经网络应用于完整图像。该网络将图像划分为多个区域并预测每个... 查看详情
深度学习资料链接收集
文章目录1.博客1.1太阳花的小绿豆2.细化分类2.1yolov52.1.1[yolov5全解-一文通关](https://www.jianshu.com/p/34b3312b71db)2.1.2[【YOLOv5】详细讲解全过程](https://blog.csdn.net/u013066730/article/details/126068967)2.1.3[深入浅出Yolov5之自有数据集训练超详细教... 查看详情
深度学习资料链接收集
文章目录1.博客1.1太阳花的小绿豆2.细化分类2.1yolov52.1.1[yolov5全解-一文通关](https://www.jianshu.com/p/34b3312b71db)2.1.2[【YOLOv5】详细讲解全过程](https://blog.csdn.net/u013066730/article/details/126068967)2.1.3[深入浅出Yolov5之自有数据集训练超详细教... 查看详情
深度学习训练营之数据增强(代码片段)
深度学习训练营学习内容原文链接环境介绍前置工作设置GPU加载数据创建测试集数据类型查看以及数据归一化数据增强操作使用嵌入model的方法进行数据增强模型训练结果可视化自定义数据增强查看数据增强后的图片学习内容在... 查看详情
「深度学习一遍过」必修28:基于c3d预训练模型训练自己的视频分类数据集的设计与实现(代码片段)
本专栏用于记录关于深度学习的笔记,不光方便自己复习与查阅,同时也希望能给您解决一些关于深度学习的相关问题,并提供一些微不足道的人工神经网络模型设计思路。专栏地址:「深度学习一遍过」必修篇... 查看详情