yoloV3训练自己数据

Bertha 。 2023-06-15 04:54 127阅读 0赞

目录

一、下载YOLO3项目

二、修改makefile配置

三、准备数据集

四、下载预训练权重(未实验)

五、修改3个配置文件

1、cfg/voc.data

2、data/voc.name

3、cfg/yolov3-voc.cfg

六、训练

七、关于训练时打印的日志详解

八、测试


一、下载YOLO3项目

  1. git clone https://github.com/pjreddie/darknet
  2. cd darknet

在 darknet目录下创建 backup 文件夹,后面会用到。

二、修改makefile配置

具体配置参数说明参考:Darknet yolov3 Makefile文件解析

  1. GPU=1
  2. CUDNN=1
  3. OPENCV=0
  4. OPENMP=0
  5. DEBUG=0
  6. ARCH= -gencode arch=compute_30,code=sm_30 \
  7. -gencode arch=compute_35,code=sm_35 \
  8. -gencode arch=compute_50,code=[sm_50,compute_50] \
  9. -gencode arch=compute_52,code=[sm_52,compute_52]
  10. # -gencode arch=compute_20,code=[sm_20,sm_21] \ This one is deprecated?
  11. # This is what I use, uncomment if you know your arch and want to specify
  12. # ARCH= -gencode arch=compute_52,code=compute_52
  13. VPATH=./src/:./examples
  14. SLIB=libdarknet.so
  15. ALIB=libdarknet.a
  16. EXEC=darknet
  17. OBJDIR=./obj/
  18. CC=gcc
  19. CPP=g++
  20. NVCC=/usr/local/cuda/bin/nvcc
  21. AR=ar
  22. ARFLAGS=rcs
  23. OPTS=-Ofast
  24. LDFLAGS= -lm -pthread
  25. COMMON= -Iinclude/ -Isrc/
  26. CFLAGS=-Wall -Wno-unused-result -Wno-unknown-pragmas -Wfatal-errors -fPIC
  27. ifeq ($(OPENMP), 1)
  28. CFLAGS+= -fopenmp
  29. endif
  30. ifeq ($(DEBUG), 1)
  31. OPTS=-O0 -g
  32. endif
  33. CFLAGS+=$(OPTS)
  34. ifeq ($(OPENCV), 1)
  35. COMMON+= -DOPENCV
  36. CFLAGS+= -DOPENCV
  37. LDFLAGS+= `pkg-config --libs opencv` -lstdc++
  38. COMMON+= `pkg-config --cflags opencv`
  39. endif
  40. ifeq ($(GPU), 1)
  41. COMMON+= -DGPU -I/usr/local/cuda/include/
  42. CFLAGS+= -DGPU
  43. LDFLAGS+= -L/usr/local/cuda/lib64 -lcuda -lcudart -lcublas -lcurand
  44. endif
  45. ifeq ($(CUDNN), 1)
  46. COMMON+= -DCUDNN
  47. CFLAGS+= -DCUDNN
  48. LDFLAGS+= -lcudnn
  49. endif
  50. OBJ=gemm.o utils.o cuda.o deconvolutional_layer.o convolutional_layer.o list.o image.o activations.o im2col.o col2im.o blas.o crop_layer.o dropout_layer.o maxpool_layer.o softmax_layer.o data.o matrix.o network.o connected_layer.o cost_layer.o parser.o option_list.o detection_layer.o route_layer.o upsample_layer.o box.o normalization_layer.o avgpool_layer.o layer.o local_layer.o shortcut_layer.o logistic_layer.o activation_layer.o rnn_layer.o gru_layer.o crnn_layer.o demo.o batchnorm_layer.o region_layer.o reorg_layer.o tree.o lstm_layer.o l2norm_layer.o yolo_layer.o iseg_layer.o image_opencv.o
  51. EXECOBJA=captcha.o lsd.o super.o art.o tag.o cifar.o go.o rnn.o segmenter.o regressor.o classifier.o coco.o yolo.o detector.o nightmare.o instance-segmenter.o darknet.o
  52. ifeq ($(GPU), 1)
  53. LDFLAGS+= -lstdc++
  54. OBJ+=convolutional_kernels.o deconvolutional_kernels.o activation_kernels.o im2col_kernels.o col2im_kernels.o blas_kernels.o crop_layer_kernels.o dropout_layer_kernels.o maxpool_layer_kernels.o avgpool_layer_kernels.o
  55. endif
  56. EXECOBJ = $(addprefix $(OBJDIR), $(EXECOBJA))
  57. OBJS = $(addprefix $(OBJDIR), $(OBJ))
  58. DEPS = $(wildcard src/*.h) Makefile include/darknet.h
  59. all: obj backup results $(SLIB) $(ALIB) $(EXEC)
  60. #all: obj results $(SLIB) $(ALIB) $(EXEC)
  61. $(EXEC): $(EXECOBJ) $(ALIB)
  62. $(CC) $(COMMON) $(CFLAGS) $^ -o $@ $(LDFLAGS) $(ALIB)
  63. $(ALIB): $(OBJS)
  64. $(AR) $(ARFLAGS) $@ $^
  65. $(SLIB): $(OBJS)
  66. $(CC) $(CFLAGS) -shared $^ -o $@ $(LDFLAGS)
  67. $(OBJDIR)%.o: %.cpp $(DEPS)
  68. $(CPP) $(COMMON) $(CFLAGS) -c $< -o $@
  69. $(OBJDIR)%.o: %.c $(DEPS)
  70. $(CC) $(COMMON) $(CFLAGS) -c $< -o $@
  71. $(OBJDIR)%.o: %.cu $(DEPS)
  72. $(NVCC) $(ARCH) $(COMMON) --compiler-options "$(CFLAGS)" -c $< -o $@
  73. obj:
  74. mkdir -p obj
  75. backup:
  76. mkdir -p backup
  77. results:
  78. mkdir -p results
  79. .PHONY: clean
  80. clean:
  81. rm -rf $(OBJS) $(SLIB) $(ALIB) $(EXEC) $(EXECOBJ) $(OBJDIR)/*

保存后退出,在当前路径make一下。

三、准备数据集

  1. 在文件夹 darknet_sxp_anchor/scripts/VOC/ 下创建目录结构如下
  2. VOC
  3. ————VOCdevkit
  4. ————————VOC2019 #文件夹的年份可以自己取,但是要与你其他文件年份一致
  5. ————————————Annotations #放入所有的xml文件
  6. ————————————ImageSets
  7. ————————————————Main #用于存放train.txt,val.txt,test.txt,trainval.txt文件。
  8. ————————————JPEGImages #放入所有的图片文件
  9. ————————————test.py #用于生成ImageSets/Main下的txt文件
  10. ————————————labels #文件夹,由voc_label.py文件生成
  11. ————voc_label.py #
  12. Main中的文件分别表示test.txt是测试集,train.txt是训练集,val.txt是验证集,trainval.txt是训练和验证集,

1、将图片处理成所需大小的图片

本文训练数据只有一个分类,使用如下脚本将原始数据处理成所需大小。然后将指定文件放在指定目录下

  1. # -*- coding: utf-8 -*-
  2. import os
  3. import cv2
  4. import hashlib
  5. import numpy as np
  6. from xml.etree.ElementTree import parse, Element
  7. # list =
  8. #查找文件
  9. path=u"image_dir/"
  10. tag='camera_info'
  11. files=os.listdir(path)
  12. file_type=".jpg"
  13. imageSize=[832.0,832.0]
  14. #主逻辑
  15. #对于批量的操作,使用FOR循环
  16. for f in files:
  17. # try :
  18. #调试代码的方法:关键地方打上print语句,判断这一步是不是执行成功
  19. if f.endswith(file_type):
  20. imageFile=path+f
  21. img=cv2.imdecode(np.fromfile(imageFile,dtype=np.uint8),cv2.IMREAD_COLOR)
  22. rateY=img.shape[0]/imageSize[0]
  23. rataX=img.shape[1]/imageSize[1]
  24. print ('rataX = {},rateY = {}'.format(rataX,rateY))
  25. xmlPath=imageFile.replace(file_type,".xml")
  26. dom=parse(xmlPath) ###最核心的部分,路径拼接,输入的是具体路径
  27. root=dom.getroot()
  28. image_info=root.find('size')
  29. image_info.find('width').text=str(int(imageSize[0]))
  30. image_info.find('height').text=str(int(imageSize[1]))
  31. tagobjs=root.findall('object')#.find('name')
  32. nameTag=root.find('object').find('name')
  33. nameTag.text=tag
  34. for obj in tagobjs:
  35. box=obj.find('bndbox')
  36. box.find('xmin').text=str(int(int(box.find('xmin').text)/rataX))
  37. box.find('xmax').text=str(int(int(box.find('xmax').text)/rataX))
  38. box.find('ymin').text=str(int(int(box.find('ymin').text)/rateY))
  39. box.find('ymax').text=str(int(int(box.find('ymax').text)/rateY))
  40. dom.write(xmlPath, xml_declaration=True)
  41. img = cv2.resize(img,(int(imageSize[0]),int(imageSize[1])),interpolation=cv2.INTER_CUBIC)
  42. imageFile=imageFile.replace(file_type,".jpg")
  43. cv2.imencode('.jpg', img)[1].tofile(imageFile)
  44. # # except : print "error"
  45. #
  46. #
  47. #
  48. files=os.listdir(path)
  49. type=tag
  50. file_type=".jpg"
  51. xml_file_type=".xml"
  52. #主逻辑
  53. #对于批量的操作,使用FOR循环
  54. for f in files:
  55. #调试代码的方法:关键地方打上print语句,判断这一步是不是执行成功
  56. if f.endswith(file_type):
  57. #找到老的文件所在的位置
  58. old_file=os.path.join(path,f)
  59. #指定新文件的位置,如果没有使用这个方法,则新文件名生成在本项目的目录中
  60. md5=hashlib.md5(old_file.encode("utf-8")).hexdigest()
  61. md5=str(md5).replace("raw","999")
  62. newName = type+"_"+md5+file_type
  63. new_file=os.path.join(path,newName)
  64. os.rename(old_file,new_file)
  65. old_file=old_file.replace(file_type,".xml")
  66. #指定新文件的位置,如果没有使用这个方法,则新文件名生成在本项目的目录中
  67. newName = type+"_"+md5+xml_file_type
  68. new_file=os.path.join(path,newName)
  69. print('old_file path ={},,new_file path = {}'
  70. .format( old_file,new_file))
  71. os.rename(old_file,new_file)

2、在 VOC2019 下创建 test.py 脚本,使用 test.py 脚本生成 Main 下的 txt 文件

  1. import os
  2. import random
  3. trainval_percent = 0.2
  4. train_percent = 0.8
  5. xmlfilepath = 'Annotations'
  6. txtsavepath = 'ImageSets\Main'
  7. total_xml = os.listdir(xmlfilepath)
  8. num = len(total_xml)
  9. list = range(num)
  10. tv = int(num * trainval_percent)
  11. tr = int(tv * train_percent)
  12. trainval = random.sample(list, tv)
  13. train = random.sample(trainval, tr)
  14. ftrainval = open('ImageSets/Main/trainval.txt', 'w+')
  15. ftest = open('ImageSets/Main/test.txt', 'w+')
  16. ftrain = open('ImageSets/Main/train.txt', 'w+')
  17. fval = open('ImageSets/Main/val.txt', 'w+')
  18. for i in list:
  19. name = total_xml[i][:-4] + '\n'
  20. if i in trainval:
  21. ftrainval.write(name)
  22. if i in train:
  23. ftest.write(name)
  24. else:
  25. fval.write(name)
  26. else:
  27. ftrain.write(name)
  28. ftrainval.close()
  29. ftrain.close()
  30. fval.close()
  31. ftest.close()

3、在 VOC 目录下创建 vol_label.py 脚本

20191120144220619.png

(1)该脚本会在与其同级目录下创建如下文件,产生的文件的内容是:

前四个txt文件:

  • 数据集合与 ImageSets/Main 一 一对应
  • 存放的是对应的图片的绝对路径

后两个txt文件:

前四个不同集合的并集,可以在vocI_label文件中修改

(2)该脚本也会在 /VOC/VOCdevkit/VOC2019 下创建文件夹 labels

用于存放 标签文件,格式如下

  1. 0 0.449074074074 0.679861111111 0.685185185185 0.456944444444
  2. 说明:<object-class> <x> <y> <width> <height>
  3. # encoding: utf-8
  4. """
  5. @author: sunxianpeng
  6. @file: voc_label.py
  7. @time: 2019/11/20 14:23
  8. """
  9. import xml.etree.ElementTree as ET
  10. import pickle
  11. import os
  12. from os import listdir, getcwd
  13. from os.path import join
  14. #这里要与Main中的txt文件一致
  15. sets = [('2019', 'train'), ('2019', 'trainval'), ('2019', 'val'), ('2019', 'test')]
  16. #你所标注的表签名,第一步中已经说过
  17. #classes = ["s","m","l","xl","xxl"]
  18. classes = ["camera_info"]
  19. def convert(size, box):
  20. dw = 1. / (size[0])
  21. dh = 1. / (size[1])
  22. x = (box[0] + box[1]) / 2.0 - 1
  23. y = (box[2] + box[3]) / 2.0 - 1
  24. w = box[1] - box[0]
  25. h = box[3] - box[2]
  26. x = x * dw
  27. w = w * dw
  28. y = y * dh
  29. h = h * dh
  30. return (x, y, w, h)
  31. def convert_annotation(year, image_id):
  32. in_file = open('VOCdevkit/VOC%s/Annotations/%s.xml' % (year, image_id))
  33. out_file = open('VOCdevkit/VOC%s/labels/%s.txt' % (year, image_id), 'w')
  34. tree = ET.parse(in_file)
  35. root = tree.getroot()
  36. size = root.find('size')
  37. w = int(size.find('width').text)
  38. h = int(size.find('height').text)
  39. for obj in root.iter('object'):
  40. difficult = obj.find('difficult').text
  41. cls = obj.find('name').text
  42. if cls not in classes or int(difficult) == 1:
  43. continue
  44. cls_id = classes.index(cls)
  45. xmlbox = obj.find('bndbox')
  46. b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text),
  47. float(xmlbox.find('ymin').text),float(xmlbox.find('ymax').text))
  48. bb = convert((w, h), b)
  49. out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')
  50. wd = getcwd()
  51. for year, image_set in sets:
  52. if not os.path.exists('VOCdevkit/VOC%s/labels/' % (year)):
  53. os.makedirs('VOCdevkit/VOC%s/labels/' % (year))
  54. image_ids = open('VOCdevkit/VOC%s/ImageSets/Main/%s.txt' % (year, image_set))\
  55. .read().strip().split()
  56. list_file = open('%s_%s.txt' % (year, image_set), 'w')
  57. for image_id in image_ids:
  58. list_file.write('%s/VOCdevkit/VOC%s/JPEGImages/%s.jpg\n' % (wd, year, image_id))
  59. convert_annotation(year, image_id)
  60. list_file.close()
  61. print("xx")
  62. #意思是要将生成的文件合并,所以很据需要修改,这里的年份都是一致的,
  63. os.system("cat 2019_train.txt 2019_val.txt 2019_trainval.txt > train.txt")
  64. os.system("cat 2019_train.txt 2019_val.txt 2019_test.txt 2019_trainval.txt > train.all.txt")

四、下载预训练权重(未实验)

  1. wget https://pjreddie.com/media/files/darknet53.conv.74

五、修改3个配置文件

1、cfg/voc.data

进入目录 /work/darknet_sxp_anchor/cfg

  1. #classes为训练样本集的类别总数,第一步中说了我分了1类标签
  2. classes= 1
  3. #classes为训练样本集的类别总数,第一步中说了我分了1类标签
  4. train = /work/darknet_sxp_anchor/scripts/VOC/2019_train.txt
  5. #valid的路径为验证样本集所在的路径,上一步中生成
  6. valid = /work/darknet_sxp_anchor/scripts/VOC/2019_trainval.txt
  7. #names的路径为data/voc.names文件所在的路径
  8. names = data/voc.names
  9. backup = backup

2、data/voc.name

进入目录 /work/darknet_sxp_anchor/data

写入自己的分类名字,前后要对应

  1. camera_info
  2. #s
  3. #m
  4. #l
  5. #xl
  6. #xxl
  7. #修改为自己样本集的标签名即第一步中标注的标签名

3、cfg/yolov3-voc.cfg

进入目录 /work/darknet_sxp_anchor/cfg

Ctrl + F 搜索 yolo,修改其上面的 filters 和其 下面的 classes,共三初地方

  1. [net]
  2. # Testing
  3. #这里的batch跟subdivisions原来不是注释掉的,但是训练后没成功,有的blog上说为1的时候太小难以收
  4. #敛,但是不知道下面训练模式的 batch=64 subdivisions=8 会不会覆盖掉,总之注释掉后就成功了,不过
  5. #这个脚本不是很明白,还来不及验证
  6. # batch=1
  7. # subdivisions=1
  8. # Training
  9. batch=64
  10. subdivisions=8
  11. ......
  12. [convolutional]
  13. size=1
  14. stride=1
  15. pad=1
  16. filters=18 #---------------修改为3*(classes+5)即3*(5+5)=30
  17. activation=linear
  18. [yolo]
  19. mask = 6,7,8
  20. anchors = 10,13, 16,30, 33,23, 30,61, 62,45, 59,119, 116,90, 156,198, 373,326
  21. classes=1 #---------------修改为标签类别个数,5类
  22. num=9
  23. jitter=.3
  24. ignore_thresh = .5
  25. truth_thresh = 1
  26. random=0 #1,如果显存很小,将random设置为0,关闭多尺度训练;(转自别的blog,还不太明白)
  27. ......
  28. [convolutional]
  29. size=1
  30. stride=1
  31. pad=1
  32. filters=18 #---------------修改同上
  33. activation=linear
  34. [yolo]
  35. mask = 3,4,5
  36. anchors = 10,13, 16,30, 33,23, 30,61, 62,45, 59,119, 116,90, 156,198, 373,326
  37. classes=1 #---------------修改同上
  38. num=9
  39. jitter=.3
  40. ignore_thresh = .5
  41. truth_thresh = 1
  42. random=0
  43. ......
  44. [convolutional]
  45. size=1
  46. stride=1
  47. pad=1
  48. filters=18 #---------------修改同上
  49. activation=linear
  50. [yolo]
  51. mask = 0,1,2
  52. anchors = 10,13, 16,30, 33,23, 30,61, 62,45, 59,119, 116,90, 156,198, 373,326
  53. classes=1 #---------------修改同上
  54. num=9
  55. jitter=.3
  56. ignore_thresh = .5
  57. truth_thresh = 1
  58. random=0

六、训练

  1. 1、普通训练
  2. ./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg darknet53.conv.74
  3. 2、若想使用多个GPU训练
  4. ./darknet detector train cfg/coco.data cfg/yolov3.cfg darknet53.conv.74 -gpus 0,1,2,3
  5. 或者
  6. ./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg darknet53.conv.74 -gpus 0,1,2,3
  7. 3、如终止训练,权重会保存在backup文件夹下。如果要从检查点停止并重新启动训练
  8. ./darknet detector train cfg/coco.data cfg/yolov3.cfg backup/yolov3.backup -gpus 0,1,2,3
  9. 或者
  10. ./darknet detector train cfg/voc.data cfg/yolov3-voc.cfg backup/yolov3.backup -gpus 0,1,2,3

七、关于训练时打印的日志详解

  1. Region 82 Avg IOU: 0.874546, Class: 0.983519, Obj: 0.984566, No Obj: 0.008776, .5R: 1.000000, .75R: 0.750000, count: 4
  2. Region 94 Avg IOU: 0.686372, Class: 0.878314, Obj: 0.475262, No Obj: 0.000712, .5R: 1.000000, .75R: 0.200000, count: 5
  3. Region 106 Avg IOU: 0.893751, Class: 0.762553, Obj: 0.388385, No Obj: 0.000089, .5R: 1.000000, .75R: 1.000000, count: 1

三个尺度上预测不同大小的框,

  • 82卷积层为最大预测尺度,使用较大的mask,可以预测出较小的物体。
  • 94卷积层 为中间预测尺度,使用中等的mask。
  • 106卷积层为最小预测尺度,使用较小的mask,可以预测出较大的物体。

    Region 82 Avg IOU: 0.874546, Class: 0.983519, Obj: 0.984566,

    1. No Obj: 0.008776, .5R: 1.000000, .75R: 0.750000, count: 4
  • Region Avg IOU: 表示在当前subdivision内的图片的平均IOU,代表预测的矩形框和真实目标的交集与并集之比。

  • Class: 标注物体分类的正确率,期望该值趋近于1。
  • Obj: 越接近1越好。
  • No Obj: 期望该值越来越小,但不为零。
  • count: count后的值是所有的当前subdivision图片中包含正样本的图片的数量。

八、测试

  1. cd /work/darknet_sxp_anchor/
  2. ./darknet detect cfg/yolov3.cfg yolov3.weights data/one.jpg
  3. ./darknet detect cfg/yolov3-voc-test.cfg backup/yolov3-voc.backup scripts/
  4. VOC/VOCdevkit/VOC2019/JPEGImages/name.jpg
  5. ./darknet detect cfg/yolov3-voc-test.cfg backup/yolov3-voc.backup scripts/
  6. VOC/VOCdevkit/VOC2019/JPEGImages/name.jpg -gpus 2

发表评论

表情:
评论列表 (有 0 条评论,127人围观)

还没有评论,来说两句吧...

相关阅读