caffe之训练数据格式-蒲公英云

原文地址：http://blog.csdn.net/hjimce/article/details/49248231

作者：hjimce

caffe对于训练数据格式，支持：lmdb、![Image 1][]![Image 1][]h5py……，其中lmdb数据格式常用于单标签数据，像分类等，经常使用lmdb的数据格式。对于回归等问题，或者多标签数据，一般使用h5py数据的格式。当然好像还有其它格式的数据可用，不过我一般使用这两种数据格式，因此本文就主要针对这两种数据格式的制作方法，进行简单讲解。

一、lmdb数据

lmdb用于单标签数据。为了简单起见，我后面通过一个性别分类作为例子，进行相关数据制作讲解。

１、数据准备

首先我们要准备好训练数据，然后新建一个名为train的文件夹和一个val的文件夹：

Center

train文件存放训练数据，val文件存放验证数据。然后我们在train文件下面，把训练数据性别为男、女图片各放在一个文件夹下面：

Center 1

同样的我们在val文件下面也创建文件夹：

Center 2

两个文件也是分别存我们用于验证的图片数据男女性别文件。我们在test_female下面存放了都是女性的图片，然后在test_male下面存放的都是验证数据的男性图片。

２、标签文件.txt文件制作.

接着我们需要制作一个train.txt、val.txt文件，这两个文件分别包含了我们上面的训练数据的图片路径，以及其对应的标签，如下所示。

Center 3

我们把女生图片标号为１，男生图片标记为０。标签数据文件txt的生成可以通过如下代码，通过扫描路径男、女性别下面的图片，得到标签文件train.txt和val.txt：

[python] view plain copy

import os
import numpy as np
from matplotlib import pyplot as plt
import cv2
import shutil
#扫面文件
def GetFileList(FindPath,FlagStr=[]):
import os
FileList=[]
FileNames=os.listdir(FindPath)
if len(FileNames)>0:
for fn in FileNames:
if len(FlagStr)>0:
if IsSubString(FlagStr,fn):
fullfilename=os.path.join(FindPath,fn)
FileList.append(fullfilename)
else:
fullfilename=os.path.join(FindPath,fn)
FileList.append(fullfilename)
if len(FileList)>0:
FileList.sort()
return FileList
def IsSubString(SubStrList,Str):
flag=True
for substr in SubStrList:
if**not(substr in** Str):
flag=False
return flag
txt=open(‘train.txt’,’w’)
#制作标签数据，如果是男的，标签设置为０，如果是女的标签为１
imgfile=GetFileList(‘first_batch/train_female’)
for img in imgfile:
str=img+’\t’+‘1’+‘\n’
txt.writelines(str)
imgfile=GetFileList(‘first_batch/train_male’)
for img in imgfile:
str=img+’\t’+‘0’+‘\n’
txt.writelines(str)
txt.close()

把生成的标签文件，和train\val文件夹放在同一个目录下面：

Center 4

需要注意，我们标签数据文件里的文件路径和图片的路径要对应的起来，比如val.txt文件的某一行的图片路径，是否在val文件夹下面：

Center 5

３、生成lmdb数据

接着我们的目的就是要通过上面的四个文件，把图片的数据和其对应的标签打包起来，打包成lmdb数据格式，打包脚本如下：

[python] view plain copy

#!/usr/bin/env sh
# Create the imagenet lmdb inputs
# N.B. set the path to the imagenet train + val data dirs
EXAMPLE=. # 生成模型训练数据文化夹
TOOLS=／/../build/tools # caffe的工具库，不用变
DATA=. # python脚步处理后数据路径
TRAIN_DATA_ROOT=train/ #待处理的训练数据
VAL_DATA_ROOT=val/ # 带处理的验证数据
# Set RESIZE=true to resize the images to 256x256. Leave as false if images have
# already been resized using another tool.
RESIZE=true#是否需要对图片进行resize
if $RESIZE; then
RESIZE_HEIGHT=256
RESIZE_WIDTH=256
else
RESIZE_HEIGHT=0
RESIZE_WIDTH=0
fi
if [ ! -d “$TRAIN_DATA_ROOT” ]; then
echo “Error: TRAIN_DATA_ROOT is not a path to a directory: $TRAIN_DATA_ROOT”
echo “Set the TRAIN_DATA_ROOT variable in create_imagenet.sh to the path” \
“where the ImageNet training data is stored.”
exit 1
fi
if [ ! -d “$VAL_DATA_ROOT” ]; then
echo “Error: VAL_DATA_ROOT is not a path to a directory: $VAL_DATA_ROOT”
echo “Set the VAL_DATA_ROOT variable in create_imagenet.sh to the path” \
“where the ImageNet validation data is stored.”
exit 1
fi
echo “Creating train lmdb…”
GLOG_logtostderr=1 $TOOLS/convert_imageset \
--resize_height=$RESIZE_HEIGHT \
--resize_width=$RESIZE_WIDTH \
--shuffle \
$TRAIN_DATA_ROOT \
$DATA/train.txt \
$EXAMPLE/train_lmdb
echo “Creating val lmdb…”
GLOG_logtostderr=1 $TOOLS/convert_imageset \
--resize_height=$RESIZE_HEIGHT \
--resize_width=$RESIZE_WIDTH \
--shuffle \
$VAL_DATA_ROOT \
$DATA/val.txt \
$EXAMPLE/val_lmdb
echo “Done.”

通过运行上面的脚本，我们即将得到文件夹train_lmdb\val_lmdb：

Center 6

我们打开train_lmdb文件夹

Center 7

并查看一下文件data.mdb数据的大小，如果这个数据包好了我们所有的训练图片数据，查一下这个文件的大小是否符合预期大小，如果文件的大小才几k而已，那么就代表你没有打包成功，估计是因为路径设置错误。我们也可以通过如下的代码读取上面打包好的数据，把图片、和标签打印出来，查看一下，查看lmdb数据请参考下面的代码：

python lmdb数据验证：

[python] view plain copy

# coding=utf-8
caffe_root = ‘/home/hjimce/caffe/‘
import sys
sys.path.insert(0, caffe_root + ‘python’)
import caffe
import os
import lmdb
import numpy
import matplotlib.pyplot as plt
def readlmdb(path,visualize = False):
env = lmdb.open(path, readonly=True,lock=False)
datum = caffe.proto.caffe_pb2.Datum()
x=[]
y=[]
with env.begin() as txn:
cur = txn.cursor()
for key, value in cur:
# 转换为datum
datum.ParseFromString(value)
# 读取datum数据
img_data = numpy.array(bytearray(datum.data))\
.reshape(datum.channels, datum.height, datum.width)
print img_data.shape
x.append(img_data)
y.append(datum.label)
if visualize:
img_data=img_data.transpose([1,2,0])
img_data = img_data[:, :, ::-1]
plt.imshow(img_data)
plt.show()
print datum.label
return x,y

通过上面的函数，我们可以是读取相关的lmdb数据文件。

４、制作均值文件。

这个是为了图片归一化而生成的图片平均值文件，把所有的图片相加起来，做平均，具体的脚本如下：

[python] view plain copy

#!/usr/bin/env sh
# Compute the mean image from the imagenet training lmdb
# N.B. this is available in data/ilsvrc12
EXAMPLE=.
DATA=train
TOOLS=../../build/tools
$TOOLS/compute_image_mean $EXAMPLE/train_lmdb \　　＃train_lmdb是我们上面打包好的lmdb数据文件
$DATA/imagenet_mean.binaryproto
echo “Done.”

运行这个脚本，我们就可以训练图片均值文件：imagenet_mean.binaryproto

至此，我们得到了三个文件：imagenet_mean.binaryproto、train_lmdb、val_lmdb，这三个文件就是我们最后打包好的数据，这些数据我们即将作为caffe的数据输入数据格式文件，把这三个文件拷贝出来，就可以把原来还没有打包好的数据删了。这三个文件，我们在caffe的网络结构文件，数据层定义输入数据的时候，就会用到了：

[python] view plain copy

name: “CaffeNet”
layers {
name: “data”
type: DATA
top: “data”
top: “label”
data_param {
source: “train_lmdb”＃lmbd格式的训练数据
backend: LMDB
batch_size: 50
}
transform_param {
crop_size: 227
mirror: true
mean_file:”imagenet_mean.binaryproto”＃均值文件
}
include: { phase: TRAIN }
}
layers {
name: “data”
type: DATA
top: “data”
top: “label”
data_param {
source: “val_lmdb”＃lmdb格式的验证数据
backend: LMDB
batch_size: 50
}
transform_param {
crop_size: 227
mirror: false
mean_file:”imagenet_mean.binaryproto”＃均值文件
}
include: { phase: TEST }
}

二、h5py格式数据

上面的lmdb一般用于单标签数据，图片分类的时候，大部分用lmdb格式。然而假设我们要搞的项目是人脸特征点识别，我们要识别出68个人脸特征点，也就是相当于136维的输出向量。网上查了一下，对于caffe多标签输出，需要使用h5py格式的数据，而且使用h5py的数据格式的时候，caffe是不能使用数据扩充进行相关的数据变换的，很是悲剧啊，所以如果caffe使用h5py数据格式的话，需要自己在外部，进行数据扩充，数据归一化等相关的数据预处理操作。

1、h5py数据格式生成

下面演示一下数据h5py数据格式的制作：

[python] view plain copy

# coding: utf-8
caffe_root = ‘/home/hjimce/caffe/‘
import sys
sys.path.insert(0, caffe_root + ‘python’)
import os
import cv2
import numpy as np
import h5py
from common import shuffle_in_unison_scary, processImage
import matplotlib.pyplot as plt
def readdata(filepath):
fr=open(filepath,’r’)
filesplit=[]
for line in fr.readlines():
s=line.split()
s[1:]=[float(x) for x in s[1:]]
filesplit.append(s)
fr.close()
return filesplit
#因为我们的训练数据可能不是正方形，然而网络的输入的大小是正方形图片，为了避免强制resize引起的图片扭曲，所以我们采用填充的方法
def sqrtimg(img):
height,width=img.shape[:2]
maxlenght=max(height,width)
sqrtimg0=np.zeros((maxlenght,maxlenght,3),dtype=’uint8’)
sqrtimg0[(maxlenght*.5-height*.5):(maxlenght*.5+height*.5),(maxlenght*.5-width*.5):(maxlenght*.5+width*.5)]=img
return sqrtimg0
def generate_hdf5():
labelfile =readdata(‘../data/my_alige_landmark.txt’)
F_imgs = []
F_landmarks = []
for i,l in enumerate(labelfile):
imgpath=’../data/‘+l[0]
img=cv2.imread(imgpath)
maxx=max(img.shape[0],img.shape[1])
img=sqrtimg(img)#把输入图片填充成正方形，因为我们要训练的图片的大小是正方形的图片255*255
img=cv2.cvtColor(img,cv2.COLOR_BGR2GRAY)#图片转为灰度图像
f_face=cv2.resize(img,(39,39))#把图片缩放成255＊255的图片
# F
plt.imshow(f_face,cmap=’gray’)
f_face = f_face.reshape((1, 39, 39))
f_landmark =np.asarray(l[1:],dtype=’float’)
F_imgs.append(f_face)
#归一化人脸特征点标签,因为上面height等于width，这里比较懒，直接简写
f_landmark=f_landmark/maxx #归一化到0～１之间
print f_landmark
F_landmarks.append(f_landmark)
F_imgs, F_landmarks = np.asarray(F_imgs), np.asarray(F_landmarks)
F_imgs = processImage(F_imgs)#图片预处理，包含均值归一化，方差归一化等
shuffle_in_unison_scary(F_imgs, F_landmarks)#打乱数据
#生成h5py格式
with h5py.File(os.getcwd()+ ‘/train_data.h5’, ‘w’) as f:
f[‘data’] = F_imgs.astype(np.float32)
f[‘landmark’] = F_landmarks.astype(np.float32)
#因为caffe的输入h5py不是直接使用上面的数据，而是需要调用.txt格式的文件
with open(os.getcwd() + ‘/train.txt’, ‘w’) as f:
f.write(os.getcwd() + ‘/train_data.h5\n’)
print i
if __name__ == ‘__main__‘:
generate_hdf5()