Windows下用Caffe跑自己的数据(遥感影像)

2023-03-10,,

1 前言

Caffe对于像我这样的初学者来说是一款非常容易上手的深度学习框架。关于用Caffe跑自己的数据这样的博客已经非常多,感谢前辈们为我们提供的这么好的学习资源。这里我主要结合我所在的行业,说下如何对跑通具有多通道多格式的遥感数据。

2 数据准备

Caffe封装的非常好,要想将我们的数据运用于Caffe上,我们唯一要做的工作就是准备好Caffe支持的数据输入格式(leveldb/lmdb)。

Caffe解决方案下有一个工程convert_imageset为我们提供了接口,主要是将图像文件转化为 Caffe支持的两种数据格式。工程实现数据格式转换主要经过以下几个步骤:

在细读这个工程文件是会发现,其数据读取函数用的是OpenCV 的imread函数,在io.cpp。关于OpenCV的imread函数,这里不做详细介绍,只说出其存在的问题:

1 对于图像文件,imread不能读取多波段数据(遥感图像),超过4个波段的;

2 读取的数据格式默认是CV_8UC(n),遥感数据明显不符合要求。

因此,要想通过Caffe自带的数据集转换接口将多波段多数据类型的遥感图像输出为Caffe支持的leveldb和lmdb格式存在明显的不合理问题。

关于遥感图像的读取,我想大家第一反应就是GDAL库。因此,我尝试在Caffe的解决方案下重写数据转换接口,利用GDAL库来读图像,并将读取的数据转换为OpenCV的Mat数据格式,从而和图1中流程的第二步接轨(GDAL数据读取转换为Mat格式可参看前面的博客)。但是后来一想,感觉这样做有点多余,为啥不通过GDAL读取的数据直接写入到Caffe::Datum中呢。

后来仔细看了Caffe::Datum类,发现其存储数据目前只支持uchar和float,如果读者愿意,我想还可以给Datum类添加其他的支持数据格式。但是,我觉得float格式已经满足我的要求了。因此,我写了一个简单的函数,实现从GDAL读取的数据到Datum的转化,其代码如下:

 bool ReadImageToDatum(const std::string &imgfilename,
const int label,
Datum &datum)
{
GDALAllRegister();
GDALDataset *poRemoteSensingImageDS = (GDALDataset*)GDALOpen(imgfilename.c_str(),GA_ReadOnly);
datum.set_channels(kRemoteSensingBandNums);
datum.set_height(kRemoteSensingSize);
datum.set_width(kRemoteSensingSize);
datum.set_label(label);
datum.clear_data();
datum.clear_float_data();
datum.set_encoded(false);
int *data = new int[kRemoteSensingImageNBytes];
int *pBandMap = new int[kRemoteSensingBandNums];
for (int b = ; b < kRemoteSensingBandNums; b++){
pBandMap[b] = b + ;
}
GDALDataType ty = poRemoteSensingImageDS->GetRasterBand()->GetRasterDataType();
poRemoteSensingImageDS->RasterIO(GF_Read, , , kRemoteSensingSize, kRemoteSensingSize,
data, kRemoteSensingSize, kRemoteSensingSize, ty, kRemoteSensingBandNums,
pBandMap, sizeof(int), kRemoteSensingSize*sizeof(int),
kRemoteSensingSize*kRemoteSensingSize*sizeof(int));
for (int i = ; i < kRemoteSensingImageNBytes; i++){
datum.add_float_data((float)data[i]);
}
delete[]data; data = nullptr;
delete[]pBandMap; pBandMap = nullptr;
GDALClose((GDALDatasetH)poRemoteSensingImageDS);
return ;
};

这里有个细节问题需要说下:因为我不大算动图1第三步中的Caffe::Datum--》leveldb/lmdb这个过程,所以GDAL读取的数据顺序需要与Mat中图像的存储格式一样。Mat默认数据存储格式是:BIP,及按像元保存,即先保存第一个波段的第一个像元,之后保存第二波段的第一个像元,依次保存存储。因此,在用GDAL读取图像的时候也应该用BIP格式读取,确保一致。到此遥感数据集的转换工作基本完成。我们可以将具有多波段和多数据类型的遥感数据顺利的保存为leveldb或者lmdb。我想其他的数据类型也可参考类似的方法。可以自己制作一个统一的二进制文件格式,然后轻松实现转换。

3 均值计算

这一步没有需要改动的地方,compute_image_mean 工程提供的接口完全可以支持之前Datum中的uchar和float两种数据格式。

     if (data.size() != ) {
CHECK_EQ(data.size(), size_in_datum);
for (int i = ; i < size_in_datum; ++i) {
sum_blob.set_data(i, sum_blob.data(i) + (uint8_t)data[i]);
}
} else {
CHECK_EQ(datum.float_data_size(), size_in_datum);
for (int i = ; i < size_in_datum; ++i) {
sum_blob.set_data(i, sum_blob.data(i) +
static_cast<float>(datum.float_data(i)));
}
}

4 模型训练

这个过程也没有需要改动的,设置好网络参数,利用Caffe.exe提供的接口就可以顺利的完成模型的训练工作。

5 分类

分类同样存在之前数据准备中出现的问题,因此,还是要重写classification工程,主要在于图像的读取部分,并将用GDAL读取的数据,转化为Mat的多通道数据。具体不说了,上传部分代码供大家参考:

            float *readPatchImage = new float[kRemoteSensingSize*kRemoteSensingSize*bandNums];
int leftX = colIndex - constWidth;
if (leftX + kRemoteSensingSize > width) leftX = width - kRemoteSensingSize - ;
poRemoteSensingImageDS->RasterIO(GF_Read, leftX, leftY, kRemoteSensingSize, kRemoteSensingSize,
readPatchImage, kRemoteSensingSize, kRemoteSensingSize, GDT_Float32, bandNums,
pBandMap, bandNums*sizeof(float), bandNums*kRemoteSensingSize*sizeof(float),sizeof(float));
cv::Mat img = cv::Mat(kRemoteSensingSize, kRemoteSensingSize, CV_32FC(bandNums), readPatchImage);
std::vector<Prediction> predictions = classifier.Classify(img);
if (predictions[].first == "")
{
std::cout << "-----Find Suspicious Chinmey: Probability:" << predictions[].second << std::endl;
std::cout << " Position:leftX:" << leftX << " leftY:" << leftY << std::endl;
std::cout << std::endl;
unsigned char* buf = new unsigned char[kRemoteSensingSize*kRemoteSensingSize];
int i = ;
while (i < kRemoteSensingSize*kRemoteSensingSize)
buf[i++] = ;
poOutBand->RasterIO(GF_Write, leftX, leftY, kRemoteSensingSize, kRemoteSensingSize, buf,
kRemoteSensingSize, kRemoteSensingSize, GDT_Byte, , );
delete[]buf; buf = nullptr; }
delete[]readPatchImage; readPatchImage = nullptr;
}

Windows下用Caffe跑自己的数据(遥感影像)的相关教程结束。

《Windows下用Caffe跑自己的数据(遥感影像).doc》

下载本文的Word格式文档,以方便收藏与打印。