Caffe源代码之池化层
Caffe源代码之池化层
池化层（PoolingLayer）在深度学习的结构中占很重要的一部分，其功能是缩小输入特征图的尺度，增大输出特征图的感受野，在有的网络中，通过全局池化层，将二维特征图变成一维特征向量。池化层有两个特点：（1）输出特征图尺度普遍小于输入特征图尺度；（2）池化层并没有可学习的参量，因此，再反向传播的过程中，只需要求输入特征图的梯度（bottom_diff）。下面，我们来看看在Caffe中，怎么实现PoolingLayer的呢？
caffe.proto
首先，我们还是来看看，配置文件，了解PoolingLayer需要哪些用户定义的参数
message PoolingParameter {
//池化方法，平均池化，最大池化，默认为，最大池化
enum PoolMethod {
MAX = 0;
AVE = 1;
STOCHASTIC = 2;
}
optional PoolMethod pool = 1 [default = MAX]; // The pooling method
// Pad, kernel size, and stride are all given as a single value for equal
// dimensions in height and width or as Y, X pairs.
//需要在输入特征图padding的数量，默认为0，
//既可以分别指定（pad_h、pad_w），又可以一起指定（pad）
optional uint32 pad = 4 [default = 0]; // The padding size (equal in Y, X）
optional uint32 pad_h = 9 [default = 0]; // The padding height
optional uint32 pad_w = 10 [default = 0]; // The padding width
//池化核大小，同padding一样两种指定方式
optional uint32 kernel_size = 2; // The kernel size (square)
optional uint32 kernel_h = 5; // The kernel height
optional uint32 kernel_w = 6; // The kernel width
//stride，同padding指定方式一样
optional uint32 stride = 3 [default = 1]; // The stride (equal in Y, X)
optional uint32 stride_h = 7; // The stride height
optional uint32 stride_w = 8; // The stride width
//计算引擎
enum Engine {
DEFAULT = 0;
CAFFE = 1;
CUDNN = 2;
}
optional Engine engine = 11 [default = DEFAULT];
// If global_pooling then it will pool over the size of the bottom by doing
// kernel_h = bottom->height and kernel_w = bottom->width
//全局池化层，如果设置为全局池化层
//则kernel_h = bottom_h kernel_w = bottom_w
optional bool global_pooling = 12 [default = false];
}PoolingLayer头文件
#ifndef CAFFE_POOLING_LAYER_HPP_
#define CAFFE_POOLING_LAYER_HPP_
#include {
public:
//显式构造函数
explicit PoolingLayer(const LayerParameter& param)
: Layer(param) {}
virtual void LayerSetUp(const vector rand_idx_;
//max_idx_要单独解释
//在Pooling的过程中，必然有信息的丢失（空间信息）
//有些算法（SegNet）中，希望保存，Pooling之后(仅针对MaxPooling)的数值，在原特征图的位置，或者索引，有啥用？请看SegNet这篇论文。
//因此，max_idx_就是保存MaxPooling之前，Max值得位置
Blob<int> max_idx_;
};
} // namespace caffe
#endif // CAFFE_POOLING_LAYER_HPP_ PoolingLayer源文件
#include ::LayerSetUp(const vector::Reshape(const vector::Forward_cpu(const vector(index);
} else {
mask[pool_index] = index;
}
}
}
}
}
}
//一个特征图完事了，然后就计算下一个特征图，也就是下一个通道
// compute offset
bottom_data += bottom[0]->offset(0, 1);//输入内存偏移
top_data += top[0]->offset(0, 1);//输出内存偏移
//索引偏移
if (use_top_mask) {
top_mask += top[0]->offset(0, 1);
} else {
mask += top[0]->offset(0, 1);
}
}
}
break;
//平均池化代码上和最大池化前向传播差不多
case PoolingParameter_PoolMethod_AVE:
for (int i = 0; i < top_count; ++i) {
top_data[i] = 0;
}
// The main loop
for (int n = 0; n < bottom[0]->num(); ++n) {
for (int c = 0; c < channels_; ++c) {
for (int ph = 0; ph < pooled_height_; ++ph) {
for (int pw = 0; pw < pooled_width_; ++pw) {
int hstart = ph * stride_h_ - pad_h_;
int wstart = pw * stride_w_ - pad_w_;
int hend = min(hstart + kernel_h_, height_ + pad_h_);
int wend = min(wstart + kernel_w_, width_ + pad_w_);
int pool_size = (hend - hstart) * (wend - wstart);
hstart = max(hstart, 0);
wstart = max(wstart, 0);
hend = min(hend, height_);
wend = min(wend, width_);
for (int h = hstart; h < hend; ++h) {
for (int w = wstart; w < wend; ++w) {
top_data[ph * pooled_width_ + pw] +=
bottom_data[h * width_ + w];
}
}
top_data[ph * pooled_width_ + pw] /= pool_size;
}
}
// compute offset
bottom_data += bottom[0]->offset(0, 1);
top_data += top[0]->offset(0, 1);
}
}
break;
case PoolingParameter_PoolMethod_STOCHASTIC:
NOT_IMPLEMENTED;
break;
default:
LOG(FATAL) << "Unknown pooling method.";
}
}
//反向传播
template <typename Dtype>
void PoolingLayer::Backward_cpu(const vector