CNN 卷积神经网络中的 接受视野(Receptive Field)  

在卷积神经网络中,感受野定义:CNN每一层输出的特征图上的像素点在原始图像
上的映射的区域大小。

RF (receptive field)描述了两个特征映射(Feature Maps)上神经元的关系,在进行 CNN 可视化的过程中非常有用。他也可以从侧面让我们了解,

为什么神经网络偏向于选择小的 Filter 和 Stride。假设,A 经过一系列的操作之后得到 B,那么 B 上的一个区域就只和 A 上的一个区域相关。

CNN  卷积神经网络中的  接受视野(Receptive Field)
 

一个输入大小为 11×11的A, 经过一个过滤器大小为 3×3,步长为 1 的卷积核卷积之后,得到一个大为9×9的特征映射。

可以看到在 B 中一个 3×3 的区域,在 A 中的感受视野为 5×5。B 经过一个大小为 3×3 ,步长为 1 的卷积核卷积之后,得到一个 7×7 的特征映射。

因此在 A 中的一个 5×5 的区域在 B 中的视野就为 3×3。因此,C 中一个 1×1 的区域在 A 的视野就为 5×5。

计算公式为: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

其中 CNN  卷积神经网络中的  接受视野(Receptive Field)
  表示第 i 层输入的一个区域, CNN  卷积神经网络中的  接受视野(Receptive Field)
  表示第 i 层的步长, CNN  卷积神经网络中的  接受视野(Receptive Field)
  表示第 i 层卷积核的大小(filter size)。此计算不需要考虑 padding size

高层在低层中的视野

计算 C 在 B 中的视野

如我们想计算 C 的一个 1×1 的区域在 B 上的接受视野,从上图可以知道一共三层(两个卷基层一个输入层,此处将输入层的 i 当做0处理),此时我们求的是 CNN  卷积神经网络中的  接受视野(Receptive Field)
 CNN  卷积神经网络中的  接受视野(Receptive Field)
  上的感受视野。

由上图可以知道, CNN  卷积神经网络中的  接受视野(Receptive Field)
  的值为 1 因为第一层的步长为 1 ; CNN  卷积神经网络中的  接受视野(Receptive Field)
 的值为 3 ,因为卷积核的大小为 3×3;此时选择的 CNN  卷积神经网络中的  接受视野(Receptive Field)
  区域大小为 1×1,因此它的值为 1 。

通过上述公式计算可得: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

CNN  卷积神经网络中的  接受视野(Receptive Field)
 CNN  卷积神经网络中的  接受视野(Receptive Field)
 的接受视野为 3×3 的区域。

计算 B 在 A 中的视野

计算 B 中一个 3×3 的区域在 A 中接受视野。可知 CNN  卷积神经网络中的  接受视野(Receptive Field)
  为 1; CNN  卷积神经网络中的  接受视野(Receptive Field)
  为 3,因为我们选择的 B 的区域为 3×3; CNN  卷积神经网络中的  接受视野(Receptive Field)
  为 3。

因此 B 在 A 中的接受视野为: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

计算 C 在 A 中的视野

计算 C 中一个1×1的区域在 A 中的接受视野。

通过以上的计算,我们可以通过如下过程推断:

  1. 计算 C 在 B 中的接受视野

CNN  卷积神经网络中的  接受视野(Receptive Field)
 

2.计算 B 在 A 中的接受视野

此阶段需要将上面计算出来的结果当做 B 中需要计算的区域,因此就有:

CNN  卷积神经网络中的  接受视野(Receptive Field)
 

因此可以得到 C 中一个 1×1 的区域在 A 中的接受视野为 5×5

 

注:以上的计算适用于卷积层和池化层,在激活层中 CNN  卷积神经网络中的  接受视野(Receptive Field)
 

CNN  卷积神经网络中的  接受视野(Receptive Field)
 

conv5: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

conv4: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

conv3: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

pool2: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

conv2: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

pool1: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

conv1: CNN  卷积神经网络中的  接受视野(Receptive Field)
 

因此第5层卷积在输入层的感受视野为 163。