深度学习中的fan_in与fan_out

Understanding the difficulty of training deep feedforward neural network 中，fan_in指第i层神经元个数，fan_out指第i+1层神经元个数。通常卷积网络不是全连接的，fan_in与fan_out的计算方式有所不同。
pytorch中:
$$fa{n}_{in}=channel{s}_{in}\times kerne{r}_{width}\times kerne{r}_{height}$$

$$fa{n}_{out}=channel{s}_{out}\times kerne{r}_{width}\times kerne{r}_{height}$$

根据对http://deeplearning.net/tutorial/lenet.html中的理解，以及https://stackoverflow.com/questions/42670274/how-to-calculate-fan-in-and-fan-out-in-xavier-initialization-for-neural-networks中的描述，另外一种更加精确的描述为：
$$fa{n}_{i}n=channel{s}_{in}\times receptivefiel{d}_{height}\times receptivefiel{d}_{width}$$

$$fa{n}_{i}n=\frac{channel{s}_{in}\times receptivefiel{d}_{height}\times receptivefiel{d}_{width}}{maxpoo{l}_{area}}$$

按照第二种说法，空洞卷积（dilated convolution）的感受野要比普通卷积大，$receptivefield$与$kernel$的大小不同，计算结果也不同。