0x09丢弃法

丢弃法是在深度学习中很重要的一个方法，能够等价与加入噪音使得模型更具有鲁棒性

但是我们加入这个“噪音”要希望加入之后的期望与原数据是相同的，即
$$E[x^{\prime }]=x$$
所以我们可以变化
$$x_i^{\prime }=\{\begin{array}{rcl}0& & withprobalityp\\ \frac{x_i}{1-p}& & otherise\end{array}$$
等价于每次随机的消失神经元