pytorch Dropout

减低过拟合,一般可以通过:加大训练集、loss function 加入正则化项、Dropout 等途径。本文的主要作用是展示dropout 的作用

设置Dropout时,torch.nn.Dropout(0.5), 这里的 0.5 是指该层(layer)的神经元在每次迭代训练时会随机有 50% 的可能性被丢弃(失活),不参与训练,一般多神经元的 layer 设置随机失活的可能性比神经元少的高。

问题:droupout如何丢弃神经元的?

 

参考:https://www.jianshu.com/p/636be9f8f046

https://blog.csdn.net/u014532743/article/details/78453990

 

你可能感兴趣的:(Pytorch,python,机器学习)