PReLU——Delving Deep into Rectifiers: Surpassing Human-Level Performance on ImageNet Classification
1.摘要在的基础上作者提出了,在几乎没有增加额外参数的前提下既可以提升模型的拟合能力,又能减小过拟合风险。针对的矫正非线性,作者设计了一个鲁棒的的参数初始化方法。2.介绍在过去几年,随着更强大网络模型的构建和有效防止过拟合策略的设计,我们在视觉识别任务上取得了长足的进步。一方面,由于网络复杂性的增加(比如增加深度、扩大宽度)、小步长的使用、新的激活函数和更成熟的网络层设计,神经网络变得更加能够拟合