Dropout 和 Drop Path

dropout是一种正则化的方法

【前言】Drop Path是NAS中常用到的一种正则化方法,由于网络训练的过程中常常是动态的,Drop Path就成了一个不错的正则化工具,在FractalNet、NASNet等都有广泛使用。

1. Dropout

Dropout 和 Drop Path_第1张图片

2. Drop Path

Dropout 和 Drop Path_第2张图片


https://www.cnblogs.com/pprp/p/14815168.html
https://blog.csdn.net/wydbyxr/article/details/83989275

你可能感兴趣的:(随笔,深度学习)