GELU激活函数介绍和笔记

GELU是一种常见的激活函数，全称为“Gaussian Error Linear Unit”, 作为2020年提出的优秀激活函数，越来越多的引起了人们的注意。这里做个笔记，以便自己查找。

一些对于GELU函数的论文翻译：

1、https://blog.csdn.net/uncle_ll/article/details/121293513

2、https://blog.csdn.net/sinat_34072381/article/details/108434642

其他的一些参考：
1、https://zhuanlan.zhihu.com/p/302394523

2、https://blog.csdn.net/chenxinvhai89/article/details/100517448

3、https://blog.csdn.net/weixin_41923961/article/details/103976110