人工神经网络的激活函数主要有三种形式

1、bp神经网络选择激活sigmoid函数，还有tansig函数的优缺点？求告知？

（1）对于深度神经网络，中间的隐层的输出必须有一个激活函数。否则多个隐层的作用和没有隐层相同。这个激活函数不一定是sigmoid，常见的有sigmoid、tanh、relu等。
（2）对于二分类问题，输出层是sigmoid函数。这是因为sigmoid函数可以把实数域光滑的映射到[0,1]空间。函数值恰好可以解释为属于正类的概率（概率的取值范围是0~1）。另外，sigmoid函数单调递增，连续可导，导数形式非常简单，是一个比较合适的函数
（3）对于多分类问题，输出层就必须是softmax函数了。softmax函数是sigmoid函数的推广

谷歌人工智能写作项目：小发猫

2、神经网络的激活函数都采用非线性函数，如阈值型或S型，为何不采用线性激活函数？

非线性激活函数可以拓展神经网络的表达能力