吴恩达机器学习激活函数sigmoid函数的替代09

1.需求预测的例子

2.激活函数的例子

线性激活函数有时也被称为无激活函数

3.激活函数的选择

（1）神经网络的输出层

·结果是二元分类问题，一般采用Sigmoid函数
·结果是有正有负（如预测明天股票价格的浮动），一般采用线性激活函数
·结果只能是正，如（预测房屋的价格），可以采用ReLU函数

（2）神经网络的隐藏层

现在隐藏层一般采用ReLU函数

经验：不要在神经网络的隐藏层中使用线性激活函数。