激活函数numpy实现(Sigmoid, Tanh, Relu, Softmax)

激活函数numpy实现

    • 1.Sigmoid
    • 2.Tanh
    • 3.Relu
    • 4.Softmax

你好! 这是你第一次使用 Markdown编辑器 所展示的欢迎页。如果你想学习如何使用Markdown编辑器, 可以仔细阅读这篇文章,了解一下Markdown的基本语法知识。

1.Sigmoid

s i g m o i d ( y ) = 1 1 + e − x sigmoid(y) = \frac{1}{1 + e^{-x}} sigmoid(y)=1+ex1

2.Tanh

t a n h ( y ) = 2 ∗ s i g m o i d ( 2 ∗ x ) − 1 tanh(y) = 2 * sigmoid(2*x) -1 tanh(y)=2sigmoid(2x)1

or

s i g m o i d ( y ) = 1 / 2 + 1 / 2 ∗ t a n h ( 1 / 2 ∗ x ) sigmoid(y) = 1/2 + 1/2*tanh(1/2*x) sigmoid(y)=1/2+1/2tanh(1/2x)

3.Relu

4.Softmax

你可能感兴趣的:(AI,神经网络,深度学习,机器学习)