深度学习的数学 (4)张量、矩阵、导数

1. 张量 tension
深度学习的数学 (4)张量、矩阵、导数_第1张图片

2. 矩阵
深度学习的数学 (4)张量、矩阵、导数_第2张图片

  • Hadamard 乘积
    深度学习的数学 (4)张量、矩阵、导数_第3张图片
    转置矩阵( transposed matrix):矩阵 A 的,表示为:
    在这里插入图片描述

3. 导数

y =f (x) 的导函数 f ‘(x):
在这里插入图片描述
当 ∆x 无限接近 0 时“(∆x 的式子 )”接近的值,f’(x) 表示图像切线的斜率
深度学习的数学 (4)张量、矩阵、导数_第4张图片
导数公式:
在这里插入图片描述
导数符号
在这里插入图片描述

3.1导数的线性性

和的导数为导数的和,常数倍的导数为导数的常数倍
在这里插入图片描述
在这里插入图片描述
3.2 分数函数的导数和 Sigmoid 函数的导数
在这里插入图片描述

Sigmoid 函数 σ(x)的导数
在这里插入图片描述

假设f(x)为
在这里插入图片描述
那么f’(x) = 在这里插入图片描述
深度学习的数学 (4)张量、矩阵、导数_第5张图片
=>
在这里插入图片描述

当 f (x) 在 x = a 处取最小值时,该函数在该点的切线的斜率(即导函数的值)为 0。
深度学习的数学 (4)张量、矩阵、导数_第6张图片

eg1.
在这里插入图片描述
在这里插入图片描述
深度学习的数学 (4)张量、矩阵、导数_第7张图片
深度学习的数学 (4)张量、矩阵、导数_第8张图片
eg2.
在这里插入图片描述
在这里插入图片描述
深度学习的数学 (4)张量、矩阵、导数_第9张图片

你可能感兴趣的:(深度学习的数学)