《深度学习入门：基于python的理论与实现》读书笔记

求梯度的函数：
f是需要求梯度的函数，x是求梯度的点

image.png

def numerical_gradient(f, x): h = 1e-4 # 0.0001
    grad = np.zeros_like(x) # 生成和x形状相同的数组
    for idx in range(x.size): tmp_val = x[idx] # f(x+h)的计算
        x[idx] = tmp_val + h fxh1 = f(x)
        # f(x-h)的计算
        x[idx] = tmp_val - h fxh2 = f(x)
        grad[idx] = (fxh1 - fxh2) / (2*h) x[idx] = tmp_val # 还原值
    return grad