《深度学习的数学》（https://www.ituring.com.cn/book/2593）第二章实例的python实现——体验梯度下降

《深度学习的数学》（https://www.ituring.com.cn/book/2593）第二章实例的python实现
所使用的的数据连接：https://www.ituring.com.cn/book/download/d16bf588-375b-4176-b319-ec3c3a2d99a1

体验梯度下降

直接上代码

import numpy

# z = x**2 + y**2
# 起始位置
x = 3
y = 2
# 学习率
step = 0.1
# 梯度(∂z/∂x, ∂z/∂y)
graduate = numpy.array((2.0 * x, 2.0 * y))
# 位移向量(⊿x, ⊿y)
drift = -step * graduate

# 函数值
z = x**2 + y**2
for i in range(30):
    print('x=%.2f, y=%.2f,, 梯度(∂z/∂x, ∂z/∂y)=(%.2f, %.2f), 位移向量(⊿x,⊿y) = (%.2f, %.2f)'
          '函数值%.2f' % (x, y, graduate[0], graduate[1], drift[0], drift[1], z))
    x, y = numpy.array((x, y)) + drift
    graduate = numpy.array((2.0 * x, 2.0 * y))
    drift = -step * graduate
    z = x ** 2 + y ** 2

运行结果

x=3.00, y=2.00, 梯度(∂z/∂x, ∂z/∂y)=(6.00, 4.00), 位移向量(⊿x,⊿y) = (-0.60, -0.40)函数值13.00
x=2.40, y=1.60, 梯度(∂z/∂x, ∂z/∂y)=(4.80, 3.20), 位移向量(⊿x,⊿y) = (-0.48, -0.32)函数值8.32
x=1.92, y=1.28, 梯度(∂z/∂x, ∂z/∂y)=(3.84, 2.56), 位移向量(⊿x,⊿y) = (-0.38, -0.26)函数值5.32
x=1.54, y=1.02, 梯度(∂z/∂x, ∂z/∂y)=(3.07, 2.05), 位移向量(⊿x,⊿y) = (-0.31, -0.20)函数值3.41
x=1.23, y=0.82, 梯度(∂z/∂x, ∂z/∂y)=(2.46, 1.64), 位移向量(⊿x,⊿y) = (-0.25, -0.16)函数值2.18
x=0.98, y=0.66, 梯度(∂z/∂x, ∂z/∂y)=(1.97, 1.31), 位移向量(⊿x,⊿y) = (-0.20, -0.13)函数值1.40
x=0.79, y=0.52, 梯度(∂z/∂x, ∂z/∂y)=(1.57, 1.05), 位移向量(⊿x,⊿y) = (-0.16, -0.10)函数值0.89
x=0.63, y=0.42, 梯度(∂z/∂x, ∂z/∂y)=(1.26, 0.84), 位移向量(⊿x,⊿y) = (-0.13, -0.08)函数值0.57
x=0.50, y=0.34, 梯度(∂z/∂x, ∂z/∂y)=(1.01, 0.67), 位移向量(⊿x,⊿y) = (-0.10, -0.07)函数值0.37
x=0.40, y=0.27, 梯度(∂z/∂x, ∂z/∂y)=(0.81, 0.54), 位移向量(⊿x,⊿y) = (-0.08, -0.05)函数值0.23
x=0.32, y=0.21, 梯度(∂z/∂x, ∂z/∂y)=(0.64, 0.43), 位移向量(⊿x,⊿y) = (-0.06, -0.04)函数值0.15
x=0.26, y=0.17, 梯度(∂z/∂x, ∂z/∂y)=(0.52, 0.34), 位移向量(⊿x,⊿y) = (-0.05, -0.03)函数值0.10
x=0.21, y=0.14, 梯度(∂z/∂x, ∂z/∂y)=(0.41, 0.27), 位移向量(⊿x,⊿y) = (-0.04, -0.03)函数值0.06
x=0.16, y=0.11, 梯度(∂z/∂x, ∂z/∂y)=(0.33, 0.22), 位移向量(⊿x,⊿y) = (-0.03, -0.02)函数值0.04
x=0.13, y=0.09, 梯度(∂z/∂x, ∂z/∂y)=(0.26, 0.18), 位移向量(⊿x,⊿y) = (-0.03, -0.02)函数值0.03
x=0.11, y=0.07, 梯度(∂z/∂x, ∂z/∂y)=(0.21, 0.14), 位移向量(⊿x,⊿y) = (-0.02, -0.01)函数值0.02
x=0.08, y=0.06, 梯度(∂z/∂x, ∂z/∂y)=(0.17, 0.11), 位移向量(⊿x,⊿y) = (-0.02, -0.01)函数值0.01
x=0.07, y=0.05, 梯度(∂z/∂x, ∂z/∂y)=(0.14, 0.09), 位移向量(⊿x,⊿y) = (-0.01, -0.01)函数值0.01
x=0.05, y=0.04, 梯度(∂z/∂x, ∂z/∂y)=(0.11, 0.07), 位移向量(⊿x,⊿y) = (-0.01, -0.01)函数值0.00
x=0.04, y=0.03, 梯度(∂z/∂x, ∂z/∂y)=(0.09, 0.06), 位移向量(⊿x,⊿y) = (-0.01, -0.01)函数值0.00
x=0.03, y=0.02, 梯度(∂z/∂x, ∂z/∂y)=(0.07, 0.05), 位移向量(⊿x,⊿y) = (-0.01, -0.00)函数值0.00
x=0.03, y=0.02, 梯度(∂z/∂x, ∂z/∂y)=(0.06, 0.04), 位移向量(⊿x,⊿y) = (-0.01, -0.00)函数值0.00
x=0.02, y=0.01, 梯度(∂z/∂x, ∂z/∂y)=(0.04, 0.03), 位移向量(⊿x,⊿y) = (-0.00, -0.00)函数值0.00
x=0.02, y=0.01, 梯度(∂z/∂x, ∂z/∂y)=(0.04, 0.02), 位移向量(⊿x,⊿y) = (-0.00, -0.00)函数值0.00
x=0.01, y=0.01, 梯度(∂z/∂x, ∂z/∂y)=(0.03, 0.02), 位移向量(⊿x,⊿y) = (-0.00, -0.00)函数值0.00
x=0.01, y=0.01, 梯度(∂z/∂x, ∂z/∂y)=(0.02, 0.02), 位移向量(⊿x,⊿y) = (-0.00, -0.00)函数值0.00
x=0.01, y=0.01, 梯度(∂z/∂x, ∂z/∂y)=(0.02, 0.01), 位移向量(⊿x,⊿y) = (-0.00, -0.00)函数值0.00
x=0.01, y=0.00, 梯度(∂z/∂x, ∂z/∂y)=(0.01, 0.01), 位移向量(⊿x,⊿y) = (-0.00, -0.00)函数值0.00
x=0.01, y=0.00, 梯度(∂z/∂x, ∂z/∂y)=(0.01, 0.01), 位移向量(⊿x,⊿y) = (-0.00, -0.00)函数值0.00
x=0.00, y=0.00, 梯度(∂z/∂x, ∂z/∂y)=(0.01, 0.01), 位移向量(⊿x,⊿y) = (-0.00, -0.00)函数值0.00

Process finished with exit code 0