0123数学-向量-梯度-梯度下降

点击这里进入人工智能嘚吧嘚目录，观看全部文章

---

向量Vector

向量就是有方向的数量。

我们日常使用的数字都是一维的，就是说只有一个x方向，越往右数字越大。同样可以说，任意一个数字都表示了这个方向上的一个位置。只有一个方向的一般不叫向量而叫标量。

但在二维平面中要表示一个点，就需要横向和竖向两个数字了。

上图可以换一个用箭头表示的方法，你会发现神奇的规律。

图中线段a'是由线段a向右平移2向上平移1复制得到的，b'是由b平移复制得到的，这样就得到一个平行四边形，而右上角的点的x、y位置肯定相当于A、B两个点x和y分别相加的结果，即A+B。

(1,3)这样用两个数字表示平面上一个点，或者说表示从(0,0)出发到这个点的一个箭头。这样的有两个方向的数字组合成为二维向量。

思考题：你能想象由x,y,z三个数字组成的三维向量的图像含义吗？三维空间两个向量点相加结果，是否也会等于每个方向上的数字相加呢？

梯度Gradient

回到上节讲到的偏微分图像，如下图。

两条绿色短线分别表示A点在x方向上和y方向上的两个切线的斜率值，而红色箭头所指的就是x、y方向上两个斜率值相加的结果。

这个红色箭头意味着什么？
如果整个红橙色兜形曲面表示一个山坳，那么你站在A点，红色箭头就指向你面前最陡峭的山坡方向，相反，你沿着红色箭头反方向前进，就是下坡最快的的方向。

这个红色箭头表示的方向就叫做梯度，它是指各变量方向偏微分导数（斜率）向量之和，用梯度符号['næblə]表示。

梯度下降Gradient Descent

继续上面的梯度问题，我们如何快速走到山坳最低点（黑色区域最黑处）？

在曲面上任选一个点A，然后我们不断沿着负梯度的方向前进，变化x、y值，一步步下去就可以快速走到山坳。

这种沿着负梯度不断前进，从而找到竖向z值最低点的方法就叫做梯度下降，这是机器学习和神经网络最初算法的数学核心概念。

---

点击这里进入人工智能DBD嘚吧嘚目录，观看全部文章

---

每个人的智能新时代

如果您发现文章错误，请不吝留言指正；
如果您觉得有用，请点喜欢；
如果您觉得很有用，欢迎转载~

---

END