人工智能中的数学基础——看得见的数学 直播心得

今日听了一个关于人工智能数学知识的直播课程，觉得讲的很不错，所以在这里记录下来以供日后学习。

一.为什么要学习数学？

数学对于我们理工科学生非常重要，尤其对于我们初入人工智能领域的学生来说，数学亦是理解复杂算法的必要元素。只有学好数学，才能真正学好人工智能。
数学在人工智能中的应用——举个例子，如全景拼接与VR。其中，在人工智能的特征检测中，需要用到线性代数以及极值知识；而在位姿估计中，需要用到矩阵分析、最优化知识；图像拼接过程中，更是需要用到微积分和微分方程这种高等数学知识.。再如，数学还可用在我们再熟悉不过的人脸识别中，这里的核心技术包括图像卷积、向量导数与梯度、链式求导法则、条件极值与最优化以及随机优化。数学在人工智能中的应用多之又多！所以，数学对于人工智能是相当重要的。
既然数学如此重要，我们应该如何打好数学方面的基础呢。众所周知数学是枯燥的，无穷无尽的公式，奇奇怪怪的符号等等。如何解决？我们应从以下几个方面入手：用形象的图将枯燥的内容展示出来，将书本上的文字变成看得见的数学；用相对通俗的语言深度解读公式背后的意义；注重自身学习数学的终极目标，与自己的研究方向的具体背景相结合；最后一点同样是最重要的一点：动起手来，编点程序，看看究竟发生了什么！

二.数学中与人工智能相关联的最重要的四部分知识

1.微积分与线性代数

导数和微分
核心思想：以直代曲

泰勒级数和泰勒展开式
多元函数的微分
记忆时，结合上述图示
矩阵的定义
向量的定义
向量导数与梯度

2.概率论和贝叶斯推理

数学期望与方差
条件概率与贝叶斯公式
仔细审题发现该题不难：
其中贝叶斯公式如下：
贝叶斯公式应用示例：在对图像的目标检测处理时其中下图中不同的框代表不同的检测目标，颜色框上面有类别以及数字，数字代表识别的概率。

3.最优化方法

极小值与导数：
极值问题如何类比到人工智能中？
原始问题：变量或参数x为多少，函数最大（或最小）？
计算机视觉中：在三维重构时，应当如何计算每个位置和姿态，使达到的效果最好？
机器学习中：在完成目标分类时，应该如何确定合适的分类参数，使得分类效果最好？
深度学习中：如何选择卷积神经网络的权值，使学习误差最小？
怎么计算极小值？
极小值计算思路：
1）遍历所有可能的x。（有点不切实际）
2）利用极值定理和导数，解方程
但问题是导数可能很难算，方程可能很难解
3）迭代求解，逐步逼近xo→x1→…→xk→x*(在迭代过程中我们主要的目标是如何创造这个迭代序列，达到我们的最优值）

总体趋势:让f(xk)越来越小。具体怎么做呢?
极小值计算思路

4.信息论以及其他在人工智能中的使用

信息论与熵

在分类时，我们通常可以通过建立一个决策树来完成我们机器视觉的分类。当分类分的越好，这一类里面的随机性越小，同样其熵也越小。
图论有很多用途，比如我们的深度学习以及卷积神经网络里面可以用图的方法进行优化，之前看过一篇论文，就是使图像中的每个框作为无向图中的节点，通过这样的方式来进行框与框之间的交互。
从分析图得到人之间的相互关系，描述人在社交中的角色重要性等等。

三.总结

上面几个方面就是对于人工智能中所用到的数学知识做了一个简单的描述，当然，这仅仅是一个起点。从这我们应该学到：
将复杂公式转化成生动的图示；
数学并不难，要点在于勾勒出背后的图像；
微分和线性代数是基础；
最优化及迭代求解是应用桥梁；
概率论是机器学习和深度学习必备基础；
熵和图论等在人工智能中有着巧妙的应用。
参考资源：
https://www.mathwarehouse.com/
解释了微积分的很多概念，非常生动；

https://www.analyticsvidhyacom/blog/2017/03/introduction-to-gradient-descent-algorithm-along-its-variants/.
梯度下降法的一个很形象的解释，配合图和程序。
很多人工智能初学者都在纠结自己究竟要把数学基础学到什么程度才能进入人工智能的学习，其实，你随时可以开始人工智能的学习，这是一个相推相进的过程，在学习人工智能的过程中边练习数学，在碰到一些复杂概念时，不要总想着将其啃得多透，可以随时查询，直播中屈老师推荐的数学手册如下：
[德]埃伯哈德·蔡德勒著，数学指南:实用数学手册.科学出版社，2012；
Justin Solomon, Mathematical Methods for Computer Vision，Robotics, and Graphics. Course notes for CS 205A, Stanford University, 2013；
有兴趣的同学可以查阅。
最后，同学们包括我自己一定要勤于动手编程，这样才能真正进入人工智能的研究中。
深度学习入门参考资料链接：

使用 porch完成MNST数据集

手写识别：
https://zhuanlan.zhihu.com/p/95701775.

实例演示:
https://cs.ryerson.cal-aharley/vis/convl.