1. 机器学习所涉及的数学知识有哪些？

    统计学和概率论，以及最优化另外加上矩阵方面的相关知识，其他的涉及不多。

  2. 机器学习中主要解决的优化问题？

    主要是无约束优化问题和有约束优化问题。针对优化问题，一是通过解析法，但是解析法只是针对简单或特殊问题寻优，通过简单的求极值点解析出来。二是通过图解法，但是图解法只是针对维数比较低的可以用画图解析出来。三是通过迭代式搜索行方法（如梯度下降法等）四是通过转化型方法，（比如这个问题不好求，我们可以通过对偶函数来看看是否可以解决，或者罚函数等等）五是通过经典算法，实在搞不定了就考虑，因为这类算法比较成熟（如单纯型法，动态规划，以及分分支定界法）。六是演化型方法（遗传算法，模拟退火，以及爬山法等）。

  3. 有约束优化问题和无约束优化问题的求解不同之处？

    无约束优化问题面临的问题？以及如何应对？

     函数不存在倒数，怎么办？

    函数可以求导，但是X难以求出，怎么办？

    函数可以求导，得到的x是个集合怎么办？

    最后可以通过迭代法（大统一论）来解决这个问题？

    梯队下降法，牛顿法，等等。

   有约束问题---》转换成无约束优化问题。然后考虑特殊性质（观察其函数是否是凸规划等等，以及拉    格朗日成子式，以及kt条件。

4.另外补充一下凸规划知识

    f(x)是凸函数

    g(x)是凹函数，则-g(x)是凸函数           

    h(x)是线性函数，（说白了x1,x2...都是一阶）

    所以可行域是各个凸集的交，也为凸集

5.K-T条件求解无约束优化问题得到的是局部最优解

凸规划的优点是局部最优解也是最优解。