线性模型

之前自己看书学过，最近要找工作，重新报班学了一下推导，以此记录一些之前没明白的知识，求指点与交流。

---

1、一元回归中，将w向量化是为了使用numpy，提高运算效率，采用的方式是如图

2、多元回归中，需要用到几个矩阵微分的知识，可看可不看，转换后得到hessian矩阵，正定即严格凸函数，后续就求导即可

3、对数几率回归，解决二分类问题，通过线性回归的方式来逼近对数几率问题，函数形式为sigmoid，通过定义几率来表示出函数的分布率，一直没看懂如下公式，现在知道了，是假设该二分类问题是伯努利分布，通过广义线性模型的三条假设获得公式转换，然后就是就可以写分布律表达式，代入到最大似然估计中，高阶连续可导凸函数可采用迭代法，求得极值。