线性回归、logistic回归

作者：金良（[email protected]） csdn博客：http://blog.csdn.net/u012176591

本文是由一份以回归为主题的演讲的幻灯片修改而成，内容包括线性回归、logistic回归、梯度下降、最小二乘法的概念描述和例子讲解，并附有相关的代码。

该幻灯片文件是由LaTeX编译生成的PDF格式文档，相关文档下载地址
http://download.csdn.net/detail/u012176591/8260173

下面三张动画是幻灯片中的几张动态展示，可以结合者幻灯片来看。

线性回归参数训练过程示意图

            

梯度上升法示意图

局部最优示意图

logistic回归参数训练和误差示意图

参考文献及推荐阅读

1. 机器学习入门：线性回归及梯度下降
   http://blog.csdn.net/xiazdong/article/details/7950084
   谈到了“feature scaling”这个概念。
   
   
2. 机器学习 --- 1. 线性回归与分类, 解决与区别 
   http://blog.csdn.net/ppn029012/article/details/8775597
   谈到了分类的概念

   
   
3. Logistic Regression
   http://www.holehouse.org/mlclass/06_Logistic_Regression.html

   
   
4. 第二讲.Linear Regression with multiple variable (多变量线性回归) 
   http://blog.csdn.net/lch614730/article/details/13020675
   英文描述

   
   
5. 机器学习 --- 2. 从最大似然再看线性回归
   http://blog.csdn.net/ppn029012/article/details/8908104
   最大似然与分类

   
   
6. 讲了线性回归的几个细节，浅显易懂：
   http://blog.datumbox.com/tuning-the-learning-rate-in-gradient-descent/

   
   
7. logistic回归总结
   http://blog.csdn.net/dongtingzhizi/article/details/15962797

   
   
8. 机器学习入门：Linear Regression与Normal Equation
   http://blog.csdn.net/xiazdong/article/details/7950087

   
   

本博文的TeX源码：https://code.csdn.net/snippets/610269/master/%E7%BA%BF%E6%80%A7%E5%9B%9E%E5%BD%92%E3%80%81logistic%E5%9B%9E%E5%BD%92.tex/raw