机器学习学习笔记——Logistic Regression

Logistic Regression——逻辑回归

它其实是一种分类算法。

Logistic function（逻辑函数），也叫sigmoid函数，可以表示成：

                                                                                                        

它的图像可大致表示为：（图转自维基百科）

                                                                 

显然，它具有可导且导数非负的特性。

对于二项分类而言（假设结果为0或1）：

逻辑回归的模型为

其中wT为权值向量，b为偏置bias；x=(x1,x2,...,xn)，w=(w1,w2,...,wn)

对于给定的输入x，求得两个类别的条件概率，比较两个概率值的大小，则x属于概率大的一类。

待续。。。