HCIE-BigData之机器学习——逻辑回归算法知识点

逻辑回归

算法思想：

    采用Sigmoid函数，使用极大似然估计的方法，能够输出每一个类别的概率，取概率最大的类别作为样本的类别。

    优点：

    1.实现简单，广泛的应用于工业问题上。
    2.分类时计算量非常小，速度很快，存储资源低。
    3.可以便利的观测样本概率分数。
    4.对逻辑回归而言，多重共线性并不是问题，它可以结合L2正则化来解决该问题。

    缺点：

    1.当特征空间很大时，逻辑回归的性能不是很好，容易欠拟合，一般准确度不太高。
    2.不能很好地处理大量多类特征或变量。
    3.只能处理二分类问题，且必须线性可分。
    4.对于非线性特征，需要进行转换。