【机器学习杂烩】投票(Voting)算法在分类问题上的应用（一口气实现Logistic 回归、SVM、KNN、C4.5 决策树、 Adaboost、GBDT 和随机森林，并集成起来）
投票算法简介投票是在分类算法中广泛运用的集成学习算法之一。投票主要有硬投票和软投票两种。硬投票即各基分类器权重相同的投票,其原理为多数投票原则：如果基分类器的某一分类结果超过半数,则集成算法选择该结果;若无半数结果则无输出。软投票的原理也为多数投票,但是各基分类器投票所占的权重可自己定义。当各基分类器分类效果差异比较大时,应当选择软投票,赋予基础分类器更大的权重,从而获得更好的分类性能,以此优化分