随机森林random forest

大概意思是，从训练集中随机抽样n个，然后将这n个组建成树，树按照特征值来划分左右树，寻找最优分类的左右树，按照Gini指数的计算问题，假如将原始数据集D切割两部分，分别为D1和D2，则Gini(D|切割)=(|D1|/|D|)*Gini(D1)+(|D2|/|D|)*Gini(D2)。gini越小，数据分类越准确。

这算法没什么好讲的，比较简单。

from __future__ import print_function
from random import seed,randrange,random

#导入csv文件
def loadDataSet(filename):
    dataset=[]
    with open(filename,'r') as fr:
        for line in fr.readlines():
            if not line:
                continue
            lineArr=[]
            for feature in line.split(','):
                #strip()返回移除字符串头尾指定的字符生成的新字符串
                str_f=feature.strip()
                
                # isdigit 如果是浮点型数值，就是false，所以换成isalpha()函数
                # if str_f.isdigit():     # 判断是否是数字
                if str_f.isalpha():
                    # 添加分类标签
                    lineArr.append(str_f)
                else:
                    # 将数据集的第column列换成float形式
                    lineArr.append(float(str_f))
            dataset.append(lineArr)
    return dataset

def cross_validation_split(dataset,n_folds):
    '''
    cross_validation_split(将数据集进行抽重抽样 n_folds 份，数据可以重复抽取，每一次list的元素是无重复的)
    Args:
        dataset     原始数据集
        n_folds     数据集dataset分成n_flods份
    Returns:
        dataset_split    list集合，存放的是: 将数据集进行抽重抽样 n_folds 份，数据可以重复重复抽取，每一次list的元素是无重复的
    
    '''
    dataset_split=list()
    dataset_copy=list(dataset) # 复制一份dataset,防止dataset的内容改变
    fold_size=len(dataset)/n_folds
    for i in range(n_folds):
        fold =list()                 # 每次循环 fold 清零，防止重复导入 dataset_split
        while len(fold)=max_depth:   # max_depth=10 表示递归10次，若分类还未结束，则选取数据中分类标签较多的作为结果，使分类提前结束，防止过拟合
        node['left'],node['right']=to_terminal(left),to_terminal(right)
        return
    # process left child
    if len(left)<=min_size:
        node['left']=to_terminal(left)
    else:
        node['left']=get_split(left,n_features) # node['left']是一个字典，形式为{'index':b_index,'value':b_value,'groups':b_groups},所以node是一个多层字典
        split(node['left'],max_depth,min_size,n_features,depth+1)
    #process rigjt child
    if len(right)<=min_size:
        node['right']=to_terminal(right)
    else:
        node['right']=get_split(right,n_features)
        split(node['right'],max_depth,min_size,n_features,depth+1)
        
#Build a decision tree
def build_tree(train,max_depth,min_size,n_features):
    '''
    build_tree(创建一个决策树)
    Args:
        train           训练数据集
        max_depth       决策树深度不能太深，不然容易导致过拟合
        min_size        叶子节点的大小
        n_features      选取的特征的个数
    Returns:
        root            返回决策树
    
    '''
    
    # 返回最优列和相关的信息
    root=get_split(train,n_features)
    
    # 对左右2边的数据 进行递归调用，由于最优特征使用过，所以在后面进行使用的时候，就没有意义了
    # 例如： 性别-男女，对男使用这一特征就没有任何意义了
    split(root,max_depth,min_size,n_features,1)
    return root

# make a prediction with a decision with a decision tree
def predict(node,row): # 预测模型分类结果
    if row[node['index']]

# 加载数据
dataset=loadDataSet('data/7.RandomForest/sonar-all-data.txt')
# print dataset

n_folds=5       # 分成5份数据，进行交叉验证
max_depth=20    # 调参（自己修改） #决策树深度不能太深，不然容易导致过拟合
min_size=1      # 决策树的叶子节点最少的元素数量
sample_size=1.0 #做决策树时候的样本的比例
# n_features=int((len(dataset[0])-1))
n_features=15   #调参(自己修改) # 准确性与多样性之间的权衡
for n_trees in [1,10,20,30,40,50]:   # 理论上树是越多越好
    scores=evalute_algorithm(dataset,randon_forest,n_folds,max_depth,min_size,sample_size,n_trees,n_features)
    #每一次执行本文件时都能产生同一个随机数
    seed(1)       # 使随机数相同
    print('random=',random())
    print('Trees:%d'% n_trees)
    print('Scores:%s'%scores)
    print('Mean Accuracy: %.3f%%'%(sum(scores)/float(len(scores))))