清风数学建模学习笔记-二分类与多分类-逻辑回归

内容:逻辑回归

一.二分类之使用SPSS进行分析

1.使用SPSS进行变量虚拟化:

转化-创建虚变量

  1. 线性概率模型LPM:

清风数学建模学习笔记-二分类与多分类-逻辑回归_第1张图片

  1. 连接函数(激活函数)的取法:

清风数学建模学习笔记-二分类与多分类-逻辑回归_第2张图片

盲选Sigmoid

1.分析-回归-二元回归

清风数学建模学习笔记-二分类与多分类-逻辑回归_第3张图片

在此基础上可以在分类中进行对协变量进行虚拟化

清风数学建模学习笔记-二分类与多分类-逻辑回归_第4张图片

还可以选择先前回归先后回归

  1. 预测结果差?怎么办:

清风数学建模学习笔记-二分类与多分类-逻辑回归_第5张图片

  1. 过拟合:加入平方项后出现过拟合:

清风数学建模学习笔记-二分类与多分类-逻辑回归_第6张图片

  1. 解决过拟合的方法:划分数据进行交叉验证

清风数学建模学习笔记-二分类与多分类-逻辑回归_第7张图片

这种方法是在源头上,训练时就不训练出过拟合的拟合函数

扩展:解决过拟合最好的办法是增加数据量

  • 使用逻辑回归进行多分类:

1.softmax函数

2.SPSS:

分析-回归-多元逻辑回归

3.在保存选项中,勾选保存预测的类别一定要

你可能感兴趣的:(分类,逻辑回归,数据挖掘)