数学建模 --- 分类模型:逻辑回归 与 LDA

分类问题种类

    • 分类问题种类
    • 二分类
      • 将定性变量->数值变量 --- Spss使用虚拟变量
      • 逻辑回归(logistic regression)
        • 逐步回归 --- 一般是向后逐步回归
        • 界面中的分类按钮 --- 选择定性变量并选择对照组
        • 界面中的保存按钮
        • 界面中的选项按钮
        • 结果分析
      • 预测结果差
      • Fisher线性判别分析 --- LDA
        • 统计按钮
        • 分类按钮
        • 保存按钮
    • 多分类
      • Fisher线性判别分析 --- LDA
      • 逻辑回归(logistic regression)
        • 保存按钮
        • 选项按钮
        • 条件按钮
    • 结果分析
    • 检测过拟合

分类问题种类

  1. 二分类:
    逻辑回归(logistic regression)
    Fisher线性判别分析 — LDA
  2. 多分类
    Spss中的多分类线性判别分析多分类逻辑回归操作

二分类

将定性变量->数值变量 — Spss使用虚拟变量

数学建模 --- 分类模型:逻辑回归 与 LDA_第1张图片
创建虚拟变量:

  • 引入虚拟变量的个数一般为分类数 - 1
    比如:定性变量(男/女),有两个分类,所以设置一个虚拟变量(0男,1女)
  • 数学建模 --- 分类模型:逻辑回归 与 LDA_第2张图片比如有两类水果:会新增三个变量(两个是变量对应样本标签为两类水果,还有一个标签对应要代表测试集和训练集)
    对于二分类,可能要经过修改新增的标签来得到虚拟变量

逻辑回归(logistic regression)

数学建模 --- 分类模型:逻辑回归 与 LDA_第3张图片

  1. 因变量:类别(为数值)
  2. 协变量:自变量

逐步回归 — 一般是向后逐步回归

  1. 如果不使用逐步回归,选择输入按钮

  2. 逐步回归分析
    数学建模 --- 分类模型:逻辑回归 与 LDA_第4张图片

界面中的分类按钮 — 选择定性变量并选择对照组

数学建模 --- 分类模型:逻辑回归 与 LDA_第5张图片

界面中的保存按钮

数学建模 --- 分类模型:逻辑回归 与 LDA_第6张图片

  • 概率
    二分类中, y = = 1 y==1 y==1发生的概率
  • 组成员
    分类的结果,预测样本属于哪一组

界面中的选项按钮

数学建模 --- 分类模型:逻辑回归 与 LDA_第7张图片
逐步回归分析

  • 进入
    使用向前逐步回归时,进入的概率
  • 除去
    使用向后逐步回归时,除去的概率

结果分析

数学建模 --- 分类模型:逻辑回归 与 LDA_第8张图片

  • y ^ \hat{y} y^ 二分类下,为该样本为 y = = 1 y==1 y==1的概率

预测结果差

数学建模 --- 分类模型:逻辑回归 与 LDA_第9张图片
但注意可能会过拟合

Fisher线性判别分析 — LDA

数学建模 --- 分类模型:逻辑回归 与 LDA_第10张图片
数学建模 --- 分类模型:逻辑回归 与 LDA_第11张图片

  • 分组变量:根据哪个变量的值进行分组
    要定义范围

统计按钮

数学建模 --- 分类模型:逻辑回归 与 LDA_第12张图片

分类按钮

数学建模 --- 分类模型:逻辑回归 与 LDA_第13张图片

  • 摘要表:可以得到分类的准确率

保存按钮

数学建模 --- 分类模型:逻辑回归 与 LDA_第14张图片

  • 预测组成员:二分类预测的结果是0还是1
  • 组成员概率:属于1的概率和属于0的概率

多分类

Fisher线性判别分析 — LDA

假设有四类
仅需要修改 定义范围 即可
数学建模 --- 分类模型:逻辑回归 与 LDA_第15张图片

逻辑回归(logistic regression)

数学建模 --- 分类模型:逻辑回归 与 LDA_第16张图片

保存按钮

数学建模 --- 分类模型:逻辑回归 与 LDA_第17张图片

  • 估算响应概率:对于每一种类别的概率

选项按钮

数学建模 --- 分类模型:逻辑回归 与 LDA_第18张图片逐步回归分析

  • 使用逐步回归后可以调整

条件按钮

数学建模 --- 分类模型:逻辑回归 与 LDA_第19张图片

结果分析

数学建模 --- 分类模型:逻辑回归 与 LDA_第20张图片

  • 典则判别函数系数
    如果是n分类,则用于划分的平面个数有n-1个,则有n-1个函数

检测过拟合

数学建模 --- 分类模型:逻辑回归 与 LDA_第21张图片
在这里插入图片描述

你可能感兴趣的:(逻辑回归,数学建模,LDA)