【数据挖掘】信息增益的计算

目录:

  • 前言
  • 一、预备知识
      • 1、熵是什么
      • 2、信息增益是什么?
  • 二、如何计算信息增益
  • 三、习题
  • ❤️❤️❤️忙碌的敲代码也不要忘了浪漫鸭!

前言

✨你好啊,我是“ 怪& ”,是一名在校大学生哦。
主页链接:怪&的个人博客主页
☀️博文主更方向为:课程学习知识、作业题解、期末备考。随着专业的深入会越来越广哦…一起期待。
❤️一个“不想让我曾没有做好的也成为你的遗憾”的博主。
很高兴与你相遇,一起加油!

一、预备知识

1、熵是什么

熵:信息量的数学期望,在信息论中衡量一个系统的不确定性。(越小越好)

2、信息增益是什么?

信息增益:当知道额外属性时,对整个系统的不确定性降了多少。(越大越好)

二、如何计算信息增益

例题如下:

【数据挖掘】信息增益的计算_第1张图片

三、习题

【数据挖掘】信息增益的计算_第2张图片
解答如下:【数据挖掘】信息增益的计算_第3张图片

❤️❤️❤️忙碌的敲代码也不要忘了浪漫鸭!

【数据挖掘】信息增益的计算_第4张图片

你可能感兴趣的:(程序员的选修之课,数据挖掘,信息增益,笔记)