缺失值侦测与处理

 

缺失值的侦测的方法:

1、mice包中的md.pattern()函数可以生成一个以矩阵或数据框形式展示缺失值模式的表格

缺失值侦测与处理_第1张图片

这个矩阵呢,表示像第一行缺失0个的模式有13行,像第二行缺失1个的模式有1行,如此类推

所以呢,一共就有0*13+1*1+1*3+2*1+3*7=27个缺失值,也可以算每列的,age列缺0个,hyp列缺8个,bmi列缺9个,chl列缺10个,共缺0+8+9+10=27个

2、VIM包中可可视化数据集中缺失值模式的函数:aggr()、matrixplot()、scattMiss()

 aggr(nhanes,prop=FALSE,numbers=TRUE) 

缺失值侦测与处理_第2张图片

此外,当prop参数设置为true时,将用比例代替计数

 matrixplot(nhanes) 

缺失值侦测与处理_第3张图片

此处,缺失的地方为红色,其他的数值较小,颜色较浅;数值越大,颜色越重。

另,不适合非数值数据,会把非数值数据判断成缺失

 marginplot(nhanes[c("hyp","chl")],pch=c(20),col=c("darkgray","red","blue")) 

缺失值侦测与处理_第4张图片

 

缺失值的处理一般有以下几种方法:

1、将含缺失值的记录删除

2、根据变量之间的相关关系填补缺失值

3、根据记录之间的相似性填补缺失值

4、使用能够处理缺失值的工具

 

将含缺失值的记录删除

一般适用于以下情况:

此条记录中含有较多变量的缺失值

 

得到数据中至少含有一个变量的缺失值的记录 的计数

nrow(data[!complete.cases(data),]

剔除含有缺失值的记录

data=data[complete.cases(data),]
或者
data=na.omit(data)

 得到每行数据的缺失值个数

apply(data,1,function(x) sum(is.na(x)))

 

用最高频率值填补缺失值

填补缺失值最简便和快捷的方法是使用一些代表中心趋势的值,因为他们反映了变量分布的最常见值。例如平均值、中位数、众数等。

对于接近正态的分布来讲,平均值数就是最佳选择;

对于偏态分布或者有离群值的分布而言,中位数是更好的代表数据中心趋势的指标。

填补data的noNum列的缺失值:

data[is.na(data$noNum,"noNum"]=median(data$noNum,na.rm=T)  

对于名义变量,常使用众数填补。

通过变量的相关关系来填补缺失值

缺失值为数值变量时常使用相关性计算线性回归,

缺失值为名义变量时常通过绘图观察规律进行填充。

产生变量之间的相关值

cor(data[,4:18],use="complete.obs")  

 改善结果输出形式:

symnum(cor(data[,4:18],use="complete.obs"))

 

找出相关性比较高的变量,通过线性回归对缺失值进行计算填充

填充名义变量时常用的绘图函数(lattice包):

histogram(~mxPH|season,data=algae)
histogram(~mxPH|size*speed,data=algae)
stripplot(size~mxPH|speed,data=algae,jitter=T)  

 

根据记录之间的相似性填补缺失值

度量两个记录之间的相似性:欧氏距离,找出与任何含有缺失值的案例最相似的10条记录

两种方法:

1、计算这10条记录的中位数,并用中位数来填补缺失值。若为名义变量,采用众数

2、采用这些最相似数据的加权均值。权重的大小随着距待填补缺失值的个案的距离增大而减小。可采用高斯核函数从距离获得权重。若相邻个案距待填补缺失值的个案的距离为d,则它的值在加权平均中的权重为 w(d)=exp(-d)

注:在计算距离时,一般要对数值变量进行标准化。即 yi=(xi-xbar)/sigma(x)

 

转载于:https://www.cnblogs.com/Hyacinth-Yuan/p/7887181.html

你可能感兴趣的:(缺失值侦测与处理)