体验Demo
首页    原创文章    缺失数据处理的实战解决摸索

缺失数据处理的实战解决摸索

作者:网舟科技席汉斌

在电信运营商大数据挖掘的应用中,由于数据获取的渠道以及数据结构理解的差异等原因,经常会把一些数据记为“未知”,“空白”或使用一些特殊的标识来表示,这类数据通常被称为缺失数据(missing data)或者是不完备数据(incomplete data) 。这些缺失数据通常会造成非常大的影响,比如缺失数据会在一定程度上影响抽取数据模式的正确性和导出规则的准确性,从而导致建立错误的数据挖掘模型,并且由于现阶段的大多数数据分析的算法都没有具备分析和处理缺失数据的能力,因而当数据集中含有缺失数据时这些已经被广泛使用的数据分析算法或者系统往往是无能为力的。目前,数据缺失的问题网舟科技团队在工作中已经取得了一些研究性成果,其中包括应用近似值替换方法、随机回归填补方法、神经网络、贝叶斯网络等理论来处理缺失数据的填补问题。

下面就几种常用的数据补齐方法进行对分析:删除样本法、0-1填补法、均值填补法、EM算法填补、回归填补、MI算法、K-最邻近法。

1、缺失数据补齐技术

1.1 传统方法

1.1.1删除法

这方法的思想是将原来数据集中含有缺失数据的样本删除,从而得到一个包含完整数据的数据集。这种方法简易可行,在含有数据缺失的样本数量比较少的情况下数据补齐效果比较不错。但是,这种方法是以删除含有缺失数据的样本来得到完整数据集,经常会有浪费资源的情况发生。例如,在删除含有缺失数据样本的同时,也失去了隐含在这些样本中的大量有价值信息。并且当含有缺失数据的样本数量比较多时,这种方法对处理后得到的数据集的均值和方差分布方面都会产生较大的偏差。

1.1.2填充01、均值法

该方法是将原数据集中包含缺失数据的项全都简单地填充为01或者相应属性的样本均值,从而得到一个完整的数据集。

 

 

3实验及分析

3.1 实验数据

网舟科技出于数据保密的原则,实验数据是从公开数据库UCI机器学习资源库获取的4个含有缺失数据的分类数据集,他们分别是互联网广告数据集(internetadvertisements dataset)、肝炎数据集(hepatitis dataset)、乳腺肿块数据集(mammographic masses dataset)以及众议院投票数据集(house-votes-84 dataset)。以下分别简称这些数据集为adhepatitismammographic以及house vote

       4个数据集均含有不同数量的缺失数据,表1列出了这4个数据集的包含样本总数、属性个数、含有缺失数据样本数以及数据缺失比例。

1数据集基本信息

 

样本总数

属性数

缺失数据样本数

数据缺失比例(%)

Ad

3264

1558

905

27.73

Hepatitis

155

19

75

48.39

Housevote

435

16

203

46.67

Mammographic

961

5

131

13.63

 

 

 

3.2数值实验及结果分析

针对以上4个数据集,分别应用填补0、填补1、填补均值、EM算法(EM)、回归填补法、MI算法(MI)KNN算法(KNN)以及删除样本的方法对其缺失值进行处理,得到相应的完整数据集。其中KNN算法的k值取10

采用支持向量机的分类结果作为检验补齐性能指标度量。SVM的核函数分别采用线性核和Gaussian核。数据集的Gaussian核的Sigma值分别为0.000010.00010.0010.010.1110100100010000。使用n-折交叉检验来检验不同缺失值填补方法的处理效果,其中n值均取10

1-4分别给出了支持向量机在Gaussian核下,不同Sigma值下各填补方法的效果。从图中可以选出在合适的Sigma值下,相比其他填补方法,删除样本法及回归法的填补效果比较好。从图1-4的实验结果中,我们可以选出针对不同数据的高斯核参数,即在4组数据下的相对最优Sigma参数分别为1001001010

 

1. Ad数据在不同sigma参数下的分类准确率

 

2. Hepatitis数据在不同sigma参数下的分类准确率

 

3. Housevotes数据在不同sigma参数下的分类准确率

 

4. Mammographic数据在不同sigma参数下的分类准确率

 

2给出了支持向量机在线性核下(选用线性核的原因是该核无参数),对4个数据集使用不同填补方法的效果,从表2中可以看出删除样本准确率相对较高。

3给出了支持向量机在Gaussian核下,对4个数据集使用不同填补方法的效果。

2给出了支持向量机在线性核下(选用线性核的原因是该核无参数),对4个数据集使用不同填补方法的效果,从表2中可以看出删除样本准确率相对较高。

3给出了支持向量机在Gaussian核下,对4个数据集使用不同填补方法的效果。

 

2 线性核下各填补方法的准确率(%)比较

 

 

0

1

均值

EM

KNN

回归

MI

删除

Ad

94.05

93.29

93.66

94.18

93.63

95.22

93.41

95.33

Hepatitis

78.08

80.71

79.63

78.25

79.58

80.21

80.17

83.86

Housevote

95.61

95.41

96.33

95.41

96.09

96.09

83.87

95.12

Mammographic

67.44

62.22

64.53

68.37

63.07

65.97

66.70

68.97

 

3 Gaussian核下各填补方法的准确率(%)比较

 

 

0

1

均值

EM

KNN

回归

MI

删除

Ad

96.31

95.24

97.54

96

96

96.48

96.47

97.46

Hepatitis

82.67

80.21

83.37

82.08

84.67

82.83

84.63

84.63

Housevote

89.13

94.48

94.71

94.94

94.48

95.17

95.86

94.77

Mammographic

80.54

79.81

81.79

82.1

81.17

82.52

81.06

81.24

4、结 论

针对4个分类数据集中的数据缺失问题展开对比分析,分别应用填补0、填补1、填补均值、EM算法、回归填补法、MI算法、KNN算法以及删除样本的方法对其缺失值进行处理。使用支持向量机对数据集进行分类验证不同的缺失数据补齐方法的效果。从数值实验结果可以看出,回归补齐法及删除样本法的效果相对较好,补齐后的数据的分类准确率更高。在实际的运营商应用中,其数据样本大,或者样本中缺失属性比较多的情况,删除样本法就不够实用了,因此回归法补齐缺失数据是各类补齐数据方法中相对较好的一种。

 


网舟原创,转载请注明来源

官方网站: www.eship.com.cn;官方微信: eship2004

创建时间:2018-07-01 11:37

推荐新闻

网舟智慧营销解决方案

企业智慧营销数据中台,驱动深度运营和精准营销;

行为分析+用户画像,数据挖掘创造价值。

预约演示和专家交流
体验Demo

eShip跨渠道用户行为分析

跨渠道的用户交互打通,洞察用户全链路生命周期,实时监测、颗粒化深钻,提升用户体验和运营转化。

预约演示和专家交流
体验Demo

eShip Smart Report

傻瓜式数据可视化工具,可聚合数据,拖拉拽方式自由定制数据酷炫报表和大屏

详情介绍
体验Demo