点击次数：

论文类型：期刊论文

发表时间：2015-07-15

发表刊物：小型微型计算机系统

收录刊物：PKU、ISTIC、CSCD

卷号：36

期号：7

页面范围：1409-1414

ISSN号：1000-1220

关键字：大数据;缺失值填充;减法聚类;MapReduce模型

摘要：不完整数据填充是数据预处理领域重要研究课题.传统数据填充算法时间复杂度高,算法不具有分布式处理特性,不满足大数据环境下对数据快速处理的要求.提出一种基于分布式减法聚类的不完整数据填充算法,算法首先利用改进的减法聚类算法对整个数据集进行聚类.为了提高聚类算法的效率,利用云计算技术对聚类算法进行优化,实现基于多级MapReduce的分布式减法聚类算法.然后根据聚类结果和加权距离对缺失数据值进行填充,在保证数据填充精度的同时大幅度降低了填充过程的处理时间.实验结果表明,本文提出的方法能够对大数据进行快速聚类,同时有效保证缺失数据的填充精度.