Release Time:2019-03-10  Hits:

Indexed by: Journal Article

Date of Publication: 2015-07-15

Journal: 小型微型计算机系统

Included Journals: CSCD、ISTIC、PKU

Volume: 36

Issue: 7

Page Number: 1409-1414

ISSN: 1000-1220

Key Words: 大数据;缺失值填充;减法聚类;MapReduce模型

Abstract: 不完整数据填充是数据预处理领域重要研究课题.传统数据填充算法时间复杂度高,算法不具有分布式处理特性,不满足大数据环境下对数据快速处理的要求.提出一种基于分布式减法聚类的不完整数据填充算法,算法首先利用改进的减法聚类算法对整个数据集进行聚类.为了提高聚类算法的效率,利用云计算技术对聚类算法进行优化,实现基于多级MapReduce的分布式减法聚类算法.然后根据聚类结果和加权距离对缺失数据值进行填充,在保证数据填充精度的同时大幅度降低了填充过程的处理时间.实验结果表明,本文提出的方法能够对大数据进行快速聚类,同时有效保证缺失数据的填充精度.