Hits:

Indexed by:期刊论文

Date of Publication:2015-07-15

Journal:小型微型计算机系统

Included Journals:PKU、ISTIC、CSCD

Volume:36

Issue:7

Page Number:1409-1414

ISSN No.:1000-1220

Key Words:大数据;缺失值填充;减法聚类;MapReduce模型

Abstract:不完整数据填充是数据预处理领域重要研究课题.传统数据填充算法时间复杂度高,算法不具有分布式处理特性,不满足大数据环境下对数据快速处理的要求.提出一种基于分布式减法聚类的不完整数据填充算法,算法首先利用改进的减法聚类算法对整个数据集进行聚类.为了提高聚类算法的效率,利用云计算技术对聚类算法进行优化,实现基于多级MapReduce的分布式减法聚类算法.然后根据聚类结果和加权距离对缺失数据值进行填充,在保证数据填充精度的同时大幅度降低了填充过程的处理时间.实验结果表明,本文提出的方法能够对大数据进行快速聚类,同时有效保证缺失数据的填充精度.