location: Current position: Home >> Scientific Research >> Paper Publications

高维数据中鲁棒激活函数的极端学习机及线性降维

Hits:

Indexed by:期刊论文

Date of Publication:2014-06-15

Journal:计算机研究与发展

Included Journals:EI、PKU、ISTIC、CSCD、Scopus

Volume:51

Issue:6

Page Number:1331-1340

ISSN No.:1000-1239

Key Words:极端学习机;线性降维;鲁棒激活函数;高维数据;神经网络

Abstract:极端学习机(extreme learning machine,ELM)训练速度快、分类率高,已经广泛应用于人脸识别等实际问题中,并取得了较好的效果.但实际问题中的数据往往维数较高,且经常带有噪声及离群点,降低了ELM算法的分类率.这主要是由于:1)输入样本维数过高;2)激活函数选取不当.以上两点使激活函数的输出值趋于零,最终降低了ELM算法的性能.针对第1个问题,提出一种鲁棒的线性降维方法(RAF-global embedding,RAF-GE)预处理高维数据,再通过ELM算法对数据进行分类;而对第2个问题,深入分析不同激活函数的性质,提出一种鲁棒激活函数(robust activation function,RAF),该激活函数可尽量避免激活函数的输出值趋于零,提升RAF-GE及ELM算法的性能.实验证实人脸识别方法的性能普遍优于使用其他激活函数的对比方法.

Pre One:Incorporate Extreme Learning Machine to content-based image retrieval with relevance feedback

Next One:An efficient algorithm of frequent itemsets mining based on MapReduce