Hits:

Indexed by:期刊论文

Date of Publication:2017-05-15

Journal:中文信息学报

Included Journals:CSCD

Volume:31

Issue:3

Page Number:25-31

ISSN No.:1003-0077

Key Words:词表示 词嵌入 词向量 神经网络 关系模型 word representation word embedding word vectors neural network relation model

Abstract:词向量能够以向量的形式表示词的意义,近来许多自然语言处理应用中已经融入词向量,将其作为额外.特征或者直接输入以提升系统性能.然而,目前的词向量训练模型大多基于浅层的文本信息,没有充分挖掘深层的依存关系.词的词义体现在该词与其他词产生的关系中,而词语关系包含关联单位、关系类型和关系方向三个属性,因此,该文提出了一种新的基于神经网络的词向量训练模型,它具有三个顶层,分别对应关系的三个属性,更合理地利用词语关系对词向量进行训练,借助大规模未标记文本,利用依存关系和上下文关系来训练词向量.将训练得到的词向量在类比任务和蛋白质关系抽取任务上进行评价,以验证关系模型的有效性.实验表明,与skipgram模型和CBOW模型相比,由关系模型训练得到的词向量能够更准确地表达词语的语义信息.