期刊论文

黄德根

Huang, D.(huangdg@dlut.edu.cn)

焦世斗,周惠巍

2010-05-15

计算机研究与发展

EI、PKU、ISTIC、CSCD、Scopus

J

47

5

962-968

1000-1239

中文分词;条件随机场;双层条件随机场;子词;子词过滤

提出了基于子词的双层CRFs(conditional random fields)中文分词方法,旨在解决中文分词中切分歧义与未登录词的问题.该方法是建立在基于子词的序列标注模型上.方法第1层利用基于字CRFs模型来识别待测语料中的子词,这样做是为了减少子词的跨越标记错误和增加子词识别的精确率;第2层利用CRFs模型学习基于子词的序列标注,对第1层的输出进行测试,进而得到分词结果.在2006年SIGHAN Bakeoff的中文简体语料上进行了测试,包括UPUC和MSRA语料,分别在F值上达到了93.3%和96.1%的精度.实验表明,基于子词的双层CRFs模型能够更加有效地利用子词来提高中文分词的精度.