论文部分内容阅读
针对传统的分词方法切分军事类文本存在未登录词多和部分词条特征信息不完整的问题，提出把整个分词过程分解为若干子过程，以词串为分词单位对军事类文本进行分词。首先基于词典对文本进行双向扫描，标识歧义切分字段，对切分结果一致的字段进行停用词消除，计算第一次分词得到的词条间的互信息和相邻共现频次，根据计算结果判定相应的词条组合成词串并标识，最后提取所标识的歧义字段和词串由人工对其进行审核处理。实验结果表明，词条组合后的词串的特征信息更丰富，分词效果更好。