一种引入动态词库更新的中文分词架构  

Framework for Chinese Word Segmentation with Dynamic Updating Dictionary

作　　者：刘芳芳[1,2] 王晶[1,2] 沈奇威[1,2] 

机构地区：[1]北京邮电大学 网络与交换技术国家重点实验室,北京100876 [2]东信北邮信息技术有限公司,北京100191

出　　处：《计算机系统应用》2013年第3期100-103,50,共5页Computer Systems & Applications

基　　金：国家自然科学基金(61072057;61101119;61121001;60902051);长江学者和创新团队发展计划(IRT1049);国家科技重大专项(2011ZX03002-001-01)

摘　　要：针对互联网环境下新词出现和更新频率高的特点,将机械分词与基于规则分词相结合,提出一种动态更新词库的中文分词架构.本架构给出了新的词典设计结构及歧义处理规则,并将统计学中的互信息概念运用到新词判定环节.实验表明本文提出的中文分词架构具有较高的准确率和良好的适应性.Aiming at new word appearing and updating frequently in the Internet, through combining mechanical segmentation and rule-based segmentation, a framework for Chinese word segmentation with dynamic updating dictionary is provided. We improve a new dictionary design structure and ambiguity processing rules. Also the concept of mutual information in Statistics is used in determining the new word. The experiment shows that the framework for Chinese word segmentation proposed in this paper has high precision and is adaptive in different domains.

关 键 词：中文分词 最大词长 歧义处理 互信息 未登录词 

分 类 号：TP391.1[自动化与计算机技术—计算机应用技术]