一种面向涌现的比较性话题模型  

A comparative topic model for words burstiness

作　　者：谭文堂[1] 王桢文[1] 殷风景[1] 葛斌[1] 肖卫东[1] 

机构地区：[1]国防科技大学信息系统工程重点实验室,湖南长沙410073

出　　处：《国防科技大学学报》2013年第4期146-155,共10页Journal of National University of Defense Technology

基　　金：国家自然科学基金资助项目(60903225);湖南省自然科学基金项目(11JJ5044);国防科技大学优秀研究生创新基金项目(S100502)

摘　　要：提出一种CDCMLDA生成模型来实现跨文本集的话题分析,采用狄利克雷组合多项式模型(Dirichlet Compound Multinomial,DCM)对文本集中词的涌现现象进行建模,把DCM模型和LDA结合起来分析文本集之间话题的差异,采用蒙特卡罗期望最大化方法进行参数推导。在多个实际数据集中通过定性和定量的方法对模型进行评价,实验表明,模型不仅能够发现不同文本集间的异同,而且在模型困惑度指标上相对当前两种主要跨文本集的话题模型具有明显的优势。State-of-the-art cross collections topic models suffer from the serious flaw that it cannot capture the tendency of words to appear in bursts. Based on LDA （Latent Dirichlet Allocation）, a topic model CDCMLDA（ Cross-collection Diriehlet compound multinomial Latent Dirichlet Allocation）, which models the burstiness phenomena of words using Dirichlet compound muhinomial （DCM） distribution, was proposed. A Monte Carlo Expectation Maximization algorithm for model inference was presented. A variety of qualitative and quantitative evaluations of CDCMLDA were performed, which shows that CDCMLDA not only discovers the common and unique aspects on topics, but also improves the model perplexity compared with the two cross-collection topic models.

关 键 词：比较性文本挖掘 涌现 话题模型 CDCMLDA模型 

分 类 号：O212.6[理学—概率论与数理统计]