一种面向多文本集的部分比较性LDA模型  

A Partial Comparative Cross Collections LDA Model

作　　者：谭文堂[1] 王桢文[1] 殷风景[1] 葛斌[1] 肖卫东[1] 

机构地区：[1]国防科学技术大学信息系统工程重点实验室,长沙410073

出　　处：《计算机研究与发展》2013年第9期1943-1953,共11页Journal of Computer Research and Development

基　　金：国家自然科学基金项目(60903225);湖南省自然科学基金项目(11JJ5044);国防科学技术大学优秀研究生创新基金项目(S100502)

摘　　要：跨时空、跨文化文本挖掘等比较性文本挖掘(comparative text mining,CTM)旨在从多个可比的文本集中发现各文本集隐含语义结构的异同.针对当前主要的CTM模型只能分析公共话题的缺陷,提出一种部分比较性跨文本集LDA模型(partial comparative cross collections LDA model,PCCLDA)来实现跨文本集的话题分析,该模型通过层次狄利克雷过程(hierarchical Dirichlet processes,HDP)把话题划分为公共话题和文本集特有话题,使模型能更加精确地对文本进行建模.模型采用Gibbs抽样方法进行参数推导,一系列包括Held-Out数据对数似然和模型困惑度指标在内的定量与定性的实验表明,模型不仅能够发现公共话题在不同文本集中的差异,而且能分析各文本集特有的话题;在Held-Out对数似然测度和模型困惑度指标上,PCCLDA相对当前两个主要的CTM模型具有较大的优势.Comparative text mining like spatiotemporal and cross-cultural text mining is concerned with extracting common and unique themes from a set of comparable text collections. State-of-the-art cross collections topic models suffer from the important flaw that they can only analyze the common topics among document collections. We introduce a generative topic model PCCLDA （partial comparative cross collections LDA） for multi-collections CTM to detect both common topics and collection special topics, and model text more exactly based on hierarchical dirichlet processes. We present a Gibbs sampling for model inference, and evaluate the model by a variety of qualitative and quantitative evaluations including model perplexity and log-likelihood measurements. PCCLDA discovers both common topics among collections and collection special topics, and also shows improvements on model perplexity and Held-Out likehood compared with two main CTM topic models.

关 键 词：比较性文本挖掘 部分比较性 部分比较性跨文本集LDA模型 话题模型 GIBBS抽样 

分 类 号：TP181[自动化与计算机技术—控制理论与控制工程]