一种改进的LDA主题模型  

An Improved LDA Topic Model

作　　者：张小平[1] 周雪忠[1] 黄厚宽[1] 冯奇[1] 陈世波[2] 焦宏官[3] 

机构地区：[1]北京交通大学计算机与信息技术学院,北京100044 [2]中国中医科学院广安门医院,北京100053 [3]中国中医科学院中医药信息研究所,北京100700

出　　处：《北京交通大学学报》2010年第2期111-114,共4页JOURNAL OF BEIJING JIAOTONG UNIVERSITY

基　　金：国家"973"计划项目资助(2006CB504601);国家科技支撑计划项目资助(2007BA110B06-01);国家自然科学基金资助项目(90709006);北京市科委科研攻关项目资助(D08050703020804);北京交通大学科技基金资助(2007RC072)

摘　　要：由于文档中的词符合幂律分布,使得LDA模型的主题分布向高频词倾斜,导致能够代表主题的多数词被少量的高频词淹没使得主题表达能力降低.通过一种高斯函数对特征词加权,改进LDA主题模型的主题分布.实验显示加权LDA模型获得的主题间的相关性以及复杂度(Perplexity)值都降低,说明改进模型在主题表达和预测性能方面都有所提高.The distribution of words in the document satisfy power rules,which cause the topics incline the high frequency words,and then many words which can represent topics are submerged.It leads to reduce the expression capability of LDA topics.An improved LDA topic model is showed by weighting the feature words using Gauss function.The experiments indicate that the weighting topic model is better generalization performance by validating the correlations among the topics and the perplexity value of model.

关 键 词：LDA Dirichlet分布 加权主题模型 

分 类 号：TP391.43[自动化与计算机技术—计算机应用技术]