基于熵的模糊信息测度研究  

Entropy-Based Fuzzy Information Measures

作　　者：丁世飞[1,2] 朱红[1] 许新征[1] 史忠植[2] 

机构地区：[1]中国矿业大学计算机科学与技术学院江苏,徐州221116 [2]中国科学院计算技术研究所智能信息处理重点实验室,北京100190

出　　处：《计算机学报》2012年第4期796-801,共6页Chinese Journal of Computers

基　　金：国家自然科学基金项目(41074003,60975039);国家“九七三”重点基础研究发展规划项目基金(2007CB311004);江苏省基础研究计划(自然科学基金)(BK2009093);中国科学院智能信息处理重点实验室开放基金项目(IIP2010-1)资助~~

摘　　要：模糊信息测度(Fuzzy Information Measures,FIM)是度量两个模糊集之间相似性大小的一种量度,在模式识别、机器学习、聚类分析等研究中,起着重要的作用.文中对模糊测度进行了分析,研究了基于熵的模糊信息测度理论:首先,概述了模糊测度理论,指出了其优缺点;其次,基于信息熵理论,研究了模糊熵理论,建立了模糊熵公理化体系,讨论了各种模糊熵,在此基础上,提出了模糊绝对熵测度、模糊相对熵测度等模糊熵测度;最后,基于交互熵理论,建立了模糊交互熵理论,进而提出了模糊交互熵测度.这些测度理论,不仅丰富与发展了FIM理论,而且为模式识别、机器学习、聚类分析等理论与应用研究提供了新的研究方法.Fuzzy Information Measures（FIM） are to be used to measure similarity between two fuzzy sets and plays an important part in pattern recognition,machine learning,clustering analysis.In this paper,FIM theory is studied based on information entropy.Firstly,the existing FIM theories are introduced and some advantages and disadvantages are pointed out.Secondly,based on information entropy,the fuzzy information entropy is studied,four axioms about fuzzy entropy are set up,and all kinds of definitions of fuzzy entropy are discussed.Based on fuzzy entropy,two new fuzzy entropy measures,fuzzy absolute information measure（FAIM） and fuzzy relative information measure（FRIM） are proposed.At last,based on cross entropy,the fuzzy cross entropy is discussed,and fuzzy cross entropy measure（FCEM） is set up.All these measures,not only enrich and develop FIM theory,but also provide a new research approach for studies on pattern recognition,machine learning,clustering analysis et al in theory and application.

关 键 词：模糊熵 模糊交互熵 模糊绝对熵测度 模糊相对熵测度 模糊交互熵测度 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程]