任意信源的一类Shannon-Mcmillan逼近定理  

A Class of Shannon-Mcmillan Approximation Theorems for Arbitrary Discrete Information Source

作　　者：王康康[1] 杨卫国[2] 

机构地区：[1]江苏科技大学数理学院,江苏镇江212003 [2]江苏大学理学院,江苏镇江212013

出　　处：《Journal of Mathematical Research and Exposition》2007年第4期719-727,共9页数学研究与评论（英文版）

基　　金：国家自然科学基金(10571076);江苏省教育厅自然科学基金(02KJD110003)

摘　　要：该文通过概率空间上的任意分布与另一任意分布相比较,研究任意随机序列相对熵密度的小偏差定理.并由此得出若干任意信源,m阶马氏信源的Shannon-Mcmillan定理.将已有的关于离散信源的结果加以推广.In this paper, a class of small-deviation theorems for the relative entropy densities of the arbitrary stochastic sequence are discussed by comparing two joint distributions. As corollaries, some Shannon-Mcmillan theorems for arbitrary information source, m-order Markov information source are obtained and some results for the discrete information source are extended.

关 键 词：SHANNON-MCMILLAN定理 小偏差定理 任意信源 相对熵密度 m阶马氏信源 

分 类 号：O211[理学—概率论与数理统计] O236[理学—数学]