论文部分内容阅读
Shannon信息论以信息测度(即Shannon熵)、信道容量、信源与信道编码理论为主要的研究问题。其中,信息测度、信道容量是系统设计的评价指标,因此,对它们的研究仍是必要的。 本文以Shannon信息理论、概率论、随机过程等理论为理论基础。首先简要地介绍了Shannon信息论的基本内容,然后,我们推导了由R.W.Yeung等人定义的测度空间[Ω,F,μ*]上生成符号测度μ*与Xn的联合熵间的解析关系,并由此验证了Yeung的结论:“生成符号测度μ*由Shannon熵唯一确定”。从而得出“在随机变量Xn的符号空间上的概率测度函数族通过熵映射到一个符号测度类上,而且对于任意固定的n,每个符号测度μ*都是一个简单函数”。 最后,我们讨论了一个在无线通信中很有用的信道模型——有限状态Markov信道,这是一个非平稳时变信道。在Goldsmith和Varaiya的论文中,他们得到了在输入是独立同分布的条件下有限状态Markov信道的信道容量的递推算法,其中条件信道状态的分布特性是关键。但在文中未对在过去输入、输出对的条件下信道状态概率序列{πn}的分布性质给予推导,以及所给为说明{πn}的马尔可夫性未必保持的反例欠妥。鉴于此,我们应用部分可观测Markov链的理论结果讨论了{πn}的分布特性,并重给一反例来说明它。