摘要:通信系统通常包括信源、信道和信宿,信道是信息传递的渠道,承担信息的传输和储存的任务,是通信系统的一个重要组成部分。信道的种类有多种,对单一和多符号离散对称信道进行讨论,并专门给出了他们的信道容量。对于固定的信道,总有一种信源的输入概率分布,使信道传输一个符号接收端获得的平均信息量最大,这个最大的信息传输率即为信道容量,而相应的输入概率分布称为最佳输入分布。我们在信息理论和相关重要结论的基础上分析讨论简化信道容量的计算过程和方法,为了评估实际信道的利用率,应具体计算已给信道的容量。这是一个求最大值的问题。因为互信息对输入符号概率而言是凸函数,所以其极值是最大值,因此这也就是一个求极值的问题。对于离散信道,P(X)是一组数,满足非负性和归一性等条件,可用拉格朗日乘子法求得条件极值。但是连续信道,P(X)是一函数,我们必须用变分法求条件极值。但是对于绝大部分信道,这些方法无法得到明确的解,有时还会得到不允许的解,如求得的P(X)为负值等。
为了工程目的,我们常使用一些简单的信道计算模型,直接计算一般信道和特殊信道的信道容量。对于离散无记忆N次扩展信道,当信源是平稳无记忆信源时,其平均互信息等于单符号信道的平均互信息的N倍。当信源也是无记忆信源并且每一时刻的输入分布各自达到最佳输入分布时,才能达到这个信道容量NC。串联信道是最基本的组合信道,许多实际信道都可以看成是串联信道的组合。两个单符号信道组成的最简单的串联信道X→Y→Z 组成一个马尔可夫链。根据马尔可夫链的性质,串联信道的总的信道矩阵等于这两个串接信道的信道矩阵的乘积。求得串联信道的总的信道矩阵后,串联信道的信道容量就可以用求离散单符号信道的信道容量的方法计算。
关键词 信息传递;最佳输入分布;条件极值;串联信道
目录
摘要
Abstract
1 绪论-1
1.1课题背景-1
1.2选题意义-1
1.3研究的主要内容-1
1.3.1信道容量定理-1
1.3.2信道容量计算思想-2
1.3.3离散多符号信道及其信道容量-2
1.3.4合成信道及其信道容量-2
2 离散对称信道的信道容量-3
2.1离散对称信道的信道容量-3
2.1.1信道容量-3
2.1.2行对称信道-4
2.1.3对称信道-5
2.1.4准对称信道-5
2.1.5强对称信道-7
2.2 一般离散信道的信道容量-8
2.3 离散无记忆信道的信道容量-11
3 信道容量计算的迭代公式和迭代方法-14
4 合成信道及其信道容量-18
结论-20
致谢-21
参考文献-22