《信道容量第三章2》由会员分享，可在线阅读，更多相关《信道容量第三章2（34页珍藏版）》请在金锄头文库上搜索。
1、信道容量第三章2Stillwatersrundeep.流静水深流静水深,人静心深人静心深Wherethereislife,thereishope。有生命必有希望。有生命必有希望3.1 3.1 信道的基本概念信道的基本概念3.2 3.2 单符号离散信道的信道容量单符号离散信道的信道容量3.3 3.3 多符号离散信道的信道容量多符号离散信道的信道容量3.4 3.4 连续信道连续信道3.5 3.5 信道编码定理信道编码定理内容内容23.2.1 信道容量的定义信道容量的定义3.2.2 几种特殊离散信道的信道容量几种特殊离散信道的信道容量I I 离散无噪信道的信道容量离散无噪信道的信道容量II 对称离散
2、信道的信道容量对称离散信道的信道容量III 准对称离散信道的信道容量准对称离散信道的信道容量3.2.3 离散信道容量的一般计算方法离散信道容量的一般计算方法3.2 3.2 单单符号离散信道的信道容量符号离散信道的信道容量3回顾回顾1.1.信道的基本概念信道的基本概念4信道信道：信息传输的通道：信息传输的通道 信道信道 信信 道道输入量输入量X(随机过程随机过程)输出量输出量Y(随机过程随机过程)p(Y|X)一般信道的数学模型一般信道的数学模型5回顾回顾2.2.单符号离散信道容单符号离散信道容量的定义量的定义 6p(yj /xi)XYi=1,2,n信道信道转移转移概率概率矩阵矩阵单符号离散信道容
3、量的定义单符号离散信道容量的定义 7信道容量信道容量C：最大的信息传输率最大的信息传输率单位时间的信道容量：单位时间的信道容量：单符号离散信道容量的定义单符号离散信道容量的定义 83.2 3.2 单符号离散信道的信道容量93.2.1 信道容量的定义信道容量的定义3.2.2 几种特殊离散信道的信道容量几种特殊离散信道的信道容量 I I I I 离散无噪信道的信道容量离散无噪信道的信道容量离散无噪信道的信道容量离散无噪信道的信道容量 II II 对称离散信道的信道容量对称离散信道的信道容量对称离散信道的信道容量对称离散信道的信道容量 III III 准对称离散信道的信道容量准对称离散信道的信道容量
4、准对称离散信道的信道容量准对称离散信道的信道容量3.2.3 离散信道容量的一般计算方法离散信道容量的一般计算方法3.2 3.2 单单符号离散信道的信道容量符号离散信道的信道容量103.2.2 3.2.2 几种特殊离散信道几种特殊离散信道的信道容量的信道容量11I、离散无噪信道的信道容量、离散无噪信道的信道容量12设信道的输入设信道的输入XA=a1 an,输出输出YB=b1 bm输入和输出符号之间有确定的输入和输出符号之间有确定的一一对应关系一一对应关系I-1 一一对应关系的无噪信道一一对应关系的无噪信道X a1 b1 Ya2 b2a3 b311113Xa1 b1 Ya2 b2an-1 bn-1
5、an bn11I-1 一一对应关系的无噪信道一一对应关系的无噪信道14由由计算得：计算得： 噪声熵噪声熵H(Y|X) = 0 损失熵损失熵H(X|Y) = 0I-1 一一对应关系的无噪信道一一对应关系的无噪信道15I-2 扩展性能的无噪信扩展性能的无噪信道道一个输入对应多个输出一个输入对应多个输出(nm)X b1 Ya1 b2 b3a2 b4 b51/31/31/31/43/4得得同理同理由由16一个输入对应多个输出一个输入对应多个输出(nm)接收到符号接收到符号Y后，对发送的后，对发送的X符号是完全确定的。符号是完全确定的。噪声熵噪声熵H(Y|X) 0 损失熵损失熵H(X|Y) = 0I-2
6、 扩展性能的无噪信扩展性能的无噪信道道17多个输入变成一个输出多个输入变成一个输出(nm)Xa1 Ya2 b1a3a4 b2a511111输出输出Y是输入是输入X的的确定函数确定函数,但不是但不是一一对应一一对应,而是多而是多一对应关系。一对应关系。I-3 归并性能的无噪信归并性能的无噪信道道18多个输入变成一个输出多个输入变成一个输出(nm)噪声熵噪声熵H(Y|X) 0 损失熵损失熵H(X|Y) 0I-3 归并性能的无噪信归并性能的无噪信道道19II、对称离散信道的信道容量、对称离散信道的信道容量20II 对称离散信道的信道容量对称离散信道的信道容量对称离散信道：对称离散信道：对称性对称性:
7、每一行都是由同一集每一行都是由同一集q1, q2,qm的诸元素的诸元素不同排列组成不同排列组成输入对称输入对称每一列都是由每一列都是由p1, p2,pn集的诸元素不同集的诸元素不同排列组成排列组成输出对称输出对称满足对称满足对称性，所对性，所对应的信道应的信道是对称离是对称离散信道。散信道。21信道矩阵信道矩阵 不具有对称性，因而所对应的信道不是对不具有对称性，因而所对应的信道不是对称离散信道。称离散信道。 II 对称离散信道的信道容量对称离散信道的信道容量22对称离散信道的平均互信息为对称离散信道的平均互信息为II 对称离散信道的信道容量对称离散信道的信道容量23对称对称DMC信道的信道的容
8、量容量： 上式是对称离散信道能够传输的最大的平均信上式是对称离散信道能够传输的最大的平均信息量，它只与对称信道矩阵中行矢量息量，它只与对称信道矩阵中行矢量q1, q2, qm 和输出符号集的个数和输出符号集的个数m有关。有关。II 对称离散信道的信道容量对称离散信道的信道容量24某对称离散信道的信道矩阵为某对称离散信道的信道矩阵为 信道容量为信道容量为 例例3-1:25III、准对称离散信道的信道容量、准对称离散信道的信道容量26 准对称信道准对称信道 - 若信道矩阵的行是可排列的，但列不可排列若信道矩阵的行是可排列的，但列不可排列 - 如果把列分成若干个不相交的子集，且由如果把列分成若干个不
9、相交的子集，且由n行行 和各子集的诸列构成的各个子矩阵都是可排列和各子集的诸列构成的各个子矩阵都是可排列 的的III 准对称离散信道的信道容量准对称离散信道的信道容量例例:27 信道容量信道容量III 准对称离散信道的信道容量准对称离散信道的信道容量假设此时将矩阵的列分为假设此时将矩阵的列分为S S个子集，每个子集的元素个个子集，每个子集的元素个数分别是数分别是m m1 1，m m2 2，m ms s。28例例3-2:准对称信道矩阵准对称信道矩阵求其信道？求其信道？293.2.3 3.2.3 离散信道容量的一离散信道容量的一般计算方法般计算方法30一般离散信道容量的计算步骤一般离散信道容量的计算步骤31小小小小 结结结结第三章第三章2小 结回顾了单符号离散信道的数学模型和信道回顾了单符号离散信道的数学模型和信道容量的定义。容量的定义。分析了各类离散信道的信道容量。分析了各类离散信道的信道容量。33本次课结束！34
