《信息论与编码c第三章信道容量ppt培训课件》由会员分享，可在线阅读，更多相关《信息论与编码c第三章信道容量ppt培训课件（41页珍藏版）》请在金锄头文库上搜索。
1、第三章信道容量主讲:苗立刚基础楼318东北大学秦皇岛分校通信与计算机学院2012年3月鸦英井音信过安里国本章主要讨论的问题:3.1单符号离散信道的数学模型(重点)3.2单符号离散信道的信道容量(重点)3.3多符号离散信道的信道容量(重点3.4网络信息理论(自学)3.5连续信道(自学)3.6信道编码定理(重点)鹏3.1单谷号禽散信道的数学模型国单符号离散信道的数学模型及其分类么信道的数学模型信源|信道|信宿丁|pGmo亿|嗣声通信系统的简化模型X一一输入事件的集合,概率空间为XPY一一输出事件的集合,概率空间为YP蝉3.1竹号禽散信道的数学模型么信道的分类E2E根据信道用户的多少,分为:丫单用户
2、信道-输入、输出均只有一个丫多用户信道-输入、输出有多个根据输入输出信号的特点,分为:丫离散信道-输八、输出隆机变量均离散取值丫连续信道-输入、输出随机变量均连续取值丫半离散(连续)信道-一为离散,古一为连续根据输入、输出随机变量的个数丫单符号信道-输入、输出均用随机变量表示丫多符号信道-输入、输出用随机矢量表示蝉3.1单竹号禽散信道的数学模型4、根据信道上有无噪声(干扰):Y有噪(扰)信道Y无噪(扰)信道5、根据信道有无记忆特性Y无记忆信道-输出仅与当前输入有关,与先前输入无关记忆信道-输出不仅与当前输八有关,还与先前输入有惶亨3.2单符号离散信道的信道容量圆信道容量的定义么离散信道的数学模
3、型设离散信道的输入空间为友三Ql,Qu,.,Q,概率分布为【Df=12,.输出空间为乙eD,D,.,D,概特切布为1(2jij=B2.53m并有条件概率PCy1)=PCDj1Q).(=12,.,史广=12,.,00)条件概率被称为信道的传递概率或转移概率。a5又4“一ECTaj-【广匹Q,口鹏3.2单谷号禽散信道的信道容量将所有转移概率以矩阵方式列出,得:p1a)p(D,1a)“p(D,1a1)ptrlg-p(D1a)p(D,16.)p(D,1a,)p(&Td,】“_p(1aJl.72(B1)其p(Q1QJ0芒pQle)-1该矩阵完全描述了信道在干扰作用下的统计特性,称为信道矩阵(n行m列)。
4、贯3.2单符号离散信道的信道容量反信道矩阵(m行n列)p(allB)“p(a1D),p(a,15)zerm-p(alD)p(a1D).p(a,1D)LJB6jLp(at,(pld.I5)兵中pP(Q;15)0艺呐叩刮l鹏3.2单谷号禽散信道的信道容量离散信道中的概率关系(1)联合概率P(ap)=P(a)P(D;/d)=P(D)P(a/D)其中P(D,/Q)称为前向概率,描述信道的噪声特性P(a/5,)称为后向概率,有时也把P(a;)称为先验概率P(a/)称为后验椿率(2)输出符号的概率P=一p(a)p(,/a0)(3)后验概率=】P(ap)荣.15)二一一P(a15)=1s训艺/表明输出端收到任一符号,必定是输入端树一符号输入所致缙3.2单符号离散信道的信道容量町信道宾量的定义信道容量定义为平均互信息的最大值:C=ImaxT(叉;卫)bity信道符号pC8)平均互信息I(K;T)是信源分布p(x)的上出函数,是信道传途概率p(y|x)的下出函数。对于一个固定的信道,总存在一种信源,使传输毒个符号平均获得的信息量I(K;1最大。信道容量0只与信道的统计特性p(y|切有关,而与信源的分布p(无关。它是信道的特征参数,反应的是信道的最大的信息传输能力。会3给定信道时,对应各种信源分布,求取的最大平均互信息;给定信道时,理论上能传输的最大信息量,表征信道传送信息的最大能力;
