《第三章习题课》由会员分享，可在线阅读，更多相关《第三章习题课（21页珍藏版）》请在金锄头文库上搜索。
1、第三章第三章 信道容量信道容量 子曰：子曰：“不愤不启，不不愤不启，不悱不发，举一隅不以三隅悱不发，举一隅不以三隅反，则不复也反，则不复也” 孔子孔子 油瘁渴戌色漏氮娃蝉愈夕椒歌盖徒揪矽要休慕族拭躲锯柒精仙暑刁泌盖卓第三章习题课第三章习题课8/27/20241第三章第三章 信道容量信道容量n n信道容量信道容量信道容量信道容量 C C：在信道中最大的信息传输速率，单位在信道中最大的信息传输速率，单位在信道中最大的信息传输速率，单位在信道中最大的信息传输速率，单位是是是是比特比特比特比特/ /信道符号信道符号信道符号信道符号。n n单位时间的信道容量单位时间的信道容量单位时间的信道容量单位时间的
2、信道容量 C Ct t：若信道平均传输一个符号若信道平均传输一个符号若信道平均传输一个符号若信道平均传输一个符号需要需要需要需要 t t 秒钟，则单位时间的信道容量为秒钟，则单位时间的信道容量为秒钟，则单位时间的信道容量为秒钟，则单位时间的信道容量为 C Ct t 实际是信道的最大信息传输速率。实际是信道的最大信息传输速率。实际是信道的最大信息传输速率。实际是信道的最大信息传输速率。第三章总结彤匠观仪孔症葵澄酪谣崭趴互著遏匙尉散刊馒邀坛萝帘晓羔弃牢取圆束剐第三章习题课第三章习题课8/27/20242第三章第三章 信道容量信道容量n n求信道容量的方法求信道容量的方法求信道容量的方法求信道容量的
3、方法qq当信道特性当信道特性当信道特性当信道特性 p p( (y yj j / /x xi i) ) 固定后，固定后，固定后，固定后，I I( (X X; ;Y Y) ) 随信源概率分布随信源概率分布随信源概率分布随信源概率分布 p p( (x xi i) ) 的变化而变化。的变化而变化。的变化而变化。的变化而变化。qq调整调整调整调整 p p( (x xi i) )，在接收端就能获得不同的信息量。由平均互，在接收端就能获得不同的信息量。由平均互，在接收端就能获得不同的信息量。由平均互，在接收端就能获得不同的信息量。由平均互信息的性质已知，信息的性质已知，信息的性质已知，信息的性质已知，I I
4、( (X X; ;Y Y) ) 是是是是 p p( (x xi i) ) 的上凸函数，因此总能的上凸函数，因此总能的上凸函数，因此总能的上凸函数，因此总能找到一种概率分布找到一种概率分布找到一种概率分布找到一种概率分布 p p( (x xi i) )（即某一种信源），使信道所能（即某一种信源），使信道所能（即某一种信源），使信道所能（即某一种信源），使信道所能传送的信息率为最大。传送的信息率为最大。传送的信息率为最大。传送的信息率为最大。qqC C 和和和和 C Ct t 都是求平均互信息都是求平均互信息都是求平均互信息都是求平均互信息 I I( (X X; ;Y Y) ) 的条件极大值问题，
5、当的条件极大值问题，当的条件极大值问题，当的条件极大值问题，当输入信源概率分布输入信源概率分布输入信源概率分布输入信源概率分布 p p( (x xi i) ) 调整好以后，调整好以后，调整好以后，调整好以后， C C 和和和和 C Ct t 已与已与已与已与 p p( (x xi i) ) 无关，而仅仅是信道转移概率的函数，只与信道统计特性无关，而仅仅是信道转移概率的函数，只与信道统计特性无关，而仅仅是信道转移概率的函数，只与信道统计特性无关，而仅仅是信道转移概率的函数，只与信道统计特性有关；有关；有关；有关；n n信道容量是完全信道容量是完全信道容量是完全信道容量是完全描述信道特性描述信道特
6、性描述信道特性描述信道特性的参量；的参量；的参量；的参量；n n信道容量是信道信道容量是信道信道容量是信道信道容量是信道能够传送的最大信息量能够传送的最大信息量能够传送的最大信息量能够传送的最大信息量。媚骇溅垂缠耕爬肄汝蛋似表援烂购忽痰酞柯焰御邵褪只陡囚熄些绞冻舒瓣第三章习题课第三章习题课8/27/20243第三章第三章 信道容量信道容量习题习题11.1.设信源设信源设信源设信源通过一干扰信道，接收符号为通过一干扰信道，接收符号为通过一干扰信道，接收符号为通过一干扰信道，接收符号为Y=yY=y1 1,y,y2 2, ,信道传递概率信道传递概率信道传递概率信道传递概率如下图所示。求如下图所示。求
7、如下图所示。求如下图所示。求信源信源信源信源X X中事件中事件中事件中事件x x1 1和和和和x x2 2分别含有的信息量。分别含有的信息量。分别含有的信息量。分别含有的信息量。收到消息收到消息收到消息收到消息y yj j (j=1,2)(j=1,2)(j=1,2)(j=1,2)后，获得的关于后，获得的关于后，获得的关于后，获得的关于x xi i (i=1,2)(i=1,2)(i=1,2)(i=1,2)的信息的信息的信息的信息量。量。量。量。信源信源信源信源X X X X和信源和信源和信源和信源Y Y Y Y的信息熵。的信息熵。的信息熵。的信息熵。信道疑义度信道疑义度信道疑义度信道疑义度H(X
8、/Y)H(X/Y)H(X/Y)H(X/Y)和噪声熵和噪声熵和噪声熵和噪声熵H(Y/X)H(Y/X)H(Y/X)H(Y/X)。接收到消息接收到消息接收到消息接收到消息Y Y Y Y后获得的平均互信息。后获得的平均互信息。后获得的平均互信息。后获得的平均互信息。始嚎社汗张绘锨程番羹嗣窜口矽份钞诊质奋汕准智熄践俱坝泞辰汾闸拙辰第三章习题课第三章习题课8/27/20244第三章第三章 信道容量信道容量习题习题1解答：互信息可以为正值也可以为互信息可以为正值也可以为互信息可以为正值也可以为互信息可以为正值也可以为负值，负值表明由于噪声的负值，负值表明由于噪声的负值，负值表明由于噪声的负值，负值表明由于噪
9、声的存在，接收到一个消息后，存在，接收到一个消息后，存在，接收到一个消息后，存在，接收到一个消息后，对另一个消息是否出现的不对另一个消息是否出现的不对另一个消息是否出现的不对另一个消息是否出现的不确定性反而增加了。确定性反而增加了。确定性反而增加了。确定性反而增加了。划轩淋赫蚂芭楞呀豁俏烧撒无鹤誊垒罐崔荒缅了蹭扳油污瘫拓舒聂冯踞茵第三章习题课第三章习题课8/27/20245第三章第三章 信道容量信道容量习题习题1解答：棵佃遣摈捡北悯豫戊楔远暂琢蹬封剧堑驾骗易请音畔痕篆敝娱瞻滦隙草哇第三章习题课第三章习题课8/27/20246第三章第三章 信道容量信道容量习题习题22.2.设二元对称信道的传递概
10、率为设二元对称信道的传递概率为设二元对称信道的传递概率为设二元对称信道的传递概率为若若若若P(0)=3/4,P(1)=1/4,P(0)=3/4,P(1)=1/4,求求求求H(X),H(X/Y),H(Y/X)H(X),H(X/Y),H(Y/X)和和和和I(X;Y)I(X;Y)。求该信道的信道容量及达到信道容量时的输入概率分求该信道的信道容量及达到信道容量时的输入概率分求该信道的信道容量及达到信道容量时的输入概率分求该信道的信道容量及达到信道容量时的输入概率分布。布。布。布。媒腔枪密斩毛竣澄囱骏熟翌化伐捷披捕扛渣卞善赊活纤兰从贯肘凌灼乘换第三章习题课第三章习题课8/27/20247第三章第三章 信
11、道容量信道容量习题习题2艘伯瑞钱锣拦兜盘惧丧毗堂恒挟棕刹绰珠屋阎厅仓衡糯褂猜讯毋嗅遇鄙娥第三章习题课第三章习题课8/27/20248第三章第三章 信道容量信道容量习题习题33.3.有一个二元对称信道，其信道矩阵如下图所示。设该有一个二元对称信道，其信道矩阵如下图所示。设该有一个二元对称信道，其信道矩阵如下图所示。设该有一个二元对称信道，其信道矩阵如下图所示。设该信道以信道以信道以信道以15001500个二元符号个二元符号个二元符号个二元符号/ /秒的速度传输输入符号。现有秒的速度传输输入符号。现有秒的速度传输输入符号。现有秒的速度传输输入符号。现有一消息序列共有一消息序列共有一消息序列共有一消
12、息序列共有1400014000个二元符号，并设在这消息中个二元符号，并设在这消息中个二元符号，并设在这消息中个二元符号，并设在这消息中P(0)=P(1)=1/2P(0)=P(1)=1/2。问从信息传输的角度来考虑，。问从信息传输的角度来考虑，。问从信息传输的角度来考虑，。问从信息传输的角度来考虑，1010秒钟秒钟秒钟秒钟内能否将这消息序列无失真地传送完？内能否将这消息序列无失真地传送完？内能否将这消息序列无失真地传送完？内能否将这消息序列无失真地传送完？倍奠鸿隋应秸辕持焚允萍爵歉吱矽呕隙钮棋胀牙麻映限蔷腿佩绘痈涪馅助第三章习题课第三章习题课8/27/20249第三章第三章 信道容量信道容量习题
13、习题3解答：消息是一个二元序列，且为等概率分布，即解答：消息是一个二元序列，且为等概率分布，即解答：消息是一个二元序列，且为等概率分布，即解答：消息是一个二元序列，且为等概率分布，即P(0)=P(1)=1/2P(0)=P(1)=1/2，故信源的熵为，故信源的熵为，故信源的熵为，故信源的熵为H(X)=1(bit/symbol)H(X)=1(bit/symbol)。则该消息序列含有的信息量则该消息序列含有的信息量则该消息序列含有的信息量则该消息序列含有的信息量14000(bit/symbol)14000(bit/symbol)。 下面计算该二元对称信道能传输的最大的信息传输速下面计算该二元对称信道
14、能传输的最大的信息传输速下面计算该二元对称信道能传输的最大的信息传输速下面计算该二元对称信道能传输的最大的信息传输速率：率：率：率： 信道传递矩阵为：信道传递矩阵为：信道传递矩阵为：信道传递矩阵为： 信道容量（最大信息传输率）为：信道容量（最大信息传输率）为：信道容量（最大信息传输率）为：信道容量（最大信息传输率）为： C=1-H(P)=1-H(0.98) C=1-H(P)=1-H(0.98)0.8586bit/symbol0.8586bit/symbol磨吾圈八噬嵌凶着陆檬脯围侦毒镍硕狙吼联庇蓟惟单越红葡囱团会挽俞斟第三章习题课第三章习题课8/27/202410第三章第三章 信道容量信道容量
15、习题习题3 得最大信息传输速率为：得最大信息传输速率为：得最大信息传输速率为：得最大信息传输速率为： R Rt t 15001500符号符号符号符号/ /秒秒秒秒 0.85860.8586比特比特比特比特/ /符号符号符号符号 1287.9 1287.9比特比特比特比特/ /秒秒秒秒 1.288 1.28810103 3比特比特比特比特/ /秒秒秒秒 此信道此信道此信道此信道1010秒秒秒秒钟钟内能无失真内能无失真内能无失真内能无失真传输传输得最大信息量得最大信息量得最大信息量得最大信息量1010 R Rt t 1.288 1.28810104 4比特比特比特比特 可可可可见见，此信道，此信道
16、，此信道，此信道1010秒内能无失真秒内能无失真秒内能无失真秒内能无失真传输传输得最大信息量小得最大信息量小得最大信息量小得最大信息量小于于于于这这消息序列所含有的信息量，故从信息消息序列所含有的信息量，故从信息消息序列所含有的信息量，故从信息消息序列所含有的信息量，故从信息传输传输的角度的角度的角度的角度来考来考来考来考虑虑，不可能在，不可能在，不可能在，不可能在1010秒秒秒秒钟钟内将内将内将内将这这消息无失真的消息无失真的消息无失真的消息无失真的传传送完。送完。送完。送完。文医籍桌胡跌具挣域蹭坎答象奇靖邵饯界汾转谐拱宽臂惋裕傻菊孩攀欠住第三章习题课第三章习题课8/27/202411第三章
17、第三章 信道容量信道容量习题习题44.4.求下图中信道的信道容量及其最佳的输入概率分求下图中信道的信道容量及其最佳的输入概率分求下图中信道的信道容量及其最佳的输入概率分求下图中信道的信道容量及其最佳的输入概率分布。布。布。布。 （a） (b)佳强疾袒愈颖著蔓养紫桔赚岁冒秤呢付因广颊蹿掂急攘普绒固梳乃捎陶噶第三章习题课第三章习题课8/27/202412第三章第三章 信道容量信道容量习题习题4解答：图中两个信道的信道矩阵分别为解答：图中两个信道的信道矩阵分别为解答：图中两个信道的信道矩阵分别为解答：图中两个信道的信道矩阵分别为均满足对称性，所以这两个信道是对称离散信道。由对均满足对称性，所以这两个
18、信道是对称离散信道。由对均满足对称性，所以这两个信道是对称离散信道。由对均满足对称性，所以这两个信道是对称离散信道。由对称离散信道的信道容量公式得：称离散信道的信道容量公式得：称离散信道的信道容量公式得：称离散信道的信道容量公式得：最佳输入分布（即达到信道容量的输入分布）是等概率最佳输入分布（即达到信道容量的输入分布）是等概率最佳输入分布（即达到信道容量的输入分布）是等概率最佳输入分布（即达到信道容量的输入分布）是等概率分布分布分布分布两揍池铜缮厘每醒翻纫振藉瓢介茶艺离耿敷蝴型膘缠赋涩局粥雷指饿果豺第三章习题课第三章习题课8/27/202413第三章第三章 信道容量信道容量习题习题55.5.求
19、下图中信道的信道容量及其最佳的输入概率分求下图中信道的信道容量及其最佳的输入概率分求下图中信道的信道容量及其最佳的输入概率分求下图中信道的信道容量及其最佳的输入概率分布。并求当布。并求当布。并求当布。并求当=0=0=0=0和和和和1/21/21/21/2时的信道容量时的信道容量时的信道容量时的信道容量C C C C。邱坚畴冀臆颂延塑之代阑清枯产搪恬腊赋纫瘩笑丝柞腿埔知勋陆贺皇兔茄第三章习题课第三章习题课8/27/202414第三章第三章 信道容量信道容量习题习题5解答：图中信道的信道矩阵如下解答：图中信道的信道矩阵如下解答：图中信道的信道矩阵如下解答：图中信道的信道矩阵如下此信道为一般信道。此
20、信道为一般信道。此信道为一般信道。此信道为一般信道。责编嘉笆焙盗呛问暂坎累熬琐眨高词虏喇渊畅难沧脂妄疡农着椿绣智毗该第三章习题课第三章习题课8/27/202415第三章第三章 信道容量信道容量习题习题5碘移亿蓬萍属剖阶氟仿丹璃铂疾瘁叛尖梁豪吹戒陪投棠颗肛旭躬轨芥涣舔第三章习题课第三章习题课8/27/202416第三章第三章 信道容量信道容量习题习题5桶球哀捡腰鼻苗斤励袖蔓趟驴八酌札班种神窘裁晤扬刃孪矫拧筷镰泪豺宜第三章习题课第三章习题课8/27/202417第三章第三章 信道容量信道容量练习题练习题1若已知信道输入分布为等概率分布，且有如下两个信道，若已知信道输入分布为等概率分布，且有如下两个
21、信道，若已知信道输入分布为等概率分布，且有如下两个信道，若已知信道输入分布为等概率分布，且有如下两个信道，其转移概率矩阵分别为：其转移概率矩阵分别为：其转移概率矩阵分别为：其转移概率矩阵分别为：试求这两个信道的信道容量，并问这两个信道是否有噪试求这两个信道的信道容量，并问这两个信道是否有噪试求这两个信道的信道容量，并问这两个信道是否有噪试求这两个信道的信道容量，并问这两个信道是否有噪声？声？声？声？菠李翔吩葡瑟隔熔萄淄舱窿徊葱玲撼慕侮狸蹄缄悉炯侵碾钟勇肯乔刨舍大第三章习题课第三章习题课8/27/202418第三章第三章 信道容量信道容量练习题练习题1故酋达给虾负吻升日综啼集曰发宫驰树霄酸锣牵挖
22、冬筒沃拽颂兑凳钻刹锑第三章习题课第三章习题课8/27/202419第三章第三章 信道容量信道容量练习题练习题2设有一离散级联信道如下图所示：设有一离散级联信道如下图所示：设有一离散级联信道如下图所示：设有一离散级联信道如下图所示：试求试求试求试求(1)X(1)X与与与与Y Y之间的信道容量之间的信道容量之间的信道容量之间的信道容量C C1 1 (2) Y(2) Y与与与与Z Z 之间的信道容量之间的信道容量之间的信道容量之间的信道容量C C2 2 (3) X (3) X与与与与Z Z之间的信道容量之间的信道容量之间的信道容量之间的信道容量C C3 3，及其输入分布，及其输入分布，及其输入分布，及其输入分布纷蕊儒击淳测走瓣拧惯础沾魏细僳逼溅乐孽皮花帜克派脸卉栅瞥势擦证竿第三章习题课第三章习题课8/27/202420第三章第三章 信道容量信道容量练习题练习题2贿诀皇狠链郡痹锌搪邢狡录拇袁训掣蚁冲驰怠蛰峰裳东擎荣瑰掉辅扩暖械第三章习题课第三章习题课8/27/202421
