《信息编码习题附标准答案或提示》由会员分享，可在线阅读，更多相关《信息编码习题附标准答案或提示（36页珍藏版）》请在金锄头文库上搜索。
1、第二章部分习题2.1 试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍?答：2倍，3倍。2.2 一副充分洗乱了的牌(含52张牌)，试问(1) 任一特定排列所给出的信息量是多少？(2) 若从中抽取13张牌，所给出的点数都不相同, 能得到多少信息量？解：(1)(2) 任取13张，各点数不同的概率为，信息量：9.4793(比特/符号)2.3 居住某地区的女孩子有是大学生，在女大学生中有是身高160厘米上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？矚慫润厲钐瘗睞枥庑赖。答案：1.415比特/符号。提示：设事件A表示女大
2、学生，事件C表示160CM以上的女孩，则问题就是求p(A|C)，聞創沟燴鐺險爱氇谴净。2.4 设离散无忆信源，其发出的消息为，求(1) 此消息的自信息量是多少？(2) 在此消息中平均每个符号携带的信息量是多少？解：(1)87.81比特，(2)1.951比特。提示：先计算此消息出现的概率，再用自信息量除以此消息包含的符号总数(共45个)。2.5 从大量统计资料知道，男性中红绿色盲的发病率为 ，女性发病率为，如果你问一位男士：“你是否是色盲？”他的回答可能是“是”，可能是“否”，问这两个回答中各含有多少信息量?平均每个回答中含有多少信息量？如果问一位女士，则答案中含有的平均自信息量是多少？残骛楼諍
3、锩瀨濟溆塹籟。(1)男性回答是的信息量为，回答否的信息量是0.1047比特，平均每个回答含的信息量(即熵)是0.36596比特。酽锕极額閉镇桧猪訣锥。(2)0.045425比特2.6 设信源，求这信源的熵，并解释为什么不满足信源熵的极值性。提示：信源的概率之和大于1。2.7 同时掷两个正常的骰子，也就是各面呈现的概率都为，求：(1) “3和5同时出现”这事件的自信息量；(2) “两个1同时出现”这事件的自信息量；(3) 两个点数的各种组合(无序对)的熵或平均信息量；(4) 两个点数之和(即构成的子集)的熵；(5) 两个点数中至少有一个是1的自信息量。解：(1)4.17(比特/符号)，提示：3和
4、5同时出现的概率为=1/18(2)5.17(比特/符号)，提示：两个1同时出现的概率1/36(3)“两个点数相同”的概率:1/36,共有6种情况;“两个点数不同”的概率:1/18,共有15中情况.故平均信息量为:4.337比特/符号(4)3.274(比特/符号)。提示：信源模型(5)1.711(比特/符号)。提示：至少有一个1出现的概率为2.8 证明提示：见教材式(2.1.26)和(2.1.28)2.9 证明，并说明等式成立的条件。提示：见教材第38页2.10 对某城市进行交通忙闲的调查，并把天气分成晴雨两种状态，气温分成冷暖两个状态，调查结果得联合出现的相对频度如下：彈贸摄尔霁毙攬砖卤庑。若
5、把这些频度看作概率测度，求： (1) 忙闲的无条件熵；(2) 天气状态和气温状态已知时忙闲的条件熵；(3) 从天气状态和气温状态获得的关于忙闲的信息。解：设X、Y、Z分别表示忙 闲、晴 雨和冷 暖，(1)先求忙闲的概率分布，无条件熵0.964(比特/符号)(2)，0.859(比特/符号)(3)I(X;YZ)=0.105比特/符号2.11 有两个二元随机变量，它们的联合概率为Y X 0 1011/8 3/83/8 1/8并定义另一随机变量(一般乘积)。试计算：(1) ；(2) 和；(3) 。解：提示：的联合概率分布 XZ的联合概率分布 YZ的联合概率分布Z的概率分布(1)1比特/符号，1比特/符
6、号，0.543比特/符号，1.406比特/符号，1.406比特/符号，1.811比特/符号謀荞抟箧飆鐸怼类蒋薔。(2)0.811比特/符号，0.811比特/符号，0.863比特/符号，0.406比特/符号，0.863比特/符号，0.406比特/符号，0.405比特/符号厦礴恳蹒骈時盡继價骚。(3)0.189比特/符号，0.137比特/符号，0.137比特/符号，0.458比特/符号，0.406比特/符号，0.406比特/符号茕桢广鳓鯡选块网羈泪。2.12 略2.13 设有一个信源，它产生序列的信息。它在任意时间而且不论以前发生过什么符号，均按的概率发出符号。(1) 试问这个信源是否是平稳的？(
7、2) 试计算；(3) 试计算并写出信源中可能有的所有符号。 解：(1)是(2)信源熵0.971比特/信源符号，比特/信源符号，由题设知道这个信源是无记忆信源，因此条件熵和极限熵都等于信源熵。鹅娅尽損鹌惨歷茏鴛賴。(3)比特/信源符号，信源中可能的符号共16个。2.14 设是平稳离散有记忆信源，试证明：。提示：见教材第44页2.15 略2.16 一阶马尔可夫信源的状态图如题2.16图所示。信源的符号集为。(1) 求平稳后信源的概率分布；(2) 求信源的熵。题2.16图解：(1)由图得一步转移概率矩阵，状态极限概率(2)2.17 黑白气象传真图的消息只有黑色和白色两种，即信源。设黑色出现的概率为p
8、(黑)=0.3，白色的出现概率p(白)=0.7。籟丛妈羥为贍偾蛏练淨。(1) 假设图上黑白消息出现前后没有关联，求熵；(2) 假设消息前后有关联，其依赖关系为p(白/白)=0.9，p(黑/白)=0.1，p(白/黑)=0.2，p(黑/黑)=0.8，求此一阶马尔可夫信源的熵；預頌圣鉉儐歲龈讶骅籴。(3) 分别求上述两种信源的剩余度，比较的大小，并说明其物理意义。解：(1)0.881比特/信源符号; (2)=0.5533比特/符号; (3)11.9%，44.67%2.18 每帧电视图像可以认为是由个像素组成的，所有像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概率出现，问每帧
9、图像含有多少信息量？若有一个广播员，在约10000个汉字中选1000个汉字来口述这电视图像，试问若要恰当地描述此图像，广播员在口述中至少需要多少汉字？渗釤呛俨匀谔鱉调硯錦。解：(1)每帧图象包含的信息量比特(2)每1000个汉字提供的信息量(3)需要个汉字。2.19 略2.20 连续变量的联合概率密度为：，求。(提示：) 解： 令 ， 则 同理，由函数对称性利用分部积分法、三角函数性质、习题提示并注意自然对数与以2 为底对数的换算关系可得：(比特/符号) (比特/符号) (比特/符号)2.21 略2.22 略第三章习题3.1 设信源 通过一干扰信道，接收符号为，信道传递矩阵为，求(1)信源中事
10、件分别含有的自信息量。(2)收到消息后，获得的关于的信息量。(3)信源和信宿的信息熵。(4)信道疑义度和噪声熵。(5)接收到信息后获得的平均互信息量。解：(1)(比特/符号)，比特/符号，(2)，(比特/符号),(比特/符号), (比特/符号), (比特/符号)(3)0.971(比特/符号)，0.971(比特/符号)，(4)(比特/符号)，(5)0.2564比特/符号3.2 设二元对称信道的传递矩阵为(1)若；(2)求该信道的信道容量及其达到信道容量时的输入概率分布。解：(1)0.8113比特/符号，0.7498比特/符号，0.9183比特/符号，0.0615比特/符号，铙誅卧泻噦圣骋贶頂廡。
11、(2) 0.0818比特/符号，p(0)=p(1)=1/23.3 设有一批电阻，按阻值分70%是，30%是；按瓦分64%是1/8W，其余是1/4W。现已知阻值的电阻中80%是1/8W。问通过测量阻值可以得到的关于瓦数的平均信息量是多少？擁締凤袜备訊顎轮烂蔷。解：设随机变量X表示电阻的瓦数，Y表示电阻的阻值，则其概率分布为，已知，由概率的归一性：由，得再由, 得: .代入条件熵计算公式得: (比特/符号)3.4 参见教材第二章相关内容。3.5参见教材第二章相关内容。3.6 有一个二元对称信道，其信道矩阵为。设该信源以1500的速度传输输入符号。现有一消息序列共有14000个二元符号，并设，问从信
12、息传输的角度来考虑，10秒钟内能否将这消息序列无失真地传递完？贓熱俣阃歲匱阊邺镓騷。解：信道容量C=0.8586比特/信道符号，则每秒钟可传送的信息量为15000.859=1288.5比特，10秒钟最大可传送的信息量为12885比特，而待传送的信息量为14000比特，因此，10秒钟内不能无失真的传送完毕。坛摶乡囂忏蒌鍥铃氈淚。3.7 仿教材例题3.2.1和3.2.2。3.8 已知一个高斯信道，输入信噪比(比率)为3。频带为3kHz，求最大可能传送的信息率。若信噪比提高到15，理论上传送同样的信息率所需的频带为多少？蜡變黲癟報伥铉锚鈰赘。提示：由式(3.5.13)可得。(1)最大可能传送的信息率
13、是比特/秒 (2)1.5kHZ3.9 略3.10 略3.11 已知离散信源，某信道的信道矩阵为试求：(1)“输入，输出”的概率；(2)“输出”的概率；(3)“收到的条件下推测输入”的概率。解：由信道矩阵的概念和概率论可得(1)；(2)=0.19；(3)3.12 略3.13 试证明：当信道每输入一个值，相应有几个值输出，且不同的值所对应的值不相互重合时，有。证明：因为，并且由已知可得，所以有3.14 试求以下各信道矩阵代表的信道的容量：(1)(2)(3)解：2比特/信道符号，1.585比特/信道符号，1.585比特/信道符号3.15 此题很简单，略。3.16 参见教材相关问题的证明过程。3.17
14、 见教材证明。3.18 设加性高斯白噪声信道中，信道带宽3kHz，又设(信号功率+噪声功率)/ 噪声功率=10dB。试计算该信道的最大信息传输速率。買鲷鴯譖昙膚遙闫撷凄。提示：的dB 数:。解: 由题意,故=9.96kbit/s。3.19 略3.20 略第四章习题4.1 一个四元对称信源，接收符号，其失真矩阵为求函数，并画出其曲线(取4至5个点)。解：，。4.2 若某无记忆信源，接收符号，其失真矩阵为求信源的最大失真度和最小平均失真度，并求选择何种信道可达到该的失真度。綾镝鯛駕櫬鹕踪韦辚糴。解：4.3 某二元信源 其失真矩阵为求这信源的函数。提示：见公式(4.2.41)。4.4 已知信源，信宿。设信源输入符号为等概率分布，而且失真函数为，求信源的率失真函数。解：。提示：注意参量S0,求4.5 略，4.6 略4.7 参见教材p110.4.8 略4.9 设某地区的“晴天”概率，“雨天”概率，把“晴天”预报为“雨天”，把“雨天”预报为“晴天”造成的损失均为元。又设该地区的天气预报系统把“晴天”预报为“晴天”，“雨天”预报为“雨天”的概率均为0.9；把“晴天”预报为“雨天”，把“雨天”预报为“晴天”的概率均为0.1。试计算这种预报系统的信息价值率(元/比特)。驅踬髏彦浃绥譎饴憂锦。解：，预报结果：，提示：天气信源：，预报信道矩阵：，
