《信息论与编码第二版)习题答案+陈运+主编资料》由会员分享，可在线阅读，更多相关《信息论与编码第二版)习题答案+陈运+主编资料（39页珍藏版）》请在金锄头文库上搜索。
1、 课后答案网，用心为你服务！ 大学答案 - 中学答案 - 考研答案 - 考试答案 最全最多的课后习题参考答案，尽在课后答案网（ ）！ Khdaw团队一直秉承用心为大家服务的宗旨，以关注学生的学习生活为出发点， 旨在为广大学生朋友的自主学习提供一个分享和交流的平台。 爱校园（ ） 课后答案网（ ） 淘答案（ ） 课后答案网 w w w .k h d a w .c o m 1 第二章部分习题 2.1试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍? 答：2 倍，3 倍。 2.2一副充分洗乱了的牌(含 52 张牌)，试问 (1) 任一特定排列所给出的信息量是多少？ (2) 若从中抽取 13 张牌
2、， 所给出的点数都不相同, 能得到多少信息量？解： (1) !52log2 (2) 任取 13 张，各点数不同的概率为，信息量：9.4793(比特/符号) 13 52 !13 C 2.3居住某地区的女孩子有是大学生，在女大学生中有是身高 160 厘 %25 75% 米上的，而女孩子中身高 160 厘米以上的占总数的一半。假如我们得知“身 高 160 厘米以上的某女孩是大学生”的消息，问获得多少信息量？ 答案：1.415 比特/符号。提示提示： 设事件 A 表示女大学生， 事件 C 表示 160CM 以上的女孩，则问题就是求 p(A|C)， 8 3 2 1 4 3 4 1 )( )|()( )(
3、 )( )|(= = Cp ACpAp Cp ACp CAp 2.4设离 散 无 忆 信 源，其 发 出 的 消 息 为 () 1234 0123 3/81/41/41/8 Xaaaa P X = = ，求(202120130213001203210110321010021032011223210) (1) 此消息的自信息量是多少？ (2) 在此消息中平均每个符号携带的信息量是多少？ 解：(1)87.81 比特， (2)1.951 比特。 提示：先计算此消息出现的概率，再用自信息量除以此消息包含的符号总 数(共 45 个)。 2.5从大量统计资料知道，男性中红绿色盲的发病率为，女性发病率为7%
4、 ，如果你问一位男士：“你是否是色盲？”他的回答可能是“是”，可能0.5% 是“否”， 问这两个回答中各含有多少信息量?平均每个回答中含有多少信息 量？如果问一位女士，则答案中含有的平均自信息量是多少？ (1) 男性回答是的信息量为，回答否的信息量是 0.1047 2 log 0.073.8369=比特 课后答案网 w w w .k h d a w .c o m 2 比特，平均每个回答含的信息量(即熵)是 0.36596 比特。 (2)0.045425 比特 2.6设信源，求这信源的熵，并解释为什 () 123456 0.20.190.180.170.160.17 Xaaaaaa P X =
5、么不满足信源熵的极值性。()log6H X 提示提示：信源的概率之和大于 1。 2.7同时掷两个正常的骰子，也就是各面呈现的概率都为，求：1/6 (1) “3 和 5 同时出现”这事件的自信息量； (2) “两个 1 同时出现”这事件的自信息量； (3) 两个点数的各种组合(无序对)的熵或平均信息量； (4) 两个点数之和(即构成的子集)的熵；2,312L (5) 两个点数中至少有一个是 1 的自信息量。 解：(1) 4.17(比特/符号)，提示：3 和 5 同时出现的概率为=1/182 6 1 6 1 (2) 5.17(比特/符号)，提示：两个 1 同时出现的概率 1/36 (3) “两个点
6、数相同”的概率:1/36,共有 6 种情况; “两个点数不同”的概率:1/18,共有 15 中情况.故平均信息量为: 4.337 比特/符号 615 223618 log 36log 18+= (4) 3.274(比特/符号)。提示：信源模型 55111111111 3618129366369121836 23456789101112 (5) 1.711( 比 特 / 符 号 ) 。 提 示 ： 至 少 有 一 个 1 出 现 的 概 率 为 36 11 6 1 6 1 6 1 6 1 =+ 2.8证明() 12n H X XXL()()() 12n H XH XH X+L 提示：见教材式(2
7、.1.26)和(2.1.28) 2.9证明，并说明等式成立的条件。() 312 H XX X() 31 H XX 提示：见教材第 38 页 课后答案网 w w w .k h d a w .c o m 3 2.10 对某城市进行交通忙闲的调查，并把天气分成晴雨两种状态，气温分成冷 暖两个状态，调查结果得联合出现的相对频度如下： 若把这些频度看作概率测度，求： (1) 忙闲的无条件熵； (2) 天气状态和气温状态已知时忙闲的条件熵； (3) 从天气状态和气温状态获得的关于忙闲的信息。 解：设 X、Y、Z 分别表示忙 闲、晴 雨和冷 暖， (1) 先求忙闲的概率分布，无条件熵0.964(比特 = 1
8、03 40 103 63 )( 闲忙 XP X ()H X= /符号) (2)，0.859(比特/符号) 20232832 () 103103 103103 YZ P YZ = 晴冷晴暖雨暖雨冷 ()H X YZ= (3)I(X;YZ)=0.105 比特/符号 2.11 有两个二元随机变量，它们的联合概率为XY和 并定义另一随机变量(一般乘积)。试计算： XYZ= (1)；(),( ),( ),(),()()H XH YH ZH XZH YZH XYZ和 Y X 01 0 1 1/83/8 3/81/8 课后答案网 w w w .k h d a w .c o m 4 (2)(),(),(),(
9、),(),(),(),H X YH Y XH X ZH Z XH Y ZH Z YH X YZ 和；()H Y XZ()H Z XY (3)。()()()()()();,;,;,;,;I X YI X ZI Y ZI X Y ZI Y Z XI X Z Y和 解：提示：的联合概率分布XYZ = 8/1008/308/308/1 111110101100011010001000 )(XYZP XYZ XZ 的联合概率分布 = 8/18/302/1 11100100 )(XZP XZ YZ 的联合概率分布 = 8/18/302/1 11100100 )(YZP YZ Z 的概率分布 = 8 1 8
10、 7 10 )(ZP Z (1) 1 比特/符号，1 比特/符号，0.543 比特/符号，1.406 比特/符号，1.406 比特/符号，1.811 比特/符号 (2) 0.811 比特/符号，0.811 比特/符号，0.863 比特/符号，0.406 比特/符号， 0.863 比特/符号，0.406 比特/符号，0.405 比特/符号 (3) 0.189 比特/符号，0.137 比特/符号，0.137 比特/符号，0.458 比特/符号， 0.406 比特/符号，0.406 比特/符号 2.12 略 2.13 设有一个信源，它产生序列的信息。它在任意时间而且不论以前发生过0,1 什么符号，均
11、按的概率发出符号。( )( )00.4,10.6pp= (1) 试问这个信源是否是平稳的？ (2) 试计算； ()()() 2 312 ,lim N H XH XX XH X 及 (3) 试计算并写出信源中可能有的所有符号。 () 4 H X 4 X 解：(1) 是 (2) 信源熵 0.971 比特/信源符号，比特/信源符号，由题设知942 . 1 )( 2 =XH 道这个信源是无记忆信源，因此条件熵和极限熵都等于信源熵。 (3)比特/信源符号，884 . 3 971 . 0 4)( 4 =XH 信源中可能的符号共 16 个。 4 X 2.14设是 平 稳 离 散 有 记 忆 信 源 ， 试
12、证 明 ： 12 , N XXXX=L 课后答案网 w w w .k h d a w .c o m 5 。() 12N H X XX=L 1 ()H X+()()() 21321121NN H XXH XX XH XX XX +LL 提示：见教材第 44 页 2.15 略 2.16 一阶马尔可夫信源的状态图如题 2.16 图所示。信源的符号集为。 X 0,1,2 (1) 求平稳后信源的概率分布； (2) 求信源的熵。H 题 2.16 图 解 ： (1) 由 图 得 一 步 转 移 概 率 矩 阵， 状 态 极 限 概 率 = pp pp pp P 0 0 0 123 1 ( )()( ) 3
13、p ep ep ep= (2)( 11 pHHH= + 2.17黑白气象传真图的消息只有黑色和白色两种，即信源。设黑色X= 黑，白 出现的概率为p(黑)=0.3，白色的出现概率p(白)=0.7。 (1) 假设图上黑白消息出现前后没有关联，求熵；()H X (2) 假设消息前后有关联， 其依赖关系为p(白/白)=0.9，p(黑/白)=0.1，p(白/ 黑)=0.2，p(黑/黑)=0.8，求此一阶马尔可夫信源的熵； 2( )HX (3) 分别求上述两种信源的剩余度，比较的大小，并说明其() 2( )H XHX和 物理意义。 解解：(1) 0.881 比特/信源符号; (2)=0.5533 比特/符
14、号; 22 22 11 ()()log() ijij ji HXp abp ab = = 课后答案网 w w w .k h d a w .c o m 6 (3) 11.9%，44.67% 2.18每帧电视图像可以认为是由个像素组成的，所有像素均是独立变化， 5 3 10 且每像素又取 128 个不同的亮度电平，并设亮度电平是等概率出现，问每 帧图像含有多少信息量？若有一个广播员，在约 10000 个汉字中选 1000 个汉字来口述这电视图像，试问若要恰当地描述此图像，广播员在口述中 至少需要多少汉字？ 解：(1)每帧图象包含的信息量 比特 6 103 2 103 103 101 . 2 128
15、 1 log 128 1 128 55 5 = (2)每 1000 个汉字提供的信息量比特 41000 2 103288 . 1 10000log= (3)需要个汉字。=1000 )2( ) 1 ( 5 1058 . 1 2.19略 2.20连 续 变 量的 联 合 概 率 密 度 为 ：， 求 YX和 () 222 2 1 , 0 xyr p x yr + = 其他 。(提示：) ( )( )()(),:H XH YH XYI X Y和 2 22 0 log sin dlog 2 2 x x = 解： 22 22 22 22 12 ( )() rx rx rx p xp xy dydy rr = 令，cosxr=sinyr= 则 2sin ( )p x r = 同理，由函数对称性 2cos ( )p y r = 2 2 0 22 2sin2sin ()log(sin ) 2sin log sinlog 2 r r H Xrd rr r d = = 利用分
