《【9A文】信息论与编码答案》由会员分享，可在线阅读，更多相关《【9A文】信息论与编码答案（24页珍藏版）》请在金锄头文库上搜索。
1、【MeiWei_81重点借鉴文档】第二章 信源及信源熵2-1 (4)2-2 2-3 2-4 2-5 (1,2) (2,1) 共两种 (1,6) (6,1) (2,5) (5,2) (3,4) (4,3) 共六种 2-6 014个 1-13个 2-12个 3-6个 P= I= 2-7 2-8 “” 用三个脉冲 “”用一个脉冲(1) I()= I()(2) H= 2.9 (2) P(黑/黑)= P(白/黑)= H(R/黑)= (3) P(黑/白)= P(白/白)= H(R/白)= (4) P(黑)= P(白)= H(R)= 2-10 (1) H(色)= (2) P(色数)= H(色数)= (3)
2、H(数/色)= H(色数)- H(色)=2-11 (1)H(RR)=(2) P= 得到 H(R)=(3) H(R/R)=H(RR)-H(R)=2-12 (1) (2)(3)2-13 P(i)= P(ij)= H(IJ)= 2-14 (1) P(ij)= P(i/j)= (2) 方法1: = 方法2: 2-15P(j/i)= 2-16 (1) 白黑11 (2) 设最后平稳概率为W1,W2 得W1=07 W2=0.3H(R/黑)=H(R/白)=H(R/R)=W1 H(R/黑)+ W2 H(R/白)= 白黑2-17 (1)(2)2-24 (1) H(R)= (2) = (3) 2-25解方程组即解得
3、W1=0.4 W2=0.62-26 P(j/i)= 解方程组 求得W=1/2S11/31/31/22/3S3S22/32-27 求平稳概率符号条件概率 状态转移概率 解方程组 得到 W= 2-28(1) 求平稳概率 P(j/i)= 解方程组 得到 (2) 信源熵为: 2-29 P(j/i)= 解方程组 得到W1= , W2= , W3= 2-30P(i/j)= 解方程组 得W1=W2=W3=信源熵为 2-31P(R1)= P(j/i)= P(R1R2)= （1）a. b. 求H(R2/R1)有两种方法： 方法1： 方法2：H(R2/R1)=P(R1R2)log(R2/R1)= c. 求H(R3
4、/R2)P(R2)= 则方法1：P(R3/R2)= ) + + = 方法2：P(R3/R2)=d. 最后 （2）首先求解稳定情况下的概率解方程组得到 W1 ）W2 W3 = (3) 不做2-32 (1) P(j/i)= 求解方程组 得p(0)=p(1)=p(2)= (2) (3) H(R)=log(3)=1.58 (4) = P= 当p=时达到最大值1.58 当 时 当 时 2-33 (1)解方程组: 得p(0)=p(1)=p(2)= (2) (3) 当p=0或p=1时 信源熵为0第三章 无失真信源编码3-1 3-2 (1) 因为A,B,C,D四个字母,每个字母用两个码,每个码为0.5ms,
5、所以每个字母用10ms 当信源等概率分布时,信源熵为H(R)=log(4)=2 平均信息传递速率为bit/ms=200bit/s (2) 信源熵为 H(R)= =0.198bit/ms=198bit/s3-3 与上题相同3-5(1) H(U)=(2) 每个信源使用3个二进制符号,出现0的次数为 出现1的次数为P(0)= P(1)= (3) (4) 相应的香农编码信源符号Ri符号概率pi累加概率Pi-Logp(Ri)码长Ki码字R11/20110R21/40.52210R31/80.7533110R41/160.875441110R51/320.9385511110R61/640.9696611
6、1110R71/1280.984771111110R81/1280.9927711111110 相应的费诺码 信源符号Ri符号概率pi第一次分组第二次分组第三次分组第四次分组第五次分组第六次分组第七次分组二元码R11/200R21/41010R31/810110R41/16101110R51/321011110R61/6410111110R71/128101111110R81/128111111110（5）香农码和费诺码相同 平均码长为 编码效率为： 3-7 （1） pi= 累加概率为 Pi= 累加概率分别为符号R1R1R2R3R4R5R6R7概率1/21/41/81/161/321/641/
7、1281/256累加概率00.50.750.8750.9380.9690.9840.992码长12345678 二元码010110111011110111110111111011111110 （2）信源的信息量为平均码长为： 码字的平均信息传输率为 Rbit/码（3）编码效率R1003-10 （1）H(R) （2） 信源符号Ri符号概率pi编码过程编码码长R10.370.370.370.380.621002R20.250.250.250.370.38012R30.180.180.200.25112R40.100.100.181003R50.070.1010104R60.0310114 3-11
8、 （1）信源熵 （2）香农编码： 信源符号Ri符号概率pi累加概率Pi-Logp(Ri)码长Ki码字R10.3201.644200R20.220.322.1843010R30.180.542.4743100R40.160.722.6443101R50.080.883.64441110R60.040.964.644511110 平均码长：编码效率为（3） 费诺编码为信源符号Ri符号概率pi1234编码码长R10.3200002R20.221012R30.1810102R40.16101103R50.081011104R60.04111114 平均码长为：编码效率： （4）哈夫曼编码信源符号Ri符
9、号概率pi编码过程编码码长R10.320.320.380.400.601012R20.220.220.320.380.40102R30.180.180.220.32112R40.160.160.180003R50.080.1200104R60.0400114平均码长为：编码效率： 3-12（1） 信源熵 信息传输速率2.552bit/s (2)信源符号Ri符号概率pi编码过程编码码长R10.40.40.40.40.40.40.611R20.180.180.180.190.230.270.40013R30.10.10.130.180.190.230113R40.10.10.10.130.1800004R50.070.090.10.101004R60.060.070.0901014R70.050.06000105R80.04000115 (3) 香农编码信源符号Ri符号概率pi累加概率Pi-Logp(R
