《信息的论与编码答案详解》由会员分享，可在线阅读，更多相关《信息的论与编码答案详解（34页珍藏版）》请在金锄头文库上搜索。
1、word第二章 信源与信源熵2-1 (4)2-22-3 2-4 2-5 (1,2) (2,1) 共两种 (1,6) (6,1) (2,5) (5,2) (3,4) (4,3) 共六种 2-6 014个 1-13个 2-12个 3-6个P= I= 2-7 2-8 “ 用三个脉冲 “用一个脉冲(1) I()= I()(2) H= 2.9 (2) P(黑/黑)= P(白/黑)= H(Y/黑)= (3) P(黑/白)= P(白/白)= H(Y/白)= (4) P(黑)=P(白)= H(Y)= 2-10 (1) H(色)= (2) P(色数)= H(色数)= (3) H(数/色)= H(色数)- H(色
2、)=2-11 (1)H(XY)=(2) P= 得到 H(Y)=(3) H(X/Y)=H(XY)-H(Y)=2-12 (1) (2)(3)2-13 P(i)= P(ij)= H(IJ)= 2-14 (1) P(ij)= P(i/j)=(2) 方法1: = 方法2: 2-15P(j/i)=2-16 (1) 白黑11 (2) 设最后平稳概率为W1,W2得W1=07 W2H(Y/黑)=H(Y/白)=H(Y/X)=W1 H(Y/黑)+ W2 H(Y/白)= 白黑2-17 (1)(2)2-24 (1) H(X)= (2) = (3) 2-25解方程组即解得2-26 P(j/i)= 解方程组 求得W=1/2
3、S11/31/31/22/3S3S22/32-27 求平稳概率符号条件概率 状态转移概率解方程组 得到 W=2-28(1) 求平稳概率 P(j/i)=解方程组得到 (2) 信源熵为: 2-29 P(j/i)=解方程组 得到W1= , W2= , W3= 2-30P(i/j)= 解方程组 得W1=W2=W3=信源熵为 2-31P(X1)= P(j/i)= P(X1X2)= 1a.b.求H(X2/X1)有两种方法： 方法1： 方法2：H(X2/X1)=P(x1x2)log(x2/x1)=c. 求H(X3/X2)P(X2)= 如此方法1：P(X3/X2)= ) + = 方法2：P(X3/X2)=d.
4、 最后 2首先求解稳定情况下的概率解方程组得到W1 W2 W3 = (3) 不做2-32 (1) P(j/i)= 求解方程组 得p(0)=p(1)=p(2)= (2) (4) = P=当p=时 当 时 当 时 2-33 (1)解方程组: 得p(0)=p(1)=p(2)=(2)(3)当p=0或p=1时 信源熵为0第三章 无失真信源编码3-13-2(1)因为A,B,C,D四个字母,每个字母用两个码,每个码为0.5ms, 所以每个字母用10ms 当信源等概率分布时,信源熵为H(X)=log(4)=2平均信息传递速率为bit/ms=200bit/s (2) 信源熵为 H(X)=3-3 与上题一样3-5
5、(1) H(U)=(2) 每个信源使用3个二进制符号,出现0的次数为出现1的次数为P(0)= P(1)= (3) (4) 相应的香农编码信源符号xi符号概率pi累加概率Pi-Logp(xi)码长Ki码字x11/20110x21/42210x31/833110x41/16441110x51/325511110x61/6466111110x71/128771111110x81/1287711111110相应的费诺码信源符号xi符号概率pi第一次分组第二次分组第三次分组第四次分组第五次分组第六次分组第七次分组二元码x11/200x21/41010x31/810110x41/16101110x51/3
6、21011110x61/6410111110x71/128101111110x81/1281111111105香农码和费诺码一样 平均码长为编码效率为：3-7 1 pi=累加概率为 Pi= 累加概率分别为符号x1x1x2x3x4x5x6x7概率1/21/41/81/161/321/641/1281/256累加概率0码长12345678 二元码010110111011110111110111111011111110 2信源的信息量为平均码长为： 码字的平均信息传输率为 Rbit/码3编码效率R1003-10 1H(X) 2信源符号xi符号概率pi编码过程编码码长x11002x2012x3112x
7、41003x510104x6101143-11 1信源熵 2香农编码：信源符号xi符号概率pi累加概率Pi-Logp(xi)码长Ki码字x10200x23010x33100x43101x541110x6511110 平均码长：编码效率为3 费诺编码为信源符号xi符号概率pi1234编码码长x100002x21012x310102x4101103x51011104x6111114平均码长为：编码效率： 4哈夫曼编码信源符号xi符号概率pi编码过程编码码长x11012x2102x3112x40003x500104x600114平均码长为：编码效率： 3-121 信源熵 (2)信源符号xi符号概率p
8、i编码过程编码码长x111x20013x30113x400004x501004x601014x7000105x8000115 (3) 香农编码信源符号xi符号概率pi累加概率Pi-Logp(xi)码长Ki码字x10200x23011x341001x441010x541100x6511011x7511101x8511110平均码长:(4) 费诺编码：信源符号xi符号概率pi码码长x100002x21012x31001003x411013x510011004x6111014x71011104x81111143-14信源符号xi符号概率pi编码过程编码码长x11/31/31/31/31/32/3002x21/31/31/31/31/31/3012x31/91/91/92/91/31003x41/91/91/91/91013x51/272/271/91113x61/27
