第二章作业参考答案3、熵的计算公式为，本题中a) ；(b) ；(c) 5、以图像SENA.IMG为例，熵的计算结果如下：一阶熵6.834299二阶熵3.625204差分熵3.656989从表中可以看出，（1）二阶熵比一阶熵明显降低，说明图像中相邻像素之间存在着很强的相关性；（2）差分熵与二阶熵略大一点，这是两者都考虑相邻像素之间相关性，所以熵较小；但二阶熵是考虑相邻像素间相关性后熵的下界，比差分熵更小一些计算其他图像的熵，可以得到相同的趋势7、所有4组码字都满足Kraft-McMillan不等式，所以不能通过该不等式来直接判断一组码字是否为唯一可译码a) 码字0为码字01的前缀，剩余后缀为1；码字11为码字111的前缀，剩余后缀为1；再无其他前缀组将“1”增加到原码表，得到{0, 01, 11, 111, 1}在该码表中，1为111的前缀，剩余后缀为11，是一个码字，所以不是唯一可译的；(b) 码字0为码字01的前缀，剩余后缀为1；再无其他前缀组或一个码字是另一个码字的一部分将“1”增加到原码表，得到{0, 01, 110, 111, 1}在该码表中，1为110的前缀，剩余后缀为10，1也是111的前缀，剩余后缀为11。
再无其他前缀组或一个码字是另一个码字的一部分 将“10”和“11”增加到最近码表，得到{0, 01, 110, 111, 1, 10, 11}在该码表中，11为110的前缀，剩余后缀为0，是一个码字，所以不是唯一可译的；(c) 任何码字都不是其他码字的前缀，所以是前缀码，也是唯一可译码；(d) 码字1为码字10、110、111的前缀，剩余后缀分别为0；10为11，其中10是码字，因此不是唯一可译第三章2、Huffman编码的VC工程程序为HUFF_ENC.DSW，对差分图像进行Huffman编码的VC工程 原参考代码中部分资源没有释放，已更新）图像Sena、Sinan和Omaha编码的结果如下（含码表，单位：字节）：图像直接对像素编码对差分图像编码Sena57,50332,666Sinan61,64937,156Omaha58,37454,065从表中可以看出，（1）采用Huffman编码对上述图像均可以对原始图像进行压缩，说明在图像中每个亮度值的概率是不均衡的；（2）对差分图像再用Huffman编码，可进一步减小文件大小，说明图像中相邻像素之间存在着很强的相关性4、(a) entropy： (b) Huffman code： a1：110 a2：1111 a3：10 a4：1110 a5：0(c) Average length：Redundancy:（1.83-1.82）= 0.01bis/symbol--------------------------------------------------------------------------------------------------5、(a)Huffman code： a1：001 a2：01 a3：000 a4：1The average length of the code is 0.1×3+0.3×2+0.25×3+0.35×1 = 2 bits/symbol.（b）Huffman code： a1：11 a2：01 a3：10 a4：00The average length of the code is obviously 2 bits/symbol.While the average length of the codeword is the same for both codes, that is they are both equally efficient in terms of rate. However, the second code has a variance of zero for the code lengths. This means that we would not have any problems with buffer control if we were using this code in a communication system. We cannot make the same assertion about the first code.第四章5、， observing ，， ；observing ，， ；observing ，， ；observing ，， ；observing ，， ；observing ，， ；take the midpoint as the tag，。
6. a3a2a2a1a2a1a3a2a2a3第五章7、窗口大小为20，前向缓冲区大小为10，搜索窗口大小10C(a) = 1, C( ) = 2, C(r) = 3, C(t) = 4解码过程： 输入 输出： <0, 0, 3> r <0, 0, 1> ra <0, 0, 4> rat <2, 8, 2> ratatatatat <3, 1, 2> ratatatatat a <0, 0, 3> ratatatatat a r <6, 4, 4> ratatatatat a rat at <9, 5, 4> ratatatatat a rat at a rat编码过程：输入序列：ratatatatat a rat at a rat 输入 输出： ||ratatatatat a rat at a rat <0, 0, 3> |r|atatatatat a rat at a rat <0, 0, 1> |ra|tatatatat a rat at a rat <0, 0, 4> |rat|atatatat a rat at a rat <2, 8, 2> ra|tatatatat |a rat at a rat <3, 1, 2> rata|tatatat a |rat at a rat <0, 0, 3> ratat|atatat a r|at at a rat <6, 4, 4> ratatatata|t a rat at| a rat <9, 5, 4>编码输出的三元组与解码输入的三元组完全一样。
8、接收到的序列：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：T 1S2 3I4T5H输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：TH1S2 3I4T5H6TH输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：THI1S2 3I4T5H6TH7HI输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：THIS1S2 3I4T5H6TH7HI8IS输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：THIS 1S2 3I4T5H6TH7HI8IS9S 输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：THIS IS1S2 3I4T5H6TH7HI8IS9S 10 I输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：THIS IS 1S2 3I4T5H6TH7HI8IS9S 10 I11IS 输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：THIS IS HI1S2 3I4T5H6TH7HI8IS9S 10 I11IS 12 H输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：THIS IS HIS 1S2 3I4T5H6TH7HI8IS9S 10 I11IS 12 H13HIS输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：THIS IS HIS HI1S2 3I4T5H6TH7HI8IS9S 10 I11IS 12 H13HIS14S H输入：4, 5, 3, 1, 2, 8, 2, 7, 9, 7, 4字典： 解码出的序列：THIS IS HIS HIT1S2 3I4T5H6TH7HI8IS9S 10 I11IS 12 H13HIS14S H15HIT。