《信息与编码理论作业解前六》由会员分享，可在线阅读，更多相关《信息与编码理论作业解前六（15页珍藏版）》请在金锄头文库上搜索。
1、信息与编码理论习题解2.1解:平均每个符号长为:秒每个符号的熵为比特/符号所以信息速率为比特/秒2.3解:(a)一对骰子总点数为7的概率是所以得到的信息量为比特 (b) 一对骰子总点数为12的概率是所以得到的信息量为比特2.5解:易证每次出现i点的概率为,所以2.9 & 2.12解:令X=X1,Y=X1+X2,Z=X1+X2+X3, H(X1)=H(X2)=H(X3)=比特 H(X)= H(X1) = =2.585比特H(Y)= H(X2+X3)= 3.2744比特H(Z)= H(X1+X2+X3)= 3.5993比特所以H(Z/Y)= H(X3)= 2.585 比特H(Z/X) = H(X2
2、+X3)= 3.2744比特H(X/Y)=H(X)-H(Y)+H(Y/X) = 2.585-3.2744+2.585=1.8955比特矚慫润厲钐瘗睞枥庑赖。H(Z/XY)=H(Z/Y)= 2.585比特H(XZ/Y)=H(X/Y)+H(Z/XY)=1.8955+2.585 =4.4805比特I(Y;Z)=H(Z)-H(Z/Y)=H(Z)- H(X3)= 3.5993-2.585=1.0143比特聞創沟燴鐺險爱氇谴净。I(X;Z)=H(Z)-H(Z/X)=3.5993- 3.2744=0.3249比特I(XY;Z)=H(Z)-H(Z/XY) =H(Z)-H(Z/Y) =1.0143比特I(Y;Z
3、/X)=H(Z/X)-H(Z/XY)= H(X2+X3)-H(X3) =3.2744-2.585=0.6894 bit残骛楼諍锩瀨濟溆塹籟。I(X;Z/Y)=H(Z/Y)-H(Z/XY)=H(Z/Y)-H(Z/Y) =02.27解：考虑到约束条件采用拉格朗日乘子法当且仅当时，等式成立。将带入：实现最大微分熵的分布，相应的熵值log（me）3.5解:（a）二元Huffman编码平均码长（b）三元Huffman编码注意：K=10为偶数，需要添一个概率为零的虚假符号3.9我们认为，第一种三元异字头码比第二种三元异字头码更好。以下是我们的理由。离散信源每隔一个定长的时间间隔就产生一个随机变量。这个随机
4、变量共有8个可能的事件。使用第一种三元异字头码，则每隔一个定长的时间间隔就产生一个长度为2的码字。使用第二种三元异字头码，则每隔一个定长的时间间隔产生一个长度可能为1，可能为2，也可能为3的码字。综上所述，第一种三元异字头码使得编码器的时钟固定，而第二种三元异字头码使得编码器的时钟随机。因此第一种三元异字头码的编码器更简单。酽锕极額閉镇桧猪訣锥。4.14.8解：每个符号的熵为采样频率Fs为：Fs=2W=8000 Hz所以信息速率R为：4.9解：每象点8电平量化认为各级出现的概率相等，即H(U)=3 bits所以信息速率R为：4.10解：4.12解：高斯信道的信道容量为习题5.1解：DMC信道有
5、因为所以，最大后验概率译码为：。译码错误概率为：若按最大似然译码准则译码为：译码错误概率为：可见,最大似然译码的译码错误概率大于最大后验概率译码的译码错误概率。6章:6.2 设证件号码由7位10进制数x7x6x1构成。今附加一位校验位x0，其中若(x7x6x1)(8245123)，试求x0。若其中数字x6模糊不清时，能否恢复出原来的数字？解：x0=33+29+127+581+4243+2729+82187(mod10)=5。若其中数字x6模糊不清时，5=33+29+127+581+4243+ x6729+82187(mod10)。7= x69(mod10)。x6=79(mod10)=3。一个校
6、验矩阵为H=3, 1, 7, 9, 3, 1, 7,1。即：8维向量(x7x6x1x0)是一个码字，当且仅当3x7+x6+7x5+9x4+3x3+x2+7x1+x0(mod10)=0。若码字其中有个别数字模糊不清，说明将码字输入了“纯删除信道”。当只有一个位置模糊不清时，根据其它7个位置的值可以恢复模糊不清的数字。彈贸摄尔霁毙攬砖卤庑。严重的问题：10不是素数！因此，0, 1, , 9关于模10加法和模10乘法不构成有限域！不过只要生成矩阵G关于模10是满行秩的，仍然可以得到10元(8,7)线性分组码。謀荞抟箧飆鐸怼类蒋薔。缺少2.19 3.3 3.8 5.5 6.3 6.16 7.1 7.3
7、 7.4 7.8 第九章7.3 设（3,1,2）二元卷积码的生成多项式为,厦礴恳蹒骈時盡继價骚。,试画出码的树图，格图，状态图，并给出编码器电路。解：由题，D D +u状态转移图：由于=1，m=2.可能的状态有4种，a=00 b=01 c=10 d=111/110011110001/0010/0010/1101/0001/1110/1110/000acbd茕桢广鳓鯡选块网羈泪。树图：00011000000001a111111001111001110111001000110bcdabcda鹅娅尽損鹌惨歷茏鴛賴。篱笆图（3，1，2）b(01)c(10)d(11)a(00)1000. .23000000. . . . 1110011101101111110011110001100010籟丛妈羥为贍偾蛏练淨。
