《信息论期末考试试题答案》由会员分享，可在线阅读，更多相关《信息论期末考试试题答案（7页珍藏版）》请在金锄头文库上搜索。
1、安徽大学 20112012 学年第 1 学期 信息论考试试卷参考答案（AB合卷） 一、 填空题1、()( ; )log( ) ( )p xyI x yp x p y；2、事物运动状态或存在方式的不确定性的描述；3、(| )log(| ) (| )p xy zp x z p y z；4、信源 编码器 信道 译码器 信宿；5、保密性 认证性；6、0.72；7、，；8、(;)CI X Y；9、4.6 ；10、0H1H4H6HH；11、( )( )1loglogNLH SH SrNrN；12、( )fx在qF 上不可约；13、( )g x|1nx；14、2F、22F 、32F 、42F、62F、122
2、F；15、8，4. 二、判断题1、2、 3、 4、5、6、 7、8、9、 三、计算题 1、解：1111()loglog12222H X1( )log24H Y1()log38H Z当ZYX,为统计独立时：()()( )( )1236H XYZH XH YH Z2、解： 二次扩展信源为2111213212223313233,411111111,9999363693636x xx xx xx xx xx xx xx xx xXP信源熵：22H XH X（）（ ）22112log2log)3366（=2log3-2/3 比特/二符号3、解：1）信道到矩阵为1/31/ 61/ 31/ 61/ 61/
3、31/ 61/ 3P，故此信道为对称信道1 1 1 1log 4(,)3 6 3 6CH5l o g 33（比特 /符号）相应的最佳输入概率分布为等概率分布。（2）信道到矩阵为1/ 21/ 31/ 61/ 61/ 21/ 31/ 31/ 61/ 2P，故此信道为对称信道111l o g 3(,)236CH12log 323（比特 /符号）相应的最佳输入概率分布为等概率分布。 4、解： 此信道为二元对称信道，信道容量为：251()1( )=log3/33CHpH比特符号根据二元对称信道的性质可知，最佳输入分布为等概率分布。4 分2( )log( )log33XH XP xP x（ ）/比特符号(
4、| )( ) ( | )log( | )XYH X YP x P y xP x y326111313122loglogloglog4374374354357532l o g 7l o g 5l o g 31 21 243（0.749）/比特符号(;)()(|)I X YH XH X Y775log 3log 7log 541212(0.062)比特/符号5、解：132133121233/ 41/ 21/ 41/ 21Q SQ SQ SQ SQ SQ SQ SQ SQ SQ SQ S123()2 / 7()3/ 7()2 / 7Q SQ SQ S111131321212223131232()()
5、|()|3/ 7()()|()|2/ 7()()|()|2/ 7P aQ S P aSQ SP aSP aQ S P aSQ SP aSP aQ S P aSQ SP aS状态的条件熵1111111 1111112121212 1212123131313 131313111|log|log|log3/ 2|111|log|log|log1|111|log|log|log0|HX Sp aSp aSp aSp aSp aSp aSHX Sp aSp aSp aSp aSp aSp aSHX Sp aSp aSp aSp aSp aSp aS计算马尔可夫信源熵H3|2/ 7 1.53/ 7 106
6、/ 7iii EEHHQ S HX S(比特/符号) 6、解： 记状态 Ei=i, i=0,1,2 (1) ( |),0,1 ,2iP i Epi，(|), ,0,1,22ipP jEij i j得001210122012012()()()()22()()()()22()()()()22 ()()()1ppQ EpQ EQ EQ EppQ EQ EpQ EQ EppQ EQ EQ EpQ EQ EQ EQ E解得0121()()()3QEQ EQ E2011(0)()(0|)()3223ii ippPQ EPEp，同理有1(1)(2)3PP（2）2200() ( |)log(|)iii ijH
7、Q E P j EP j E20()(|)ii iQ E HXE111(,)(,)(,)( ,)32232232222ppppppppH pHpHpHplogloglog2222pppppp7、解：3n，( )2g xx，deg ( )3 12kng x，30,1,2F2|39kCq生成矩阵：210021G12123|(,),Cc cx x Gx xF=(000),(210),(021),(102),(120),(012),(201),(111),(222) 8、解：3n，( )1g xx，deg ( )3 12kng x，20,1F2|24kCq生成矩阵：11001 1G12122|(,),
8、Cc cx x Gx xF=(000),(110),(011),(101) 四、综合题1、解： 联合概率矩阵为1116124 11181224 11124812 最小错误概率准则下译码函数为：11()F yx ，23()F yx ，31()F yx平均错误概率*,11()24Eij Y XxPP x y最大似然译码准则下译码函数为：12()F yx ，23()F yx ，31()F yx平均错误概率*,1()2Eij Y XxPP x y2、解： 霍夫曼码是紧致码， 由霍夫曼编码方法可得一种三元霍夫曼码为1，00，02，20，21，22，010， 011，012平均码长81()ii iLl p
9、 s=1.75 3、解： 由校验矩阵可得生成矩阵为110100101010011001G0150132(,.,) |(,) ,0,1,2iCc ccx x x G xF i=(000000),(011001),(101010),(110011),(110100),(101101),(011110),(000111)简明译码表 校验子000 001 010 011 100 101 110 111 陪集头000000 001000 010000 000001 100000 000010 000100 001100 当收到的字为010011， 计算校验子()SH =100 陪集头为 100000 译
10、码为 010011-100000=110011五、证明题1、 证明：设概率矢量12(,)qPppp，11qi ip设随机矢量Y=1P，即1i iyp，由函数( )logf YY 关于Y是型凸函数，根据詹森不等式有：( )()E f Yf EY11loglog()qqiiii iipyp y1111loglog()qqii iiiipppp12(,)logqH pppq当且仅当1 ipq时，取等号：111(,)logHqqqq2、 证明：在区域 0，1中，设xxxflog是区域内的上凸函数，并设1,| 1qiiiiijijippappaapx根据詹森不等式：qiqiiiiixpfxfp11得jj
11、qiqiijiijiqiijijippppppppplogloglog111对两边 j 求和有：qiqjqjjjijijippppp111loglog即有212|XHXXH。3、 证明：由 C是线性码有，,a bC ，abC一方面，存在,C，使得()( ,)d CD()(,)()()d CDWW C另一方面，存在aC，使得()( )W CW a()( )(0)( ,0)()W CW aW aD ad C从而有()()dCWC。4、 证明：由 C是线性码，有 C 为线性码。011(,)nb bbC ，对011(,)nc ccC ，有001 1110nnb cbcbc由 C是循环码，1210(,)nc cccC ，0 11221100nnnb cbcbcbc即1 00 112210nnnbcb cbcbc从而1012(,)nnbb bbC故， C 是循环码。
