《信息论与编码考试试卷》由会员分享，可在线阅读，更多相关《信息论与编码考试试卷（10页珍藏版）》请在金锄头文库上搜索。
1、信息论与编码考试试卷20122013 学年 第一学期课程名称：信息论与编码 试卷形式：开卷闭卷 试题一 二 三 四 五 六 七 八总分得分常用对数： 2log31.58一、 选择题（共 10 分，每小题 2 分）1、有一离散无记忆信源 X，其概率空间为 ，125.025.0431xxPX则其无记忆二次扩展信源的熵 H(X2)=( )A、1.75 比特/符号； B、3.5 比特/符号；C、9 比特/符号； D、18 比特/符号。2、信道转移矩阵为，其中 两两不12132425363(/)(/)000(/)(/)(/)(/)PyxPyxPyx (/)jiPyx相等，则该信道为A、一一对应的无噪信道
2、B、具有并归性能的无噪信道C、对称信道D、具有扩展性能的无噪信道3、设信道容量为 C，下列说法正确的是：（ ）A、互信息量一定不大于 CB、交互熵一定不小于 CC、有效信息量一定不大于 CD、条件熵一定不大于 C4、在串联系统中，有效信息量的值（ ）A、趋于变大B、趋于变小C、不变D、不确定5、若 BSC 信道的差错率为 P，则其信道容量为：（ ）A、 HpB、 12logpC、 1D、 log()P二、 填空题（20 分，每空 2 分）1、 (7,4)线性分组码中，接受端收到分组 R 的位数为_ ，伴随式 S 可能的值有 _ 种,差错图案 e 的长度为 ，系统生成矩阵 Gs 为_ 行的矩阵，
3、系统校验矩阵 Hs 为_ 行的矩阵，Gs 和 Hs 满足的关系式是 。2、 一张 1024512 像素的 16 位彩色 BMP 图像能包含的最大信息量为 。3、 香农编码中,概率为 的信源符号 xi 对应的码字 Ci 的长度 Ki()iPx应满足不等式 。3、设有一个信道，其信道矩阵为 ，则它是 信道0.25.0.（填对称，准对称） ，其信道容量是 比特/信道符号。三、 （20 分） ，通过一个干扰信道，接受符号集为12()0.5XxP，信道转移矩阵为12Yy341试求（1）H(X),H(Y),H(XY);（7 分）(2) H(Y|X),H(X|Y);（5 分）(3) I(Y;X)。 （3 分
4、）(4)该信道的容量 C（3 分）（5）当平均互信息量达到信道容量时，接收端 Y 的熵 H（Y） 。 （2 分） 计算结果保留小数点后 2 位,单位为比特/符号。四、 （9 分）简述平均互信息量的物理意义，并写出对应公式。五、 （10 分）假设英文字母表(n=26),密钥 k=abc，当明文 m=familycome时，使用 Vigenere 密码算法后得到的密文 c=？请写出具体的步骤。六、 （10 分）设有离散无记忆信源，其概率分布如下： 12345671()824xxxXP对其进行费诺编码，写出编码过程，求出信源熵、平均码长和编码效率。七、信道编码（21 分）现有生成矩阵1010sG1.
5、 求对应的系统校验矩阵 Hs。 （2 分）2. 求该码字集合的最小码字距离 d、最大检错能力 、最大纠maxl错能力 t max 。 （3 分）3. 填写下面的 es 表 （8 分）e s000000000000010000010000010000010000010000010000010000004. 现有接收序列为 ，求纠错译码输出 。 （4 分）(10)rc4. 画出该码的编码电路 （4 分）试题答案一、 选择题（每题 2 分，共 10 分）1、B 2、D 3、C 4、B 5、A二、 填空题（每空 2 分，共 20 分）1、 7,8,7,4,3,GsHsT=0 或则 HsGsT=0。2、
6、 8M bit。3、 22log()log()1ii iPxKPx4、 对称，0.085 比特/信道符号。三、 （15 分）解：(1)由已知条件得 p(X=0)=1/2,p(X=1)=1/2 （2 分）p(Y=0)=1/2,p(Y=1)=1/2（2 分）因此H（X）=1 比特/符号（1 分）H（Y）=1 比特/符号（1 分）H（XY）=1.811 比特/符号.（1 分）（2） （2.5 分）()()(0.8/XYH比 特 符 号（2.5 分）/ 比 特 符 号（3） （3 分）(;)(/)(/)0.189/I YX比 特 符 号（4）该信道为对称信道，根据对称信道的信道容量公式得：（3 分）2
7、122234log,logl./4CmHqbitsgnal（5）该信道为对称信道，当平均互信息量达到信道容量时，信宿呈等概分布，其熵为：H（Y）= log 2 m =1 比特/符号（2 分）四、 （10 分）答：1、 （1 分）(;)()IXHXY平均互信息量是收到 Y 前、后关于 X 的不确定度减少的量，即由 Y 获得的关于X 的平均信息量。 （2 分）2、 （1 分）(;)()I平均互信息量是发送 X 前、后，关于 Y 的平均不确定度减少的量。 （2 分）3、 （1 分）(;)()()IYH平均互信息量等于通信前、后，整个系统不确定度减少的量。 （2 分）五、(10 分) 答：费杰尔密码算
8、法的过程是：设密码 kk 1k2k3kd，明文与密文字母表中均包含了 n 个字母，又设明文mm 1m2，密文为 cc1c2 ，则 ci=mi+ki(mod n)。则，明文为 m=familycome，k=abc，加密之后的结果为：m1=f-5，k1=a-0，c1=5+0(mod 26)=5-f 1 分m2=a-0,k2=b-1,c2=0+1(mod 26)=1-b 1 分m3=m-12,k3=c-2,c3=12+2(mod 26)=14-o 1 分m4=i-8,k4=a-0,c4=8+0(mod 26)=8-i 1 分m5=l-11,k5=b-1,c5=11+1(mod 26)=12-m 1
9、分m6=y-24,k6=c-2,c6=24+2(mod 26)=0-a 1 分m7=c-2,k7=a-0,c7=2+0(mod 26)=2-c 1 分m8=o-14,k8=b-1,c8=14+1(mod 26)=15-p 1 分m9=m-12,k3=c-2,c9=12+2(mod 26)=14-o 1 分m10=e-4,k3=a-0,c10=4+0(mod 26)=4-e 1 分结果为：fboimacpoe六、 （10 分）解：（1）编码如下表所示 （7 分）ix()ipx码字10.5 0 02x0.25 0 1030.125 0 1104x0.0625 0 111050.03125 0 11
10、1106x0.015625 0 11111070.015625111111 111111（2）平均码长（1 分）1116323452.97/4862K比 特 符 号信源熵 （1 分）72163()()log()1.97/iiiHXpx比 特 符 号编码效率 .（1 分）2logXHRKmL七、解：（1） .（2 分）1010sH(2) 最小码距 d=3，最大检错能力 =2，最大纠错能力 tmax=1.（3 分）maxl(3)e s0000000 0000000001 0010000010 0100000100 1000001000 1010010000 0110100000 1101000000 111（8 分）计算接收到的序列 对应的伴随式(10)r（2 分）()TsrH对应的 e 为（0001000）纠错译码输出为.（2 分）(10)(10)(10)c$编码电路 (4 分)(m0, m1, m2, m3)(c0, c1, c2, c3 ,c4, c5, c6)m3m2m1m0c6 c5 c4t=0,1,2,3t=4,5,6
