《湘大信息论与编码试卷及答案》由会员分享，可在线阅读，更多相关《湘大信息论与编码试卷及答案（4页珍藏版）》请在金锄头文库上搜索。
1、一、填空题(每空1分，共30分)(1) 在现代通信系统中，信源编码主要用于解决信息传输中的有效性，信道编码主要用于解决信 息传输中的可靠性，加密编码主要用于解决信息传输中的安全性。(2) 不可能事件的自信息量是，必然事件的自信息是0 o(3) 离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的 3(4) 在信息处理中，随着处理级数的增加，输入和输出消息之间的平均互信息量会减少(5) 若一离散无记忆信源的信源熵H (X)等于2.5对信源进行等长的无失真二进制编码，则编 码长度至少为3(6) 假设每个消息的发出都是等概率的，四进制脉冲所含信息量是二进制脉冲的_2倍。(7) 对于香农编码、费
2、诺编码和霍夫曼编码，编码方法惟一的是香农编码。霍夫曼编码方法构造 的是最佳码。已知某线性分组码的最小汉明距离为3,那么这组码最多能检测出_ _个码元错误，最多能纠正_个码元错误。(9) 设有一个离散无记忆平稳信道，其信道容量为C,只要待传送的信息传输率R小干_C (大 于、小于或者等于)，则存在一种编码，当输入序列长度n足够大，使译码错误概率任意 小o(10) 平均错误概率不仅与信道本身的埋计特性有关，还与_译码规则和编码方法有关(11) 互信息I(Xo Y)与信息熵H(Y)的关系为：I(Xo Y)_小干(大于、小于或者等于) H(Y)o(12) 克劳夫特不等式是唯一可译码存在的充要条件。00
3、, 01，10，11是否是唯一 可译码？是o(13) 差错控制的基本方式大致可以分为前向纠错、反馈重发和混合纠错(14) 如果所有码字都配置在二进制码树的叶节点，则该码字为唯一可译码o(15) 设信道输入端的熵为H(X)，输出端的熵为H(Y)，该信道为无噪有损信道，则该信道的容量 为 Max H (Y) o(16) 某离散无记忆信源X，其符号个数为n，则当信源符号呈等概分布情况下，信源熵取最大彳值log (n) o(17) 平均互信息是输入信源概率分布的丄凸函数。平均互信息是信道转移概率的下凸函数，平均互 信 息 的 最 大 值 为 信道容量 二、简答题(共4题，每题5分)log21p (x
4、)i1，简述自信息和平均自信息量I(x)i自信息：H(x) p(x )log p(x)平均自信息量： i i1 i 2 i2, 简述信源的符号之间的依赖与信源冗余度的关系。当信源的符号之间有依赖时，信源输出消息的不确定性减弱。而信源冗余度正是反映信源符号 依赖关系的强弱，冗余度越大，依赖关系就越大。3, 简 述 香 农 第 一 编 码 定 理 的 物 理 意 义 ?1. 答：无失真信源编码，编码后尽可能等概率分布,使每个码元平均信息量最大。从而使信道信 息传输率R达到信道容量C,实现信源与信道理想的统计匹配。4, 什么是最小码距,以及它和检错纠错能力之间的关系。某一码书C中，任意两个码字之间汉
5、明距离的最小值称为该码的最小码距Dmin.当已知某线性分 组码的最小汉明距离为Dmin，那么这组码最多能检测出e =DminT个码元错误，最多能纠正t =(Dmin-1) /2个码元错误。三、计算题(共6题，每题1 0分)1,有两个二元随机变量X和Y，它们的联合概率为P-7x =01x =12y =011/83/8y =123/81/8定义另一随机变量Z = XY (般乘积)，试计算H(z)二?解：Z = XY的概率分布如下:ZP(Z)z017z218H(Z) 2 p(z)kk7log8 8log80.544 bit/sym bol2, 二元对称信道如图。311) 若 p04， p 14 ，求
6、 HX2) 求该信道的信道容量。解: 1)共6分H(X) = 0.81132)，(3分)此时输h 吊分布0 749bit符号bit /符号1分)7(; 7) = 0.0616 加打符号o0 0 1 o1OOO 0 0 0 1 0 10 03, 求以下二个信道的信道容量：3答：Pl为一 一对应确定信道，因此有C1=maxH(X)=1O4=2曲符号 P2为具有归并性能的信道，因此有磁H=喝3=1.5995如符号4,.信源空间为XP(X)l 2340.2 0.l9 0.l8 0.l750.l5xx670.l 0.0l，试构造二元霍夫曼码，计算其平均码长和编码效率(要求有编码过程)。0. 200. 2
7、60. 35o0. 350. 200. 260. 110. 200. 390. 150. 190. 180. 170. 190. 180. 170. 190. 190. 390. 260. 01.0.61-0. 10 丄10. 18 牛0. 15 亠0. 20 丄1_7Z = 2AX = 2.72i=l码元/符号比特/符号信源符号你概率別吗)码字W,码长h0.201020.191120J8000340J700130J50103%0.100110470.01011140.17 _d5, 已知一个高斯信道，输入信噪比(比率)为3。频带为3kHz,求最大可能传 送的信息率。若信噪比提高到15,理论上
8、传送同样的信息率所需的频带为 多少？5答:(1)最大可能传送的信息率是Ct= w log (1+ Px/Pr) = 3x 1000 xlog (1+ 3) = 6x 1000比特/秒 (2) 1.5kHZ0001116,设一线性分组码具有一致监督矩阵H0110011010111）求此分组码n=?,k=?共有多少码字？2）求此分组码的生成矩阵G。3）写出此分组码的所有码字。4）若接收到码字（101001），求出伴随式并给出翻译结果。解：1） n=6,k=3共有8个码字。（2分）C2）设码字由HC t丁得CCC0210CCC0430CCCC05310CCCCCC543210CCC令监督位为 2 1 0 ，则有CCC253CCC154CCC043100110010011001101生成矩阵为（3分）3）所有码字为000000，001101，010011，011110，100110，101011，110101，111000。（3分）4）由 St HR T 得101 ，该码字在第 5位发生错误101001）纠正为（101011），即译码为（101001）（2分）
