信息论与编码期末考试题----学生复习用

《信息论与编码期末考试题----学生复习用》由会员分享，可在线阅读，更多相关《信息论与编码期末考试题----学生复习用（23页珍藏版）》请在金锄头文库上搜索。

1、第 1 页 共 23 页（一）一、判断题.1. 当随机变量 和 相互独立时，条件熵 等于信源熵 . （ ）XY)|(YXH)(XH2. 由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集. （ ）3.一般情况下，用变长编码得到的平均码长比定长编码大得多. （ ）4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信. （ ） 5. 各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件. （ ）6. 连续信源和离散信源的熵都具有非负性. （ ）7. 信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存

2、在的不确 定性就越小，获得的信息量就越小. 8. 汉明码是一种线性分组码. （ ）9. 率失真函数的最小值是 . （ ）010.必然事件和不可能事件的自信息量都是 . （ ）0二、填空题1、码的检、纠错能力取决于 . 2、信源编码的目的是 ；信道编码的目的是 .3、把信息组原封不动地搬到码字前 位的 码就叫做 .k),(n4、香农信息论中的三大极限定理是 、 、 5、设信道的输入与输出随机序列分别为 和 ，则 成立的XY),(),(YXNII条件 .6、对于香农-费诺编码、原始香农 -费诺编码和哈夫曼编码，编码方法惟一的是 .7、某二元信源 ，其失真矩阵 ，则该信源的 = .01()/2XP0

3、aDmaxD三、计算题.1、某信源发送端有 2 种符号 , ；接收端有 3 种符号 ，转移概率矩阵为ix)1(axp(1 iy)3,21(j./041/P（1） 计算接收端的平均不 确定度 ；()HY（2） 计算由于噪声产生的 不确定度 ；|X（3） 计算信道容量以及最 佳入口分布.2、一阶马尔可夫信源的状态 转移图如右图所示， 信源 的符号集为 .2,10（1）求信源平稳后的概率分 布；0121-pp/21-p/p/2/p/2/1-p图 23第 2 页 共 23 页（2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平 稳分布.求近似信源的熵 并与 进行比较.)(XH3、设

4、码符号为 ，信源空间为 试构造一种三元紧致码.2,10 05.05.1.024. 876431 ssss4、设二元 线性分组码的生成矩阵为 .),7( 1010G（1）给出该码的一致校验矩阵，写出所有的陪集首和与之相对应的伴随式；（2）若接收矢量 ，试计算出其对应的伴随式 并按照最小距离译码准则 )01(v S（二）一、填空题1、信源编码的主要目的是 ，信道编码的主要目的是 。2、信源的剩余度主要来自两个方面，一是 ，二是 。3、三进制信源的最小熵为 ，最大熵为 。4、无失真信源编码的平均码长最小理论极限制为 。5、当 时，信源与信道达到匹配。6、根据信道特性是否随时间变化，信道可以分为 和

5、。7、根据是否允许失真，信源编码可分为 和 。8、若连续信源输出信号的平均功率为 ，则输出信号幅度的概率密度是 时，信源具有最大熵，其值为值 2。9、在下面空格中选择填入数学符号“ ”或“ ”,（1）当 X和 Y相互独立时，H（XY） H(X)+H(X/Y) H(Y)+H(X)。（2） 1221233HX（3）假设信道输入用 X表示，信道输出用 Y表示。在无噪有损信道中，H(X/Y) 0, H(Y/X) 0,I(X;Y) H(X)。二、若连续信源输出的幅度被限定在【2,6】区域内，当输出信号的概率密度是均匀分布时，计算该信源的相对熵，并说明该信源的绝对熵为多少。三、已知信源 1234560.0

6、.1SssP （1）用霍夫曼编码法编成二进制变长码；（6 分）（2）计算平均码长 ;（4 分）L（3）计算编码信息率 ;（2 分）R第 3 页 共 23 页（4）计算编码后信息传输率 ;（2 分）R（5）计算编码效率 。 （2 分）四、某信源输出 A、B、C、D、E 五种符号，每一个符号独立出现，出现概率分别为 1/8、1/8、1/8、1/2、1/8。如果符号的码元宽度为 0.5 。计算：s（1）信息传输速率 。 （5 分）tR（2）将这些数据通过一个带宽为 B=2000kHz的加性白高斯噪声信道传输，噪声的单边功率谱密度为 。试计算601WnHz正确传输这些数据最少需要的发送功率 P。 （5

7、 分）五、一个一阶马尔可夫信源，转移概率为 。121122|,|,|,|33SPSSPS(1) 画出状态转移图。(4 分)(2) 计算稳态概率。(4 分)(3) 计算马尔可夫信源的极限熵。(4 分)(4) 计算稳态下 , 及其对应的剩余度。 (4 分)1H2六、设有扰信道的传输情况分别如图所示。试求这种信道的信道容量。 1212XY七、设 X、Y 是两个相互独立的二元随机变量，其取 0 或 1 的概率相等。定义另一个二元随机变量 Z=XY(一般乘积)。试计算(1) ,;HZ(2) (3) |,|;XY(4) ;IIZ八、设离散无记忆信源的概率空间为 ，通过干扰信道，信道输出端的接收符号集为 ，

8、信道传120.8XxP 12,Yy输概率如下图所示。第 4 页 共 23 页 56141634x2x 1y2y(1) 计算信源 中事件 包含的自信息量；X1x(2) 计算信源 的信息熵；(3) 计算信道疑义度 ；|HY(4) 计算噪声熵 ；|(5)计算收到消息 后获得的平均互信息量。信息论基础参考答案一、填空题1、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。2、信源的剩余度主要来自两个方面，一是信源符号间的相关性，二是信源符号的统计不均匀性。3、三进制信源的最小熵为 0，最大熵为 bit/符号。32log4、无失真信源编码的平均码长最小理论极限制为信源熵（或 H(S)/lo

9、gr= Hr(S)） 。5、当 R=C或（信道剩余度为 0）时，信源与信道达到匹配。6、根据信道特性是否随时间变化，信道可以分为恒参信道和随参信道。7、根据是否允许失真，信源编码可分为无失真信源编码和限失真信源编码。8、若连续信源输出信号的平均功率为 ，则输出信号幅度的概率密度是高斯分布或正态分布或 时，信源2 21xfxe具有最大熵，其值为值 。21loge9、在下面空格中选择填入数学符号“ ”或“ ”,（1）当 X和 Y相互独立时，H（XY）=H(X)+H(X/Y)=H(Y)+H(X)。（2） 1221233HX（3）假设信道输入用 X表示，信道输出用 Y表示。在无噪有损信道中，H(X/Y

10、) 0, H(Y/X)=0,I(X;Y)0时率失真函数的 和 ？二、综合题1.黑白气象传真图的消息只有黑色和白色两种，求：1） 黑色出现的概率为 0.3，白色出现的概率为 0.7。给出这个只有两个符号的信源 X的数学模型。假设图上黑白消息出现前后没有关联，求熵 ；2） 假设黑白消息出现前后有关联，其依赖关系为： ， ， ， ，求其熵；2.二元对称信道如图。 ；1）若 ， ，求 和 ； 2）求该信道的信道容量和最佳输入分布。3.信源空间为 ，试分别构造二元和三元霍夫曼码，计算其平均码长和编码效率。4.设有一离散信道，其信道传递矩阵为 ，并设 ，试分别按最小错误概率准则与最大似然译码准则确定译码规

11、则，并计算相应的平均错误概率。5.5.已知一（8，5）线性分组码的生成矩阵为 。求：1）输入为全 00011和 10100时该码的码字；2）最小码距。6.设某一信号的信息传输率为 5.6kbit/s，在带宽为 4kHz的高斯信道中传输，噪声功率谱 NO=5106mw/Hz。试求：（1）无差错传输需要的最小输入功率是多少？（2）此时输入信号的最大连续熵是多少？写出对应的输入概率密度函数的形式。答案第 17 页 共 23 页一、 概念简答题1.答：平均自信息为表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。平均互信息表示从 Y获得的关于每个 X的平均信息量，也表示发 X前后 Y的平均

12、不确定性减少的量，还表示通信前后整个系统不确定性减少的量。2.答：最大离散熵定理为：离散无记忆信源，等概率分布时熵最大。最大熵值为 。3.答：信息传输率 R指信道中平均每个符号所能传送的信息量。信道容量是一个信道所能达到的最大信息传输率。信息传输率达到信道容量时所对应的输入概率分布称为最佳输入概率分布。平均互信息是信源概率分布的型凸函数，是信道传递概率的 U型凸函数。4.答：通信系统模型如下：数据处理定理为：串联信道的输入输出 X、Y、Z 组成一个马尔可夫链，且有 ， 。说明经数据处理后，一般只会增加信息的损失。5.答：香农公式为 ，它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于信噪

13、比和带宽。由 得 ，则6.答：只要 ，当 N足够长时，一定存在一种无失真编码。7.答：当 RC 时，只要码长足够长，一定能找到一种编码方法和译码规则，使译码错误概率无穷小。8.答：1）保真度准则为：平均失真度不大于允许的失真度。第 18 页 共 23 页2）因为失真矩阵中每行都有一个 0，所以有 ，而 。二、综合题1.答：1）信源模型为2）由 得则2.答：1）2） ，最佳输入概率分布为等概率分布。3.答：1）二元码的码字依序为：10，11，010，011，1010，1011，1000，1001。平均码长 ，编码效率2）三元码的码字依序为：1，00，02，20，21，22，010，011。平均码

14、长 ，编码效率4.答：1）最小似然译码准则下，有 ，2）最大错误概率准则下，有 ，第 19 页 共 23 页5.答：1）输入为 00011时，码字为 00011110；输入为 10100时，码字为 10100101。2）6.答：1）无错传输时，有即 则2）在 时，最大熵对应的输入概率密度函数为（七）一、名词解释（25 道）1、 “本体论”的信息（P3） 2、 “认识论”信息（P3 ） 3、离散信源（11）4、自信息量（12） 5、离散平稳无记忆信源（49） 6、马尔可夫信源（58） 7、信源冗余度 （66） 8、连续信源 （68） 9、信道容量 （95） 10、强对称信道 （99） 11、对称信道 （10