信息论小题测试题

《信息论小题测试题》由会员分享，可在线阅读，更多相关《信息论小题测试题（10页珍藏版）》请在金锄头文库上搜索。

1、第一章自我测试题一、填空题1.在认识论层次上研究信息的时候，必须同时考虑到形式、_和_三个方面的因素。2.如果从随机不确定性的角度来定义信息，信息是用以消除_的东西。3.信源编码的结果是_冗余；而信道编码的手段是_冗余。4._年，香农发表了著名的论文_，标志着信息论诞生。5.信息商品是一种特殊商品，它有_性、 _性、 _性和知识创造性等特征。二、判断题1.信息传输系统模型表明，噪声仅仅来源于信道（）2.本体论层次信息表明，信息不依赖于人而存在（）3.信道编码与译码是一对可逆变换（）4.1976 年，论文密码学的新方向的发表，标志着保密通信研究的开始（）5.基因组序列信息的提取和分析是生物信息学

2、的研究内容之一（） 三、选择题1.下列表述中，属于从随机不确定性的角度来定义信息的是_ A信息是数据B信息是集合之间的变异度C信息是控制的指令D信息是收信者事先不知道的报道2._是最高层次的信息A 认识论B 本体论C 价值论D 唯物论3.下列不属于狭义信息论的是_ A 信息的测度B 信源编码C 信道容量D 计算机翻译4.下列不属于信息论的研究内容的是_ A 信息的产生B 信道传输能力C 文字的统计特性D 抗干扰编码5.下列关于信息论发展历史描述不正确的是_ A 偶然性、熵函数引进物理学为信息论的产生提供了理论前提。B 1952 年，香农发展了信道容量的迭代算法C 哈特莱用消息可能数目的对数来度

3、量消息中所含有的信息量，为香农创立信息论提供了思路。D 1959 年，香农首先提出率失真函数和率失真信源编码定理，才发展成为信息率失 真编码理论。四、简答题给定爱因斯坦质能方程2EmcD= D，试说明该方程所传达的语法信息、语义信息和语用信息。第一章 自我测试题参考答案一、填空题1. 语义，语用2. 随机不确定性3. 减小，增加4. 1948，通信的数学理论5. 保存性，共享性，老化可能性二、判断题1. ； 2. ； 3. ； 4. ； 5. 三、选择题1. D；2. B；3. D；4. A；5. B 四、简答题语法信息：就是该方程中各个字母、符号的排列形式。语义信息：ED为所产生的能量，mD

4、为质量的变化，2c为光速的平方，=表示左右在量值上相等。综合起来就是，质量的微小变化可以产生巨大的能量。语用信息：该方程可以启发主体在一定条件下，通过物质质量的变化来产生巨大的能量，如果让能量缓慢释放出来，可以得到核能；如果让能量瞬间释放出来，可借以制造核弹。第二章测试题一、填空题1.N 阶平稳信源的N 维分布函数与_无关。2.在对信源进行观察之前，对认识主体来说，信源存在_不确定性，观察之后，信源还存在 _不确定性。3.联合符号),(jiy的不确定性，等于_的不确定性加上_的不确定性。4.256 个亮度值构成的信源，其熵值最大为_比特。5.无条件熵 _条件熵，条件多的熵_条件少的熵。 （填大

5、于或小于）二、判断题1.对于 DMS，长度为3 的符号串的平均不确定是单个符号平均不确定的3 倍。 （）2.信源内部的关联性，会提高熵值。（）3.马尔科夫信源符号的输出不仅与当前的信源状态有关，而且还与以前的状态有关。（）4.信息含量效率越高，信源的冗余度也越高。（）5.与离散熵相同，微分熵也是非负的。（）三、选择题1.下列物理量，不满足非负性的是（）A. H(); B. I(;Y); C. I);(jiy; D. H(Y) 2.连续型随机变量的取值受限，那么该随机变量服从_时，微分熵最大。A. 高斯分布； B. 泊松分布； C. 均匀分布； D. 指数分布3.下列说法中，不正确的是_ A.

6、熵功率PP _ ，其中 P为连续随即变量 的平均功率B. 熵功率)(2_e21=heP，其中 h() 是 的微分熵C. 若 平均功率为P，但不是高斯分布，则ePInh2)(D. 的平均功率为P 时（均值非零） ，则 得最大熵为ePh2log=)(4.下列表达式不正确的是_ A.)(+)(=)(+)(=),(jkjkjkjkyIyIyIIyIB.);(+);();(32131321uuuIuuIuuuIC.)(+)(=)(+)(=)(YHYHYHHYHD.)()(HYH5.下列关于马尔科夫信源的叙述中，不正确的是_ A. 某一时刻信源符号的输出只与当时的信源状态有关，而与之前的状态无关B. 信源

7、状态只由当前输出符号和前一时刻信源状态唯一确定C. 一般马尔科夫信源的信息熵是其平均符号熵的极限值D. M 阶马尔科夫信源的极限熵等于m+1 阶条件熵第二章测试题答案 一、填空题1. 时间的起点 2. 先验，后验3. 关于输入k，干扰引入（或者：关于输出jy dd，观察到jy后还剩余）4. 8 5. 大于，小于 二、判断题1.； 2. ； 3. ； 4. ； 5. 三、选择题1.C；2. C；3. C；4. B；5. D 第三章自我测试题 一、填空题1.有记忆信道的当前输出不仅与_输入有关，还与 _输入有关。2.既代表 _，又代表 _，因此， 通常把(|)H Y称为信道的 _或_3.如果信道给

8、定，那么|(,)Y I PP是输入概率P的_凸函数。如果信源给定，那么|(,)Y I PP是转移概率YP|的_凸函数。4.衡量一个信息传递系统的好坏，有两个主要指标。其一，_；其二， _。5.使得给定信道_的输入分布，称为最佳输入(概率 )分布，记为* P二、判断题1.信道容量C不仅与信道转移概率有关，也与信道的输入分布有关。（）2.噪声熵为0 的信道称为确定信道。 （）3.离散对称信道输入等概率分布时，输出未必也等概率分布。（） 4.一般 DMC 达到信道容量的充要条件为信源符号的偏互信息均等于信道容量。（） 5.信道是DMC的充要条件是序列符号对之间的转移概率等于各个时刻单个符号对 转移概

9、率之连乘。 （） 三、选择题1.若信道和信源均无记忆，以下结论不成立的是_ A. 1(;)(;)Nkk kI YI YB(;)(;)I YNI YC1(;)(;)Nkk kI YI YDNCNC 2.关于两个独立信道Q1、 Q2 串联，下列说法不正确的是_ Y信道 I 1QZ信道 II 2QA. 串联信道的信道容量与组成串联信道的各分信道的信道容量存在精确的定量关系 B数据处理过程中，随着数据的不断处理，从处理后的数据中所得的原始信息会愈来 愈少C串联信道的转移概率矩阵是各单元信道的转移概率矩阵之积DYZ组成一个马尔可夫链3.信源的输出与信道的输入匹配的目的不包括_ A. 符号匹配； B. 信

10、息匹配；C. 功率匹配； D. 降低信道剩余度 4.以下关于连续信道的说法中，不正确的是_ A连续信道是时间离散、幅值连续的信道 B连续信道的统计特性由转移概率分布函数描述 C加性噪声信道的转移概率密度函数等于噪声的概率密度函数 D对于无记忆加性噪声信道，若输入信号服从高斯分布，且噪声的平均功率受限，则 服从高斯分布的噪声使信道平均互信息量达到最小5.已知香农公式0()log 1S SPC PBN B，不能得出的结论是_ A. 在信噪比不变的前提下，增大频带，可增大信道容量B. 频带不变时，增大信噪比即可增大信道容量CC. 在 PS增大很多之后，继续增大信号功率来实现信道容量的增大是一个有效途

11、径 D. 用扩频方法来增大信道容量，其作用是有限的 第三章自测题参考答案 一、填空题1、当前时刻的，以前的 2、收到输出Y后对输入还存有的疑义，信道在传输过程中的信息损失，疑义度，损 失熵3、上，下4、数量（速度）指标：信息（传输）率R，即信道中平均每个符号传递的信息量， 质量指标：平均差错率eP，即对信道输出符号进行译码的平均错误概率。5、);(YI达到最大值 (即信道容量C) 二、判断题1、； 2、； 3、； 4、； 5、 三、选择题 1、C；2、A；3、C；4、B；5、C 第四章测验题一、填空题1.无失真编码只对信源的_进行压缩，而不会改变信源的熵，又称冗余度压缩编码。2.无失真信源编码

12、的作用可归纳为（1）_； （2）_ 3.无失真信源编码器的熵为()H U=2.35bit/ 符号；则编码后的熵()H W_bit/码字；若平均码长为2.6 比特 / 码字，则()H =_，信息率 R=_，c=_，冗余度c=_。4._的码称为奇异码5.对于一个码，若_，则称该码为惟一可译码二、判断题1.对于一个码，若每个码字都与惟一的一个信源符号相对应，则该码为惟一可译码。（）2.定长非奇异码肯定是惟一可译码。（）3.非续长码中任一码字都不是其他码字的前缀。（）4.非续长码必满足Kraft不等式。（）5.一个码是惟一可译码的充要条件是满足Kraft不等式。（）三、选择题1.关于定长编码，以下说法

13、不正确的是_ A. 无失真定长编码要求可用的码字数不少于扩展信源的符号数B无失真r 进制定长码码长不得低于信源r 进制符号熵C信源序列的分组长度N增大可以提高编码效率D引入失真不可能提高定长码的编码效率2.关于变长编码，以下说法不正确的是_ A. 无失真 r 进制变长码码长不得低于信源r 进制符号熵B变长编码时，随着信源序列长度N的增大，编码效率提高。C变长码要求各个码字的长度互不相同D变长码的编码效率高于定长码3.下述编码中 _可能是任何概率分布对应的Huffman A0, 10, 11 B00, 01, 10, 110 C01, 10 D001, 011, 100, 101 4.关于无失真

14、信源编码，以下说法不正确的是_。A有效的信源编码可使输出码元概率均匀化B霍夫曼编码过程中，可能造成码字不惟一，但平均码长是相同的，因而编码效率是相同C香农编码不能保证码字具有非续长性D费诺编码按照“概率大码长小、概率小码长大”来决定码长5.下列说法不正确的是_ A.算术编码的码长与该序列的累计概率有关B.Huffman 码无法对只含2 个符号的信源进行压缩C.游程编码的效率取决于信源符号的重复率D.算术编码可以对只含2 个符号的信源序列进行压缩E字典编码通过把信源符号序列映射为位置序号达到压缩编码的目的 第四章测验题参考答案一、填空题1.冗余度2.符号变换；冗余度压缩3.2.35 ；0.903

15、8 比特 / 码元； 0.9038 比特 / 码元； 90.38%，9.62 4.含相同码字的5.由该码的码字组成的任意有限长码字序列都能恢复成惟一的信源符号序列二、判断题1.； 2. ； 3. ； 4. ； 5. 三、选择题1.D；2.C；3.A ；4.D；5.A 第五章测验题一、填空题1. 信息传递系统的基本功能是在系统输出端准确地再现系统输入端发送的信息。但是会受到客观限制，首先_受_的限制；其次，由于 _的干扰， _不可避免。2. 衡量信息传输速度大小的指标是信道的信息（传输）率R，其最大值就是 _，衡量信息传输可靠性的指标是_。3. 为了降低平均差错率， 可先对消息 _再送入信道传送， 这种为降低_而进行的编码称为信道编码。4. 信