《《信息论与编码》习题 发送》由会员分享，可在线阅读，更多相关《《信息论与编码》习题 发送（8页珍藏版）》请在金锄头文库上搜索。
1、1 1、一副充分洗乱的扑克牌（、一副充分洗乱的扑克牌（5252 张）张） ，从中任意抽取，从中任意抽取 1 1 张，然后放回，若把这一过程看作离散无记忆信源，张，然后放回，若把这一过程看作离散无记忆信源，则其信源熵为则其信源熵为 _log2_log2 52_52_ 。2 2、信息率失真理论是量化、数模转换、频带压缩和、信息率失真理论是量化、数模转换、频带压缩和 _数据压缩数据压缩_ 的理论基础。的理论基础。3 3、信源的消息通过信道传输后的、信源的消息通过信道传输后的 误差误差 越大，信宿收到消息后对信源存在的不确定性就越越大，信宿收到消息后对信源存在的不确定性就越大大 ，获得的信息量就越小。
2、，获得的信息量就越小。4 4、高斯加性噪声信道中，信道带宽、高斯加性噪声信道中，信道带宽 3kHz3kHz，信噪比为，信噪比为 7 7，则该信道的最大信息传输速率，则该信道的最大信息传输速率 C Ct t= = 9kHz9kHz 。5 5、BSCBSC 信道即：信道即： 无记忆二进制对称信道无记忆二进制对称信道 。1 1、给定、给定 xi xi 条件下随机事件条件下随机事件 yj yj 所包含的不确定度和条件自信息量所包含的不确定度和条件自信息量 p(yjp(yj /xi)/xi).( .( D D ) )A A数量上不等，单位不同数量上不等，单位不同 B B数量上不等，单位相同数量上不等，单
3、位相同C C数量上相等，单位不同数量上相等，单位不同 D D数量上相等，单位相同数量上相等，单位相同2 2、条件熵和无条件熵的关系是：条件熵和无条件熵的关系是：( ( C C ) )A AH(Y/X)H(Y/X)H(Y)H(Y) B BH(Y/X)H(Y/X)H(Y)H(Y)C CH(Y/X)H(Y)H(Y/X)H(Y) D DH(Y/X)H(Y)H(Y/X)H(Y)3 3、根据树图法构成规则，根据树图法构成规则，( ( D D ) )A A在树根上安排码字在树根上安排码字 B B在树枝上安排码字在树枝上安排码字C C在中间节点上安排码字在中间节点上安排码字 D D在终端节点上安排码字在终端节
4、点上安排码字4 4、下列说法正确的是：下列说法正确的是：( ( C C ) )A A奇异码是唯一可译码奇异码是唯一可译码 B B非奇异码是唯一可译码非奇异码是唯一可译码C C非奇异码不一定是唯一可译码非奇异码不一定是唯一可译码 D D非奇异码不是唯一可译码非奇异码不是唯一可译码5 5、下面哪一项不属于熵的性质：下面哪一项不属于熵的性质：( ( B B ) )A A非负性非负性 B B完备性完备性C C对称性对称性 D D确定性确定性1 1、平均互信息量、平均互信息量 I I（X X；Y Y）对于信源概率分布）对于信源概率分布 p p（xi xi）和条件概率分布）和条件概率分布 p p（yj/x
5、iyj/xi）都具有凸函数性。）都具有凸函数性。 （ 对对 ）2 2、m m 阶马尔可夫信源和消息长度为阶马尔可夫信源和消息长度为 m m 的有记忆信源，其所含符号的依赖关系相同。的有记忆信源，其所含符号的依赖关系相同。 （ 错错 ）3 3、利用状态极限概率和状态一步转移概率来求、利用状态极限概率和状态一步转移概率来求 m m 阶马尔可夫信源的极限熵。阶马尔可夫信源的极限熵。 （ 对对 ）4 4、N N 维统计独立均匀分布连续信源的熵是维统计独立均匀分布连续信源的熵是 N N 维区域体积的对数。维区域体积的对数。 （ 对对 ）5 5、一维高斯分布的连续信源，其信源熵只与其均值和方差有关。、一维
6、高斯分布的连续信源，其信源熵只与其均值和方差有关。 （ 错错 ）6 6、连续信源和离散信源的熵都具有非负性。、连续信源和离散信源的熵都具有非负性。 （ 错错 ）7 7、连续信源和离散信源都具有可加性。、连续信源和离散信源都具有可加性。 （ 对对 ）8 8、连续信源和离散信源的平均互信息都具有非负性。、连续信源和离散信源的平均互信息都具有非负性。 （ 对对 ）9 9、定长编码的效率一般小于不定长编码的效率。、定长编码的效率一般小于不定长编码的效率。 （ 对对 ）1 10 0、若对一离散信源（熵为、若对一离散信源（熵为 H H（X X） ）进行二进制无失真编码，设定长码子长度为）进行二进制无失真编
7、码，设定长码子长度为 K K，变长码子平均长度为，变长码子平均长度为K，一般，一般KKK。 （ 错错 ）1 1、证明：平均互信息量同信息熵之间满足、证明：平均互信息量同信息熵之间满足 I(X;Y)=H(X)+H(Y)-H(XY)I(X;Y)=H(X)+H(Y)-H(XY)2 2、请给出失真函数、平均失真度、保真度准则、信息率失真函数的定义。、请给出失真函数、平均失真度、保真度准则、信息率失真函数的定义。1 1、设输入符号与输出符号为、设输入符号与输出符号为 X XY0,1,2,3Y0,1,2,3，且输入符号等概率分布。设失真函数为汉明失真。求，且输入符号等概率分布。设失真函数为汉明失真。求Dm
8、axDmax 和和 DminDmin 及及 R(Dmax)R(Dmax)和和 R(Dmin)R(Dmin)2 2、请给出连续信源分别为均匀分布、高斯分布和指数分布时信源的相对熵。、请给出连续信源分别为均匀分布、高斯分布和指数分布时信源的相对熵。高斯分布连续信源 X 的相对熵为：1 1、求解率失真函数的问题，即：在给定失真度的情况下，求信息率的、求解率失真函数的问题，即：在给定失真度的情况下，求信息率的 极小值极小值 。2 2、平方误差失真函数、平方误差失真函数 d d（xi，yj）= = （yi-yjyi-yj）2 2 平方平方 。3 3、对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是、
9、对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是 香农编码香农编码 。4 4、信源编码的目的是：、信源编码的目的是： 提高通信的有效性提高通信的有效性 _。5 5、若把掷骰子的结果作为一离散信源，则其信源熵为若把掷骰子的结果作为一离散信源，则其信源熵为 log2 下 6 。1 1、纠错编码中，下列哪种措施不能减小差错概率、纠错编码中，下列哪种措施不能减小差错概率 （ D D ） 。A.A. 增大信道容量增大信道容量 B.B. 增大码长增大码长 C.C. 减小码率减小码率 D.D. 减小带宽减小带宽2 2、一珍珠养殖场收获一珍珠养殖场收获 240240 颗外观及重量完全相同的特大珍珠，但不幸
10、被人用外观相同但重量仅有微小差颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉异的假珠换掉 1 1 颗。一人随手取出颗。一人随手取出 3 3 颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多未找到，但另一人说他用天平最多 6 6 次能找出，结果确是如此，这一事件给出的信息量（次能找出，结果确是如此，这一事件给出的信息量（ A A ） 。A.A. 0bit0bit B.B. log6bitlog6bit C.C. 6bit6bit D.D. log240bitlo
11、g240bit3 3、下列陈述中，不正确的是（下列陈述中，不正确的是（ D D ） 。A.A.离散无记忆信道中，离散无记忆信道中，H H（Y Y）是输入概率向量的凸函数）是输入概率向量的凸函数B.B.满足格拉夫特不等式的码字为惟一可译码满足格拉夫特不等式的码字为惟一可译码C.C.一般地说，线性码的最小距离越大，意味着任意码字间的差别越大，则码的检错、一般地说，线性码的最小距离越大，意味着任意码字间的差别越大，则码的检错、纠错能力越强纠错能力越强D.D.满足格拉夫特不等式的信源是惟一可译码满足格拉夫特不等式的信源是惟一可译码4 4、一个随即变量一个随即变量 x x 的概率密度函数的概率密度函数 P(x)=P(x)= x x /2/2，V20 x，则信源的相对熵为（，则信源的相对熵为（ C C ） 。A A . . 0.5bit0.5bi
