暨南大学考试模拟测验

《暨南大学考试模拟测验》由会员分享，可在线阅读，更多相关《暨南大学考试模拟测验（8页珍藏版）》请在金锄头文库上搜索。

1、第 1 页 共 8 页 暨 南 大 学 考 试 试 卷 得分评阅人 一、选择题（共 5 小题，每小题 3 分，共 15 分） 1.下列关于离散随机变量信息熵的论断中错误的是（ D ） 。 X ()H X A、信息熵表示了信源输出前，信源的平均不确定性； B、信息熵是其概率空间中每个事件所含有的自信息量的数学期望； C、信息熵表示了信源输出后，每个消息或符号所提供的平均信息量； D、信息熵并不反映随机变量的随机性。 X 2.对于连续信源，若平均功率受限（方差受限）时，则其概率密度函数是 X （ A ）时，差熵具有最大值。 A、高斯分布 B、均匀分布 C、三角分布 D、非均匀分布 3.下图给出了两

2、个离散信源 X、Y 的概率空间，其熵值间满足（ B ） 。 12341234 ( )0.150.250.40.2( )0.250.250.250.25 XxxxxYyyyy p xp y A、H(X) H(Y) B、H(X) H(Y) C、2H(X) =H(Y) D、H(X) =2H(Y) 课程类别课程类别 必修必修 选修选修 考试方式考试方式 开卷开卷 闭卷闭卷 教教 师师 填填 写写 20 12 - 20 13 学年度第 一 学期 课程名称： 信息论与编码 授课教师姓名： 谭晓青 考试时间: 2013 年 1 月 16 日 试卷类别试卷类别(A(A、B)B) A A 共共 8 8 页页 考

3、考 生生 填填 写写 学院(校) 专业 班(级) 姓名 学号 内招内招 外招外招 题题 号号一二三四五六七八九十总总 分分 得得 分分 暨南大学信息论与编码试卷 A 参考答案 考生姓名、学号： 第 2 页 共 8 页 4.某无记忆信源 U 为，接收符号，其失真 101 111 ( ) 333 U p u 11 , 22 V 矩阵，则该信源的 Dmax= （ A ） 。 12 11 21 D A、 B、 C、 D、 4 3 2 3 1 3 5 3 5.某一信道，其输入 U 的符号集为，输出 Y 的符号集为，信道 1 0,1 2 0, 1 矩阵，现有四个消息的信源通过这信道传输（消息等概率出现）

4、。 10 11 22 01 P 若对信源进行编码，我们选这样一种码 12 1 1 :,01(1,2) 2 2 i Cx xxi 或 其码长为。这样编码后信息传输率等于（ B ） 。4n A、 B、 C、 D、 1 3 1 2 1 4 2 3 得分评阅人 二、填空题（共 5 小题，每小题 3 分，共 15 分） 1.对于离散有噪无损信道，用 表示输入变量的符号个数，用 表示输出变 rXs 量的符号个数，其信道容量 C = 。 Y logr 2.若连续信源 X 的取值区间 为，其概率密度函数为， 0,) ( ) x m e p x m 其中，m 是 X 的数学期望，则 连续信源 X 的差熵0 x

5、() C HX me 2 log 。 3.有噪信道编码定理 ：有噪信道的信道容量为 C，只RC若信息传输率 暨南大学信息论与编码试卷 A 参考答案 考生姓名、学号： 第 3 页 共 8 页 要码长 足够长 ，必存在一种信道编码和相应的译码规则，使译码n 平均错误概率为 任意小 。 E P 4.已知在 GF(2)x上有，构造(7, 4)循环码可 7323 1(1)(1)(1)xxxxxx 以选择生成多项式=。( )g x 332 (1)(1)xxxx或 5.若纠错码的最小距离为 dmin，要检测个随机错误，则要求；f min 1df 要纠正个随机错误，则要求；要纠正个同时检测个随机错e min

6、21deef 误，则要求。 min 1def 得分评阅人 三、计算题（共 6 小题，每小题 10 分，共 60 分） 1. 某一无记忆信源的符号集为0, 1，已知P(0) = 1/4，P(1) = 3/4。 (1) 求符号的平均熵；（3分） (2) 有100个符号构成的序列，求某一特定序列（例如有m个“0”和（100m） 个“1”）的自信息量的表达式；（4分） (3) 计算(2)中序列的熵。 （3分） 解：(1) 。 。 。 。 。 。 。 。 。 。 。 。 。3symbolbitxpxpXH i ii / 811 . 0 4 3 log 4 3 4 1 log 4 1 )(log)()(

7、分分 (2) 。 。 。 。 。 。 。 。 。 。 。 。 。4 分 分 bitmxpxI xp m ii m mm i 585 . 1 5 . 41 4 3 log)(log)( 4 3 4 3 4 1 )( 100 100 100 100 100 (3) 。 。 。 。 。 。 。 。 。 。 。 。 。3 分 分symbolbitXHXH/ 1 . 81811 . 0 100)(100)( 100 2. 求下列可抹信道的容量，其条件概率P(Y/X)为。 1212 2112 1 1 ssss ssss 解：可抹信道是一个准对称信道，把信道矩阵分解成两个子矩阵如下： 暨南大学信息论与编码试

8、卷 A 参考答案 考生姓名、学号： 第 4 页 共 8 页 mik k kk Myp j Myp j k Myp j k mik s k kk HypypmC s yp m yp yp s ypyp m yp yp m yp yp sssxypxpxypxpyp ssssxypxpxypxpyp ssssxypxpxypxpyp HypypmYXIC s s M sss sss M j j kj )(log)( 1 )( )( )( 2/1 2 )()( )( )( )( )( 2/2/)/()()/()()( 2/12/ )1 (2/)/()()/()()( 2/12/2/ )1 ()/()

9、()/()()( )(log)();(max , 1 1 2 2 1 1 3 2 )( 2 1 21 1 )( 1 )( 1112321313 12122221212 12212121111 2 1 1 1 2 212 221 1 2 1 7 分 分 3 分分 11 212112212121222 1 1212212222 11 (2loglog) (1)log (1)loglog 22 1 (1)log(1)log (1)log/ 2 ss ssssssssss s sssssssbit symbol 3. 对信源： 01 . 0 1 . 015 . 0 17 . 0 18 . 0 19 .

10、 0 2 . 0)( 7654321 xxxxxxx XP X ，编三进制哈夫曼 码，并计算平均码长和码率。 解：三进制哈夫曼码： 。 。 。 。 。 。 。 。 。 。 。 。 。7 分分 xip(xi)编码码字ki s31 s20.540 s10.261 x10.2221 x20.190002 x30.181012 x0.172022 x50.150102 x60.11112 x70.012122 暨南大学信息论与编码试卷 A 参考答案 考生姓名、学号： 第 5 页 共 8 页 %4 .91 3log8 . 1 609 . 2 log )()( 8 . 1 )01 . 0 1 . 015.

11、 017 . 0 18 . 0 19 . 0 (22 . 01)( 2 2 m L K XH R XH xpkK i ii 。 。 。 。 。 。 。 。 。 。 。 。 。 3 分分 4.设信源 pp xx XP X 1)( 21 （p 0.5） ，其失真度为汉明失真度，试问当允 许平均失真度 D = 0.5p 时，每一信源符号平均最少需要几个二进制符号表示？ 解：因为二元信源率失真函数： a D HpHDR)()( 其中 a = 1（汉明失真）, 所以二元信源率失真函数为： )()()(DHpHDR 。 。 。 。 。 。 。 。 。 。 。 。 。5 分 分 当2 p D 时， 。 。

12、。 。 。 。 。 。 。 。 。 。 。 5 分分 symbolnat pppp pppp p HpH p R/ 2 1ln 2 1 2 ln 2 )1ln()1 (ln 2 )( 2 5. 设有一连续随机变量 X，其概率密度函数，试求 Y = 2 301 ( ) 0 xx p x 其他 2X 的熵 Hc(Y)。 解： 0101 2 y x 。 。 。 。 。 。 。 。 。 。 。 。 。4 23 2 0 2 02 ( )()(2)() 2 1 3 8 3 ( )( ) 8 Y y y y FyP YyPXyP X x dxy f yF yy 分分 2 2 3 ( )( )log( )(

13、)log 8 3 log( )( )log 8 c RR RR H Yf yf y dyf yy dy f y dyf yy dy 暨南大学信息论与编码试卷 A 参考答案 考生姓名、学号： 第 6 页 共 8 页 。 。 。 。 。 。 。 。 。 。 。 。 。6 分 分 2 33 loglog 84 328 loglog 83 21 log3log1 3 2 ( )log3log1 / 3 R c yydy e e H Yebit symbol 6. 下面是某(n, k)线性二元码的全部码字： 1234 5678 000000000111011001011110 1010111011001

14、10010110101 CCCC CCCC （1） 求n, k为何值；（3分） （2） 构造这码的生成矩阵G；（3分） （3） 构造这码的一致校验矩阵H。（4分） 解：(1) 因为码字数，所以为(6, 3)码线性分组码。3 3 822 k M 3,6kn 分分 (2) 生成矩阵为行，列的矩阵，由个线性独立的码字组成，G3k 6n 3k 故。 3 分分 000 111 011 001 101 011 G (3) 设信息位为，则码字 123 (,)mm m m 123 000 111 () 011 001 101 011 Cm G m m m 所以 13 22 123 32312 145 41 1

15、246 51341 6123421 0 0 0 cm cm ccc cmmcc ccc cm cccc cmmcc cmmmccc 暨南大学信息论与编码试卷 A 参考答案 考生姓名、学号： 第 7 页 共 8 页 所以。 4 分分 111 000 100 110 110 101 H 得分评阅人 四、证明题（共 2 小题，每小题 5 分，共 10 分） 1.证明：,并说明当是马氏链时等式成立。 31231 (/)(/)H XX XH XX 123 ,XXX 证明： 0 log1)/()( log)()/()( log1 )/( )/( )( )/( )/( log)( )/(log)()/(lo

16、g)( )/(log)()/(log)( )/()/( 2 123 1321 2 123 321 123 1321 123 2 213 13 321 123 213 13 321 123 13321 123 213321 13 1331 123 213321 13213 exxpxxp exxxpxxpxxp e xxxp xxp xxxp xxxp xxp xxxp xxpxxxpxxxpxxxp xxpxxpxxxpxxxp XXHXXXH iii iiii iii iii iii iiii iii iii ii iii iii iii ii iii iii iiiii iii iiiiii ii iiii iii iiiiii . 5 分分 31231 31 312 31312 123131212 12131123 2131231 (/)(/) (/) 10 (/) (/)(/) () (/)(/) () () (/) (/)() (/) (/)(/) ii iii iiiii iiiiiiiii iiiiiiii iiiiiii H XX XH XX p xx p xx x p