信息论第2章作业

上传人:豆浆 文档编号:11370264 上传时间:2017-10-13 格式:DOC 页数:19 大小:900.50KB
返回 下载 相关 举报
信息论第2章作业_第1页
第1页 / 共19页
信息论第2章作业_第2页
第2页 / 共19页
信息论第2章作业_第3页
第3页 / 共19页
信息论第2章作业_第4页
第4页 / 共19页
信息论第2章作业_第5页
第5页 / 共19页
点击查看更多>>
资源描述

《信息论第2章作业》由会员分享,可在线阅读,更多相关《信息论第2章作业(19页珍藏版)》请在金锄头文库上搜索。

1、191第 2 章作业1 同时扔一对均匀的骰子,当得知“两骰子面朝上点数之和为 2”或“面朝上点数之和为8”或“两骰子面朝上点数是 3 和 4”时,试问这三种情况分别获得多少信息量?2 居住在某地区的女孩中有 25%是大学生,在大学生中有 75%是身高 1.6 以上的,而女孩中身高 1.6 米以上的占总数一半.假如我们得知“身高 1.6 米以上的某女孩是大学生”的消息,问获得多少信息量?解: 信息量: 比特3 设离散无记忆信源 ,其发出的消息为123403/8/41/8XaaP (202120130213001203210110321010021032011223210) ,求(1) 求每个符号

2、的自信息量;192(2) 若信源发出一消息符号序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210),求该消息序列的自信息量及平均每个符号携带的信息量。4 有一信源输出 X0,1,2,其概率为 p0=1/4,p 1=1/4,p 2=1/2。设计两个独立实验去观察它,其结果为 Y10,1和 Y20,1。已知条件概率为P(Y1|X) 0 1 P(Y2|X) 0 10 1 0 0 1 01 0 1 1 1 02 1/2 1/2 2 0 1求:1) I(X;Y1)和 I(X;Y2),并判断哪一个实验好些。2) I(X;Y1,Y2

3、),并计算做 Y1 和 Y2 两个实验比做 Y1 或 Y2 中的一个实验各可多得多少关于 X 的信息。3) I(X;Y1/Y2)和 I(X;Y2/Y1),并解释它们的含义。193Y1Y2Y1Y2X解:(1) 21041)0()0(211 i iXYPiYP(11类似的 2)0)22symbitYH/log()1=0.5bit/sym)/(log)()11ijijiji xPxPXI(X;Y1)= =0.5 bit/sym)(/X=0 bit/sym)/(l)()222 ijijiji xyxyYI(X;Y1)= =1bit/sym )(2HYI(X;Y1) H2 , 表示的物理含义是:无记忆信源的不确定度大与有记忆信源的不确定度,有记忆信源的结构化信息较多,能够进行较大程度的压缩。黑白p ( 黑/ 黑) = 0 . 8e 1e 2p ( 白/ 白) = 0 . 9p(白/白)=0.1p(白/黑)=0.219183 21 设有二个离散信道,其分别输入为 X1 和 X2,输出为 Y1 和 Y2,对应这二个信道的传递概率为 p1(y/x)和 p2(y/x),如图 3.39 所示。其 X1 和 X2 的概率分布分别为 P1(x) 和 P2(x)。图 3.39 题 3.21 的信道1919

展开阅读全文
相关资源
正为您匹配相似的精品文档
相关搜索

最新文档


当前位置:首页 > 行业资料 > 其它行业文档

电脑版 |金锄头文库版权所有
经营许可证:蜀ICP备13022795号 | 川公网安备 51140202000112号