《信息论与编码习题课(新).ppt》由会员分享，可在线阅读，更多相关《信息论与编码习题课(新).ppt（50页珍藏版）》请在金锄头文库上搜索。
1、第一章信息、消息、信号的定义?三者的关系?通信系统的模型?各个主要功能模块及作用?第二章*信源的分类?*自信息量、条件自信息量、平均自信息量、信源煸、不确定度、条件煸、疑义度、噱声煸、联合烃、互信息量、条件互信息量、浸亘均互信息量以及相对熵的概念?计算方2*冗余度?具有概率为por)的符号X自信息量:TCr)=-logpCr)条件自信息量:TCx|37=-logp(x|)平均自信息量、平均不确定度、信源瘾:X)=_P(CJ1IOgp(X)条件炳:删叶扮=艺凤鬼，刃岷拽)=艺岚鬼训帅趴澧伐联合症:HCXID=歹pCryJDCK,J)l()菅6+莎l()气毫+2丨0气2+毫+3昌0盲6寸忘lO毫=
2、327少ifsyzDol(5)包含1的组合:【(L2),(13).CL4),(L5),(L16),G,D,G,0.(41),(5,0.(6,1).(LD)11Lxlxd1-与PQ9=6x6XLF36/(入)_lng)X)_lOg呈1710Di2.7设有一离散无记忆信源,其概率空间为叉国【_=0EX3=ZX4=3P丿t31/8“LU4U48(求每个符号的自信息量。(2)信源发出一消息符号序列为202120130213001203210110321010021032011223210,求该序列的自信息量和平均每个符号携带的信息量。1_=logu5=ldqlspDCrD3解:T(r)=log2同理可
3、以求得TCt2)=25ihT(x3)=25江T(x4)=3Di因为信源无记忆,所以此消息序列的信息量就等于该序列中各个符号的信息量之和,就有:T=147COa)+131(t)+127Ce)+61(xrJ=87.81Dif平均每个符号携带的信息量为箬二l95biy符号2.8试问四迹制、八进制脉冲所含信息量是二进制脉冲的多少倍?解:四进制脉冲可以表示4个不同的消息:0,1,2,3八迹制脉冲可以表示8个不同的消息:0,1,2,3,4,5,6,7二进制脉视可以表示2个不同的消息:0,1假设每个消息的发出都是等概率的,则:四进制脉冲的平均信息量及(叉)=logmz=log4二2Di/syzDol人进制脉冲的平均信息量及(X,)=logz=log8=3Dif/syzDol二迹制脉冲的平均信息量及(叉)=logR=log2=1Dif/syyzDol所以,四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的2倍和3倍。
