《信息论与编码基础 (17)》由会员分享,可在线阅读,更多相关《信息论与编码基础 (17)(21页珍藏版)》请在金锄头文库上搜索。
1、思思 考考 与与 探探 索索1信源编码信源编码目 录CONTENTS基 本 定 义一编 码 器 分 类二编 码 指 标 分 析三一、基本定义3信源编码例例1:S:a,b,z,空格符空格符,q=32,qrX:0,1编码器编码器英文字母/符号/命令二进制代码码符号集0,1ASCIIASCII一、基本定义4信源编码信源编码:将信源输出的消息进行有效变换,使其成为适合信道传输的符号序列,且使该序列组成的新信源的剩余度尽量减少。两大任两大任务务对象对象一、基本定义5信源编码编码器消息符号消息符号码字码字li为码字为码字Wi的的码长码长,所有码字的集合为,所有码字的集合为码集码集C单符号信源编码码元码元消
2、息集合消息集合基本源编码基本源编码一、基本定义6信源编码编码输入符号码字:编码器N N次扩展信源编码次扩展信源编码一、基本定义7信源编码例例2Morse电码电码电报注册专利产品、1849年5月1日专利号塞缪尔FBMorse一、基本定义8信源编码X1:、信源编码器信源编码器IA,B,Z二进制符号码符号集0,1信源编码器信源编码器II电码集点/划/字母间隔/单词间隔例例2Morse电码电码一、基本定义9信源编码序号字母电码 序号字母电码 1A14N2B15O 3C16P 4D17Q 5E18R6F19S7G 20T8H21U9I22V10J 23W 11K24X12L25Y 13M 26Z 一、基
3、本定义10信源编码X1:、:10:1110字母间隔字母间隔:000单词间隔单词间隔:000000信源编码器信源编码器IA,B,Z二进制符号码符号集0,1信源编码器信源编码器II电码集点/划/字母间隔/单词间隔X2:0、1例例2Morse电码电码一、基本定义11信源编码编码器编码器I编码器编码器II0,1,2,90,1汉字汉字电码电码二进制码字组二进制码字组例例3中文电报信源编码器中文电报信源编码器“中”“0022”“01101011011100111001”一、基本定义12信源编码二、编码器分类13信源编码信源符号与编码码字之间的映射是信源符号与编码码字之间的映射是一一映射一一映射1、2、SC
4、SCSC二、编码器分类14信源编码定义定义:若某一种码的任意一串有限:若某一种码的任意一串有限长的码序列只能被唯一地译成所对长的码序列只能被唯一地译成所对应的信源符号,则该码称为唯一可应的信源符号,则该码称为唯一可译码,反之为非唯一可译码。译码,反之为非唯一可译码。唯一可译码唯一可译码:非唯一可译码非唯一可译码:3、4、5、所有的码唯一可译码非奇异码二、编码器分类15信源编码例45种编码比较信源符号信源符号si符号概率符号概率P(si)码码1码码2码码3码码4码码5s112001100s2141110100101s318000010000110s41811011000000111唯一可译码唯一
5、可译码哪些码是唯一可译码?哪些码是唯一可译码?在非唯一可译码中,哪些是非奇异码?在非唯一可译码中,哪些是非奇异码?三、编码指标分析16信源编码1、平均码长code/sig表示平均每个信源符号需要多少码元。三、编码指标分析17信源编码扩展源编码:扩展源编码:2、编码后信息传输率基本源编码基本源编码:(bit/code)(bit/code)表示平均每个码元所能传输的信息量。三、编码指标分析18信源编码3、编码效率对于二元编码,对于二元编码,r=2,=R三、编码指标分析19信源编码例45种编码比较信源符号信源符号si符号概率符号概率P(si)码码1码码2码码3码码4码码5s112001100s2141110100101s318000010000110s41811011000000111唯一可译码唯一可译码平均码长?编码效率?小小 结结20信源编码本课小结:基本定义编码器分类编码指标分析无失真编码、唯一可译码、非奇异码、可变长码平均码长、编码后的信息传输率、编码效率适合信道传输、减少信源剩余度信息论与编码基础国防科技大学授课教师:黄 英 副教授信 源 编 码