信息论与编码第6信道编码

《信息论与编码第6信道编码》由会员分享，可在线阅读，更多相关《信息论与编码第6信道编码（90页珍藏版）》请在金锄头文库上搜索。

1、1第6章 信道编码 信道编码的目的：信道编码的目的：实现信息在信道上实现信息在信道上正确传输，包括：正确传输，包括： 线路编码线路编码正确接收载有信息的信正确接收载有信息的信号的编码号的编码 纠错编码纠错编码 避免少量差错信号对信避免少量差错信号对信息内容的影响，包括差错控制、检错、纠息内容的影响，包括差错控制、检错、纠错错学习得来终觉浅，绝知此事要自悟勇禽臼竿池绸甘糖误拒稽萍孜粟箭哼营俩更童粱铅衷妈翟舀惊馋暇蜀乌订信息论与编码第6信道编码信息论与编码第6信道编码本章内容信道编码的概念和分类信道编码的概念和分类线性分组码线性分组码循环码循环码卷积码卷积码编码与调制的结合编码与调制的结合TCM码

2、码运用级联、分集与信息迭代概念的纠错码运用级联、分集与信息迭代概念的纠错码忌脂摆戈荡贰啃忌宾麻床魂币减俭款敌陀橇斡僵织豫偶椎叙蹬篆当澄季赂信息论与编码第6信道编码信息论与编码第6信道编码6.1 信道编码的概念信源编码降低相关，去除冗余，提高通信系统有效性。信道编码增加冗余(监督码)，检纠错误，提高通信系统可靠性 。定义：为了与信道的统计特性相匹配，并且区分通路和提高通信的可靠性，在信源编码的基础上，按一定规律加入一些称之为监督码元的新的码元，以实现检错和纠错目的的编码方法 。忻芋侮意而粒巩引住渊灿随馁榔汉袱茹皆哆糯楷说助渣缉媒琅坊水蒋舅留信息论与编码第6信道编码信息论与编码第6信道编码6.1.

3、1 信道编码的分类差错控制的基本方式 有反馈方式： 反馈重发（Automatic Repeat Request） 信息反馈（IRQ，Information Repetition Request） 混合纠错（HEC, Hybird Error Correction） 无反馈的方式： 前向纠错（Forward Error Correction，FEC） 唐酪芯欣勉贴彝现躺嘲削啥磨遥济痒遂恼拍二喊锈朔链娟馒竞搓伪伴岭矮信息论与编码第6信道编码信息论与编码第6信道编码纠错码的分类纠错码的分类根据监督码元与信息组之间的关系分组码卷积码信息码元是否发生变化 系统码非系统码 构造编码的数学方法 代数码几何码

4、算术码 根据监督码元和信息码元的关系 线性码非线性码 谊害值笨邯于带偶蛇视怎魄隋厦酒磐点仰置弓维使鞠暑射店滴伏葛痉肋煮信息论与编码第6信道编码信息论与编码第6信道编码根据码的功能检错码纠错码纠删码 按纠误的类型 纠随机差错码纠突发差错码纠混合差错码 按码字中码元的取值二元码多元码 按对信息元的保护能力 等保护纠错码不等保护纠错码 湃们窜几酪想辜背颤娃鸿睫鸟爽啊泰蛾铁肮獭眶举唐枉邪匪战汝愁愿殖骨信息论与编码第6信道编码信息论与编码第6信道编码纠错码的具体分类嗅伤签逢瑰好跨摘磋硷泄厄而也就渤甥息匣戒啄复惫坷与挡忧侵盆晦庚篱信息论与编码第6信道编码信息论与编码第6信道编码信息元 监督元 码字 分组码

5、 卷积码 线性码与非线性码 码字的汉明距离和汉明重量 错误图样 6.1.2 纠错码的相关概念纠错码的相关概念师蜕主斤镭讶产婿旁贾津级康芒邹摹浊琵披钧录渭瓢淖漳脆笋另拖茬辆焰信息论与编码第6信道编码信息论与编码第6信道编码 有扰信道编码错误概率满足 纠错检错就是使 。方法有: ,可靠性函数 ，包括：信道容量 或者减小码率 冗余度纠错检错原理。例如，如果用2bit表示4种意义，是无法发现差错的。如果用3bit来表示4种意义，就有可能发现差错，因为3bit有8种组合，用其表示4种意义，还有4种冗余组合，如果传输差错使得收到的3bit组合落入4种冗余组合中，就可以断定一定有差错位。 6.1.3 纠错检

6、错基本原理纠错检错基本原理仇鳞里咀妨偿储实琐弛骑棘颁工在虐拢镐挑丢耙美文体酗惭沟陡木肉抢手信息论与编码第6信道编码信息论与编码第6信道编码噪声均化纠错检错原理 噪声均化差错均匀分摊给各个码字 噪声的总量、分布共同决定干扰的危害 突发差错集中的噪声干扰 随机差错分散的噪声干扰 例如:7个码元上产生2个差错。如果2个差错集中在前7码元(同一码字)上，该码字将出错。如果差错分散在前后两个码字上，每个码字承受一个差错，则每个码字差错的个数都没有超出其纠错能力范围，这两个码字将全部正确解码。 轩迁宣撵吸去烬聚靶抚脾辗饮菲禾泥吟捻宪镇礁喂痊杂政拴促半奥革为沤信息论与编码第6信道编码信息论与编码第6信道编码

7、6.1.4 有噪信道编码定理 有噪信道编码定理-香农第二编码定理1、译码规则对码元译码的影响 例：在二元无记忆对称的信道中，单个符号的错误传递概率是 ，正确传递的概率为 。二元对称无记忆信道 蛮啡略雅锹徒亨涉厕潞吻聘藻猩扩扯烫相障财督蔫毅爬屯汐使纽盔逆推滋信息论与编码第6信道编码信息论与编码第6信道编码 假设p=3/4，如果接收到符号“0”就译码为发送的符号为“0”，接收到符号“1”就译码为发送的符号为“1”，按此译码规则，平均错误概率为 相反，如果译码规则改变为接收到符号“1”，译为符号“0”，接收到符号“0”，译为符号“1”，平均错误概率为 结 论：即使同样的信道，选择的编码方法不同，所得

8、到的对码元的译码效果是不同的。盒请愈姓铅赐与砍吠跳件撬珍弧拙疏迹穆寸陵识馁顶顿沤坪胎泛债冶熟乒信息论与编码第6信道编码信息论与编码第6信道编码2、译码方法、译码方法 最大后验概率准则，也称最大后验概率准则，也称“ “最小错误准则最小错误准则” ” ; ; 最大似然译码准则最大似然译码准则; ; 最小距离译码准则最小距离译码准则; ; 3、重复传送与编码的可靠性重复传送与编码的可靠性 如图所示的二元对称无记忆信道如图所示的二元对称无记忆信道 在该信道中，要发送消息符号“0”，连续发送三次；同样，发送消息“1”也连续发送三次 苛扼唬成摈酣慢霍柒箩闻不逊聋雍打使讽约佳脯龟溪销尹塞紧芒惑堡黔喷信息论与

9、编码第6信道编码信息论与编码第6信道编码 输入端的许用码字仅仅有 输出端有8种可能的输出码字，其信道矩阵为 根据最大似然译码规则，如果输入等概率，那么译码函数为： 平均错误概率为 信赖贤赘窥螺祷面廖戴石砰尾牛汉渊俏制俗杜桌桥礼隐考谦避侈逸沦怔蔼信息论与编码第6信道编码信息论与编码第6信道编码 非重复编码平均错误概率为非重复编码平均错误概率为0.010.01，重复编码，重复编码大大地降低了错误概率，同时，也降低了信息传大大地降低了错误概率，同时，也降低了信息传输率。如何折衷这个矛盾？输率。如何折衷这个矛盾？香农第二定理香农第二定理，即即有噪信道编码定理有噪信道编码定理有噪信道编码定理有噪信道编码

10、定理。 离散无记忆信道离散无记忆信道离散无记忆信道离散无记忆信道 是信是信是信是信道传递概率，信道容量为道传递概率，信道容量为道传递概率，信道容量为道传递概率，信道容量为 。在传输率。在传输率。在传输率。在传输率 , ,码长码长码长码长 足够长，可以在输入足够长，可以在输入足够长，可以在输入足够长，可以在输入 符号集中找到符号集中找到符号集中找到符号集中找到 个码字组成的一组码个码字组成的一组码 和相应的和相应的译码规则，使译码的评均错误概率任意小。译码规则，使译码的评均错误概率任意小。迸厕缉瘪间站骗决荚牲穗产烤钮抵粒轿兢洗思规暇岁充辉慌迹练将湖拧顽信息论与编码第6信道编码信息论与编码第6信道

11、编码有噪信道编码逆定理有噪信道编码逆定理 设离散无记忆信道设离散无记忆信道设离散无记忆信道设离散无记忆信道 ，当，当，当，当 时，时，时，时，找不到编码找不到编码找不到编码找不到编码 ，译码错误概率任意小。，译码错误概率任意小。，译码错误概率任意小。，译码错误概率任意小。 定理定理定理定理6-3 6-3 带限高斯白噪声加性信道带限高斯白噪声加性信道带限高斯白噪声加性信道带限高斯白噪声加性信道 (1) (1) 若若若若 ，存在编码方，存在编码方，存在编码方，存在编码方法，使信号传输率为法，使信号传输率为法，使信号传输率为法，使信号传输率为 时，平均错误概率任意小。时，平均错误概率任意小。时，平均

12、错误概率任意小。时，平均错误概率任意小。 (2) (2) 若若若若 ，这样的编码，这样的编码，这样的编码，这样的编码方法不存在。方法不存在。方法不存在。方法不存在。 乎吱峡椽衣往足黑割呜沪叹搏锑锗头哎膘孝拯辣披嘉棺肄武寒麓份斑人恫信息论与编码第6信道编码信息论与编码第6信道编码6.2 线性分组码6.2.1 线性分组码的数学基础线性分组码的数学基础1、群、群定定义义：在非空集合S上定义加法或乘法运算， 满足(1) 封闭性 ；(2) 结合性；(3) 可逆性； (4) 单位元存在；基本概念基本概念：加法群；乘法群；阿贝尔群； 无限群；有限群；循环群； 群的生成元。 认怔趟系雨东盆爸蝇屑裕醉骑缺坠军傲

13、眷苹忧艺淹琢巳伤衔神回魔矿掩冠信息论与编码第6信道编码信息论与编码第6信道编码2 2、环、域和伽罗华域 同时规定加和乘两种代数运算，并满足如下条件的集合R称为环。 (1) 是加法交换群。 (2)乘法满足封闭性。 (3)乘法满足结合律。 (4)分配律。基本概念基本概念: 带幺环,多项式环，环的左（右）零因子，整环 ，环的理想，真理想 ，主理想；同余类。 敛潮来柏呵亮费拥党庞抿蒋茶晃印聘降标盒叭脸苟励俊钒蛙测嫡淫摧杂烁信息论与编码第6信道编码信息论与编码第6信道编码域和伽罗华域 定义定义：同时规定加法和乘法两种代数运算的集合F，并满足： (1) 集合F对规定的加法运算构成交换群。 (2) 集合F中

14、的全体非零元素对乘法运算构成交换群； (3) 对加法和乘法运算满足分配律。 有无限个元素的域称为无限域无限域，有限个元素的域称为有限域有限域，有限域又称为伽罗华域伽罗华域(Galois Field)，含，含q个元素的域称为个元素的域称为GF(q)。 基本概念基本概念: :子域，扩域，域的特征巡包陋蛰番郴色铜炯煎葫份澄湛棵孽宁慷陨浓俯六丘真更悔果瞩懊育钝诡信息论与编码第6信道编码信息论与编码第6信道编码3 3、多项式理论多项式理论 域域F上的上的n次多项式次多项式 定理 设设 中有中有唯一的多项式唯一的多项式 满足满足 整除整除： 同余同余： 最小公倍式最小公倍式： 最大公因式最大公因式： 域上

15、多项式集合是有单位元的交换环瘸宪滔根蔚牟枚狈瞥慈初视靶刚耪再衍角布便卫尧码狸睫咙妙豌姆却晦来信息论与编码第6信道编码信息论与编码第6信道编码素(既约)多项式 若若 中只有因式中只有因式 则称则称 为域为域F F上的不可约多项式。上的不可约多项式。 多项式剩余类环多项式剩余类环 用用 或者或者 表示所有这样多项式表示所有这样多项式的集合的集合 表示表示 的同余类的集合的同余类的集合多项式剩多项式剩余类余类环环减今榆豆度淑鞭扯呈刽爹储盂宇暑联蛰陶猎俞冒楔洱黍杜达列趁峡趾温橇信息论与编码第6信道编码信息论与编码第6信道编码例6-9 取 上的多项式 ，将 中任意多项式除以 ，余式只有 ，相应的剩余类用

16、 来标记滓衅找显朴利丹仰症驶特噬评维芹宅峭弛逗暂日霍超圭氓兼私善优掩无著信息论与编码第6信道编码信息论与编码第6信道编码那么, 其加法和乘法如下 + +* *然哭址歪尝石魂绞常梢疾粱厌碗辆欲锹豁拓戏价舌晌椽材腻笆热要泻您龟信息论与编码第6信道编码信息论与编码第6信道编码 定理 若 次首一多项式 在 上是既约多项式，则以 为模的多项式剩余类环 是一个有 个元素的有限域，又记其为 （证明参考教材p193)点迄难绦盖羔盆闪芹挺习之万州我兔框砒园怯恕馁郭要峦梭覆作稳篙痞外信息论与编码第6信道编码信息论与编码第6信道编码例 以既约多项式以既约多项式 为模，求有限域为模，求有限域 即即 解：解： 剩余类的

17、一般表达式为：剩余类的一般表达式为： 16 16个代表元依次为个代表元依次为 署监搞廊背侩柿噪醉坊佯荡幼缎蛀棕喉漳沙隅补遥喜记那赦姨翌酞羡坯搂信息论与编码第6信道编码信息论与编码第6信道编码4有限域的性质和代数结构1 1）有限域）有限域 的结构的结构 对对 满足满足 的最小正整数的最小正整数 ，称为元素，称为元素 的周期。的周期。定理定理6-66-6：在有限域：在有限域 中中(1) (1) 是循环加群，它的非零元素的周期等于其是循环加群，它的非零元素的周期等于其域的特征；域的特征；(2) (2) 是循环乘群，共有是循环乘群，共有 个乘群的生成个乘群的生成元。元。 乘群乘群 的生成元的生成元 称

18、有限域称有限域 的的本原元本原元， 的阶为的阶为 ，即，即 ，且，且歌硼烙峨质棺赚棱鸿仔蓟碗知视篮腑想肖商作厚蜕购炎霜娟狰硒扮泳亿库信息论与编码第6信道编码信息论与编码第6信道编码本原元性质定理本原元性质定理6-7(1) 的元素的阶都是的元素的阶都是 的因子，的因子， 的所的所有元恰是有元恰是 的根。的根。(2) 若若 是是 的本原元，则当且仅当的本原元，则当且仅当 时，时， 也是本原元。非本原元也是本原元。非本原元 的阶是的阶是例例 2是是 的生成元，即是的生成元，即是 的本原元。另一的本原元。另一元素元素 ，但，但2和和 不互素不互素,故故4不是不是本原元。本原元。供洗济表微凰凭凄哗呀陨蛤

19、斌磅凄摧拢樊蜜嚎灿蚌始俱反辫惟响喻渡警躬信息论与编码第6信道编码信息论与编码第6信道编码2）有限的多项式 域的结构 定理6-8 设F是有限域， 是其子域，那么F的元素的个数(记作|F|)一定是q的一个幂次，即 为素数。 定理6-9 设 是有 个元的有限域， 是 其素子域， 为特征。若 是 的含 个元的子域，则 存在，使 且 。反之，若 ，则 一定有唯一的一个子域 ，其元为 ，且若 和 是 的两个子域，当且仅当 时， 榆仔辞忿蜒鼓澜告慕寺陕夷蛊鹤骂瞩荐阿硷顷蹦崭亚孔倘豫麦掠污讳囤贰信息论与编码第6信道编码信息论与编码第6信道编码定理定理6-10(1)(1) 的乘法群的乘法群 是循环群，其生成元是

20、循环群，其生成元 称为称为 的的本原元。本原元。 的阶数是的阶数是 。 的其它元的阶是的其它元的阶是 的因子，特别地，的因子，特别地， 的阶数为的阶数为 的本原元共有的本原元共有 个。个。 对对 来说，一切元的来说，一切元的阶数都是奇数。阶数都是奇数。(2) (2) 设设F F是特征为是特征为 的域，则恒有：的域，则恒有： 爬惭徊玲眺焦累念班窑憎氯峦横朋热辐绦津谎锥接懦喘惩涛桶驰愚岔甄殿信息论与编码第6信道编码信息论与编码第6信道编码续 (3)设 是 次多项式，若 使得， 则 也是 的根。 次多项式 只有 个根，根系列中只有 个根的重复 极小多项式与本原多项式。击诚闸茂苛边泅痈粳铅懂刷穴柔衔嵌

21、逞管篡辅滓磁瓷秉享蚂订石恭署快觉信息论与编码第6信道编码信息论与编码第6信道编码3）极小多项式与本原多项式 F F是有限域，是有限域， 上以上以 为根，为根，次数最低的首一多项式，称次数最低的首一多项式，称 在在 上的极小上的极小多项式多项式 。 极小多项式的性质定理：极小多项式的性质定理： (1)(1) F F是有限域是有限域, , ,对对 , , 在在 上有唯一的既约极小多项式上有唯一的既约极小多项式 ，也就，也就 是，是， ， ，特，特别地：别地： 雾僻矢靛孕驰被悠陛札半病药骏致吮反山尹家舒愚挨贷豆戌幽欲椭缸药握信息论与编码第6信道编码信息论与编码第6信道编码(2) 设F是有限域， 中的

22、 阶元，则有 。若 中的阶是 ，那么 上的极小多项式 就是 次多项式，而且 是 的 个两两互异的根，其在 中的阶均为 。特别地，当F是 时， 中的本原元在 上的极小多项式是 次多项式，其 个根都是 的本原元。也就是， 的极小多项式为 婿理少纽侥蓟郧邦稚鱼霹活洁萍五首捉雪冉贾惕姥操怖婆壬弗膀少名备稼信息论与编码第6信道编码信息论与编码第6信道编码（续） 以 中的本原元为根的多项式，称为本原多项式 本原元的阶为 ，若 是本原元，则 的本原多项式的共轭根系为： 因此， 上的本原多项式必是 次多项式体甲泅高淳祖盆五鹊兔捶绝见隆辛奶蚂锌煌无儿减卜津谚筋涅锰灸悔链谚信息论与编码第6信道编码信息论与编码第6

23、信道编码例 求以 为模的多项式的本原元 解：解： 无一次因式和三次因式。无一次因式和三次因式。二次多项式可能为：二次多项式可能为： ，显然，显然 不是不是 的因式。的因式。 又因为又因为 所以所以 不存在二次因子，是既约的。不存在二次因子，是既约的。 由于由于在在 中，中，1 1是是1 1阶元，非本原元，对阶元，非本原元，对 ，计算如下：，计算如下：嫌芥稚廉搂繁蕴咬韶鼎扳昭剂主樊耕凑囱再云即舅途碰拇嘴标惟琼邻卵站信息论与编码第6信道编码信息论与编码第6信道编码(计算过程)叶裁铰叮碎挽轿晓笑俐堵站校摘督侦害茄贡漂柄豆柄为鄙腥代迪昏凭捆夷信息论与编码第6信道编码信息论与编码第6信道编码 因此， 是

24、 阶元。所以， 是本原元。其非本原元 的阶数是 即， 由此求得其余元的阶数，见表6-7所示：样藕庸蛙霉盏粪吼侯叉男探元肝雀妄踌阔老搁吮责傍价娩藏赚依狗倦惫案信息论与编码第6信道编码信息论与编码第6信道编码表表6-7 6-7 元的本原元的元的本原元的 幂的表示及阶数幂的表示及阶数 的多项式的多项式n n重系数矢量重系数矢量阶数阶数 的多项式的多项式n n重系数矢量重系数矢量阶数阶数1 11 1151515155 515153 35 5151515155 53 315155 515151515的计算方法：披蹬喊灵燃崩邱键腺磅翻做乍冶登蜕哆讥续究换帚秤湍掌笆含财庄鲁还纱信息论与编码第6信道编码信息论

25、与编码第6信道编码5有限域上的线性代数1) 1) 线性空间的基本概念线性空间的基本概念在域在域F F上非空集合上非空集合V V上定义加和乘运算：上定义加和乘运算：并满足：并满足： (1) (1) 是加法交换群；是加法交换群； (2) (2) 线性性；线性性；则称则称V V是域是域F F上的线性空间，即矢量空间，其元称矢量上的线性空间，即矢量空间，其元称矢量欺拂殴恶灌撒逗悠枷瑰考叮撒草炉保设短绢燕汞纷寞光沪屿镑泻怜架费开信息论与编码第6信道编码信息论与编码第6信道编码几种典型的矢量空间几种典型的矢量空间或者 或者 矢量的线性组合矢量的线性组合 矢量的线性相关与线性无关矢量的线性相关与线性无关 可

26、由可由S中的矢量线性表示中的矢量线性表示 空间空间V由空间由空间S线性生成线性生成 空间的基底空间的基底S，维数，维数dimV守浩瓷毕收酶迟乃嗣救憾板拄俺牟娩为憎宇丘芭堤林佛神诸尔讶怯路鲤滞信息论与编码第6信道编码信息论与编码第6信道编码矢量的正交矢量的正交 正交补正交补 两个正交补空间V1和V2满足查漫守岂涎荔秤慌贪七惯祈合搅苛涟肋哭潮顶华避迄渐恭鸥痪骨高捅旱檬信息论与编码第6信道编码信息论与编码第6信道编码 6.2.2 线性分组码的基本概念线性分组码的基本概念分组码的编码步骤分组码的编码步骤分组码的编码步骤分组码的编码步骤 : :(1)划分消息组划分消息组；(2)消息变换消息变换：标记为

27、数域为 ，则消息为 ， 较大， 编码器存储容量会很大 为什么要编码？线性分组码线性分组码 个 重矢量的集合 构成 维线性空间的一个 维子空间撤律递灰淄经腮箍痘淳斜营例律漫惜韶趴悯再巍宏摘瞎榔包窗肾久鞍否楚信息论与编码第6信道编码信息论与编码第6信道编码 6.2.3 生成矩阵和一致校验矩阵生成矩阵和一致校验矩阵信息信息输出码字输出码字 生成矩阵 结论：对对 码，所有码字均可表示为维数为码，所有码字均可表示为维数为 的的 个线性无关码字的线性组合，任何一组线性无个线性无关码字的线性组合，任何一组线性无关的码字均是码空间的一个基底，一组基底所构成关的码字均是码空间的一个基底，一组基底所构成的矩阵就是

28、一个生成矩阵。的矩阵就是一个生成矩阵。 探模亏压肯澎冤毒凡哎钻痔周肢渝丽院齿辱椅歧芹深赘丰座眩棒饯茶皱巨信息论与编码第6信道编码信息论与编码第6信道编码的生成方法： 寻找寻找 个线性无关的个线性无关的 维矢量。再作行列变维矢量。再作行列变换，可得到标准生成矩阵换，可得到标准生成矩阵 例：以例：以为基底，设计为基底，设计(7,3)(7,3)线性分组码。线性分组码。 解：生成矩阵解：生成矩阵 域中，消息域中，消息 构成的矢量共构成的矢量共8 8个，个， 是其中一个消息矩阵，因此是其中一个消息矩阵，因此驰虞把躺加梅估循摄源稳蝉撼恢霜蓬盔拧樟灌衷司盆散幅锤携愚讫绢汞痛信息论与编码第6信道编码信息论与编

29、码第6信道编码码字矩阵纵医巷芳路勾丸狙呕炬缀岸濒龙稚骂咸捡恿嘎物献葬噪锐基稀逛塑乎慷迹信息论与编码第6信道编码信息论与编码第6信道编码标准生成矩阵的分块形式标准生成矩阵的分块形式一致校验矩阵一致校验矩阵 或者 一致校验矩阵一致校验矩阵H 所对应的方程称为一致校验方程先篮卵瘸病桩萌悸洲将敌彪关饭尘忠蔫舷惠将龚雨报父荐斟哟踊扣瘪搅存信息论与编码第6信道编码信息论与编码第6信道编码一致校验矩阵和生成矩阵的关系一致校验矩阵和生成矩阵的关系 综前述必有同理例：二元(7,3)码的生成矩阵G1如下，计算生成的(7,3)码。 彼涉深忱嫉咬雀委亏毡糠山友崔韧硝篆妥廖上奄类巾虱殷们励眷锌耀倘宛信息论与编码第6信道

30、编码信息论与编码第6信道编码解：根据公式 ，计算结果如下 例：二元(7,3)码的生成矩阵G2如下，计算生成的(7,3)码。解：生成矩阵是系统阵，按系统阵计算公式计算，结果如下：信息组信息组000000 001001 010010 011011 100100 101101 110110111111码字码字0000000000000011101110100100101010100110110100010011111110011001110110011101110100100011001110110111011101001001信息组信息组000000 001001 010010 011011 10

31、0100 101101 110110 111111码字码字0000000000000000110011110110010001001111110111011100100110011001011011101010101011011101110110010011101110010010咙惩牟条凰诫漾枝尹襄琢氓嚣潍妊锨艺姑筒舌敦代侵烛眷虹绳咬盲苏临魂信息论与编码第6信道编码信息论与编码第6信道编码6.2.4 线性分组码的纠错能力与码最小距离的关系线性分组码的纠错能力与码最小距离的关系 在重复的分组码中，如果最小汉明距离在重复的分组码中，如果最小汉明距离 , ,两个码字在传输后发生一位码元随机错误的接

32、收序列两个码字在传输后发生一位码元随机错误的接收序列是两个互不相交的集合，也就是是两个互不相交的集合，也就是 与与 不会产生交集。因此，根据不会产生交集。因此，根据最小距离译码准则译码就能纠正发生的一位码元的最小距离译码准则译码就能纠正发生的一位码元的随机错误。其三维空间解释图如下：随机错误。其三维空间解释图如下： 所院藤洁浆破涸露拄雾海象贪逾莽拐伎狠摄佃米姥撂续铺怯姨霓钉普誊泛信息论与编码第6信道编码信息论与编码第6信道编码 分组码 的纠错能力和检错能力结论 定理：定理：定理：定理： 分组码分组码 最小汉明距离为最小汉明距离为 ，则，则 (1) (1) 检测检测 个随机错误的充要条件是个随机

33、错误的充要条件是(2) (2) 纠正纠正 个随机错误的充要条件是个随机错误的充要条件是(3) (3) 纠正纠正 个随机错误个随机错误 ，同时检测，同时检测 个随个随机错误，则需满足机错误，则需满足摇厨侯呛妄结群练晋丹勉恬雄泌地拆凯缮爵叔泳向达濒强哥漠席欢崔禁弹信息论与编码第6信道编码信息论与编码第6信道编码 的线性分组码 与 的关系 定理定理定理定理 ：设：设 线性分组码线性分组码 的校验矩阵为的校验矩阵为 , ,码的最小距离为码的最小距离为 的充要条件是的充要条件是 中任意中任意 个列向量线性无关个列向量线性无关, , 且且 个列向量线性相关个列向量线性相关. . 码码 的的 矩阵是矩阵是

34、, ,其秩为其秩为 从定理从定理6-126-12知知 , ,称称 为最为最小距离的小距离的辛莱顿限辛莱顿限。障晃散宜黄栋责忘琴绊拷焦轿诞微况奋折庞鹤络芦踪顾寞叉挚宪叮懂渝嘶信息论与编码第6信道编码信息论与编码第6信道编码6.2.5 伴随式及标准阵列译码伴随式及标准阵列译码1、纠错原理： 标记 或者 为伴随式，由伴随式可判断错误图样，进而检测和纠正差错。伴随式与发送码子无关，仅与错误图样有关案缀元隶缴聚讯烩贯哨洲烛壹卵揩隋膊村戍钠獭垦织哮退猿敞铰猾淋肾识信息论与编码第6信道编码信息论与编码第6信道编码例：下表的例：下表的(7,3)(7,3)线性分组码的一致校验矩阵为线性分组码的一致校验矩阵为(1

35、)(1)如果传输无差错，如果传输无差错， 则则(2)(2)如果有如果有1 1个码元出错，假设个码元出错，假设 则则 信息组信息组000000 001001010010 011011 100100 101101 110110 111111码字码字0000000000000000110011101101010001001111110111011101001010011001110110101010100110111101110100100111101110100100蛙妻翟苯陡御故遭糜矽赶升溢猎聂雾桨峡钱谐蕾别放答稿氮靛备白心诚虾信息论与编码第6信道编码信息论与编码第6信道编码例题续(3)如果传输

36、有两个码元差错，假设将其表示为 ，则 ，容易验证因此，不能确定2个错误码元的位置，只能判断发生了2位码元的错误。猫迁首戳椭刨码咸少介无售涤饥饺傣虚精希粉呻咀啡洗侠拖盯娘傈窄憨熬信息论与编码第6信道编码信息论与编码第6信道编码2、标准阵列译码和译码表 实际应用中，对于实际应用中，对于 线性分组码，将所有线性分组码，将所有 个长为个长为 的接收序列划分为的接收序列划分为 个互不相交的子集个互不相交的子集 并使之与许用码字并使之与许用码字 按最大似然按最大似然译码准则一一对应，并列成表格，这个表格称为译码准则一一对应，并列成表格，这个表格称为标准标准标准标准阵列译码表阵列译码表阵列译码表阵列译码表。

37、 ( (n,kn,k) )线性分组码的标准阵列表线性分组码的标准阵列表 ： ： ： ： ：， 纶相菱僳龄碟华龄瞳埂粟坞貉添偿居膝醋色惟尸彩艺啪哦慨摇神隐厉最拍信息论与编码第6信道编码信息论与编码第6信道编码例例6-186-18 设设(5,2)(5,2)系统线性码的生成矩阵为系统线性码的生成矩阵为 详细解答过程参考教材详细解答过程参考教材p204p204结论：结论： 任意任意 线性码，有个线性码，有个 伴随式，伴随式，可以纠正小于等于可以纠正小于等于 个随机错误个随机错误 构造该码的标准阵列译码表。 伴随式的汉明限、完备码：伴随式的汉明限、完备码：节斗嘴耻蒋秸啪这峙吼识岁拦梯损畴轻掣烤尖佃镶狮加

38、插仲柔太掌彦凳招信息论与编码第6信道编码信息论与编码第6信道编码定义：能纠正一位随机错误的完备的线性分组码。根据定义：二元汉明码：6.2.6 汉明码汉明码舱醉膏歼舱迢笼蠢植躯酉肤坐件觅倾屑瑟乘寄兰扭阻所幌矽引日咯臃揪吠信息论与编码第6信道编码信息论与编码第6信道编码例：构造 的(7,4)汉明码解：非零长为解：非零长为3 3的全部二元序列对应的一致校验矩阵的全部二元序列对应的一致校验矩阵 其对应的一个系统校验矩阵为其对应的一个系统校验矩阵为 对应的标准生成矩阵为对应的标准生成矩阵为住钞舰剐页咆之影寄听熊扬狮獭僻矮处昌桃枪汉策拢欠枫正浅陕豆潞环针信息论与编码第6信道编码信息论与编码第6信道编码 根

39、据 计算码字，所得系统码如下表 汉明码汉明码信息组信息组码字码字 信息组信息组码字码字 0000000000000000000000100010001000101100010100010001000101100010111001100110011101001110001000100010110001011010101010101001110100110011001100111010011101101110111011000101100001000100010011101001111100110011000101100010010101010101010010101011011101110100

40、111010010110011001100010110001111011101110100111010001110111011101001110101111111111111111111111度悯出灵咸驼瓢哭梦旭丹镊棱刑部郑交茫赔祷喊翻漏晓翌响璃虱诱门除烫信息论与编码第6信道编码信息论与编码第6信道编码6.3 循环码循环码6.3.1 循环码的多项式描述循环码的多项式描述码多项式码多项式码多项式码多项式: :循环码多项式循环码多项式循环码多项式循环码多项式: :性质：性质：性质：性质：你富柿搓揭屈哑驴灶欠暖呛让谍歌坊骆砷有家挞迈箩幌疮霉客樟殆示斧谱信息论与编码第6信道编码信息论与编码第6信道编码

41、6.3.2 循环码的生成矩阵循环码的生成矩阵循环码的循环码的循环码的循环码的 次生成多项式次生成多项式次生成多项式次生成多项式 模模模模 的生成多项式的生成多项式的生成多项式的生成多项式循环码的生存矩阵循环码的生存矩阵循环码的生存矩阵循环码的生存矩阵骄莫吾疗魔难酸哮草鹰圾狱谢束选假刘瓢恫腿台慰智嗜靛怪寡磺烙幌毖判信息论与编码第6信道编码信息论与编码第6信道编码6.3.3 系统循环码系统循环码 系统循环码，必须每个码字前面系统循环码，必须每个码字前面 位码元为位码元为信息元，后面信息元，后面 位码元为校验元位码元为校验元. .对应多项式，对应多项式， 对应对应 的高次幂。的高次幂。 西畴窜昔蕴匠

42、吨芭确犀捂诀券蛙臃砍鸥皮襟谎致书珐桂啮译躺廷漂符迎班信息论与编码第6信道编码信息论与编码第6信道编码结论：系统循环码的构造步骤结论：系统循环码的构造步骤结论：系统循环码的构造步骤结论：系统循环码的构造步骤 1、信息多项式 乘 ;2、用 除 得余式 ；3、构造码字 。 系统循环码的标准生成矩阵获得方式： 选择选择 伯树包叉栈肚池脱怎袋举陋脑帽死蕊近踏辆言噎沂豢整类炳保继收劳皿辟信息论与编码第6信道编码信息论与编码第6信道编码其矩阵形式为其矩阵形式为 就是就是 ，即，即示勃鱼迟舱炊停殉纫微卉锌矢掘悦昌彻消猴炽鞘蕴冤梯痛饮矗迹逆淋镜蒜信息论与编码第6信道编码信息论与编码第6信道编码 例例 如下表所示

43、如下表所示(7,4)(7,4)系统汉明码，能构成循环系统汉明码，能构成循环 码，码，其生成多项式其生成多项式 求信息组求信息组 对应对应系统循环码的码字，及其系统循环码的生成矩阵系统循环码的码字，及其系统循环码的生成矩阵 解： 对应的信息多项式为对应的信息多项式为 则则 漠滴跪臻力琉塘乐匿点末姚砧裂克久蔚骤址狂憨磨翘及简窜除非酣盼廊傀信息论与编码第6信道编码信息论与编码第6信道编码续续(7,4)系统汉明码信息组信息组码字码字 信息组信息组码字码字 00000000000000000000001000100010001011000101000100010001011000101110011001

44、10011101001110001000100010110001011010101010101001110100110011001100111010011101101110111011000101100001000100010011101001111100110011000101100010010101010101010010101011011101110100111010010110011001100010110001111011101110100111010001110111011101001110101111111111111111111111苔澄窟燃己燎祁峦粱敢戒婚霸皿琐琉桃接筐限喉柬

45、烹咽颧伯格升暇嘛舵乔信息论与编码第6信道编码信息论与编码第6信道编码6.3.4 多项式运算电路多项式运算电路多项式运算符号多项式运算符号移位寄存器移位寄存器 2 2输入与门输入与门 模模2 2加加 乘法器乘法器多项式加乘法电路多项式加乘法电路 沿衰螟池迷阂劳付胎很壹神勇桅窥醚个蛀畴轴滞舌乾蔷扯喘名圃逐冬筏冈信息论与编码第6信道编码信息论与编码第6信道编码多项式乘法电路多项式乘法电路多项式除法电路多项式除法电路 21茶枷霉跌持誓生鸿鲜织蚜备旧案娠镍邯蕊些蓄巢宾急印瞧炬播啼庭郸乎桓信息论与编码第6信道编码信息论与编码第6信道编码6.3.5 循环码的编码器与实现电路 循环码的多项式可表示为循环码的多

46、项式可表示为: :编码步骤编码步骤: : 首先，用首先，用 乘乘 。其次，用其次，用 除除 ，得商，得商 和余式和余式 叉丛旧蔗犬齿棘直拧史瞄业矿撮甄撇与阎擦十逻戴枝蕾雏墓功位阴锻奖万信息论与编码第6信道编码信息论与编码第6信道编码6.3.6 循环码的解码器循环码的解码器判别原理：余项是否为零余项是否为零 纠错步骤 ：(1)用用 除除 ，得余式，得余式 (2)按余式按余式 ，用查表的方法或通过某种计算得到，用查表的方法或通过某种计算得到错误图样错误图样(3)从从 中减去中减去 ，便得到已经纠正错码的原，便得到已经纠正错码的原发送码组发送码组 启涡慌闯疽享戍嚎孪庶咕诛闭税恫泻愿涧槛戒铱遭机萨绅帮

47、拈晒征落塌鞍信息论与编码第6信道编码信息论与编码第6信道编码6.3.7 常用的循环码常用的循环码1 1、截短循环码、截短循环码2 2、BCHBCH码码解决汉明码只能纠错解决汉明码只能纠错1 1位的不足位的不足 本本原原BCHBCH码码：生生成成多多项项式式 中中含含有有最最高高次次数数为为mm的本原多项式，码长的本原多项式，码长 ，纠错数，纠错数3 3、RSRS码码 生成多项式根是生成多项式根是GFGF( (q q) )域的本原根域的本原根 纠错数：；码长：纠错数：；码长： ；校验位数目：；校验位数目： 最小距离：最小距离： 绦匀潜霸尔歹拦屁臻爬饵萎醛蹬邻滨兼族贝教烟视涉亦酒霄棱足丸行避粗信息

48、论与编码第6信道编码信息论与编码第6信道编码6.4 卷积码卷积码卷积码基本定义与编码原理标记：原理方框图： 盏揉弘卞璃你级抿固哎熏泌头奔款莱惊壬当雷茎侣芳列葫鹤去晚威栅捂桔信息论与编码第6信道编码信息论与编码第6信道编码例例：卷积码：卷积码 的工作过的工作过程程编码器的序列描述方法树状图 式降颧挺采岁森浪幸彼骑蔷倦水鼓雄甜挑沾映傅挪菌顿俏付挑岔亭翌举朽信息论与编码第6信道编码信息论与编码第6信道编码网格图网格图状态图状态图 圈察烈馁娠豪计涨嫂畦敦灶萧饿睛匈礼凭勇伐棕球慑睦呈坊饱蘑蹈痹矩棺信息论与编码第6信道编码信息论与编码第6信道编码卷积码的解析表示 生成矩阵生成矩阵以以 码为例码为例移位寄存

49、器起始状态全为零，输出移位寄存器起始状态全为零，输出第二个信息比特第二个信息比特 输入时，输出输入时，输出 当第个当第个 信息比特信息比特 输入时，输出为输入时，输出为 拜帐衍藕匝嫌哎伐绢婿矣坡皆盾杰逝尽引效乃憎狙糊癌昌对卫掏匙春迈栈信息论与编码第6信道编码信息论与编码第6信道编码上式用矩阵形式表达为：上式用矩阵形式表达为： 未稳定前未稳定前雅二反菇济佐鼎沉浓坡卢嗓荒远侄注专鼠孝择万蛊介饥瞄团阶袖苇添虎建信息论与编码第6信道编码信息论与编码第6信道编码多项式表示 输入序列的一般多项式表示：输入序列的一般多项式表示： 表示延时算子，用多项式表示移位寄存器各级与模表示延时算子，用多项式表示移位寄存

50、器各级与模2 2加的连接关系加的连接关系 例如教材图例如教材图6-176-17的卷积码编码器相应的生成多项式可的卷积码编码器相应的生成多项式可表示为表示为 奎吱看难躲蓉佣搜蝉筒觅饲葫粹缉其寞懊卸群沟港侄延脸推化情辉兴愁辅信息论与编码第6信道编码信息论与编码第6信道编码生成矩阵与生成多项式的关系 已知卷积码的生成序列为已知卷积码的生成序列为 或或 其中其中鄂叉妇损禾蘸喀沥醋韩警撩品澈辣啡碍搂订棘聂淀妇糠撮窖偏威骡伏谷联信息论与编码第6信道编码信息论与编码第6信道编码卷积码的最大似然译码维特比算法 1、分支度量、路径度量和最大似然译码 (2,1,2)(2,1,2)卷积码原理图卷积码原理图 其生成多

51、项式矩阵为其生成多项式矩阵为其对应的网格图其对应的网格图 谎汗悄樱涵忍臂陡茵遁艳氧劳忍月萤拢赔杯慑泳菏墓逐霹雌龟很誓勋吻歹信息论与编码第6信道编码信息论与编码第6信道编码消息序列消息序列码字码字接收序列接收序列发送序列发送序列 的似然函数的似然函数其估计其估计 其每一分量其每一分量 称为分支度量。称为分支度量。 寡啊乘稿肥我科慨溺渣刮堰熙斑灰治访庚果惟团疙辨购走娶卯疏肆共劣吝信息论与编码第6信道编码信息论与编码第6信道编码2、Viterbi译码算法 最大似然译码就是要在网格图上所有可能的最大似然译码就是要在网格图上所有可能的路径上选一条具有最大路径度量的路。也就是寻路径上选一条具有最大路径度量

52、的路。也就是寻找找幸存路径 例例 对前述对前述 (2,1,2) (2,1,2)网格图所描述的卷积码，网格图所描述的卷积码，若接收到的二元对称信道输出序列为若接收到的二元对称信道输出序列为 试寻找最大似然路径试寻找最大似然路径 。煤剑盖釉钻桂唬桑淑俗争抓淌荐妥什沼介来沧笑编皂棉檀泥因陀换借待腥信息论与编码第6信道编码信息论与编码第6信道编码6.5 编码与调制的结合编码与调制的结合TCM码码 调制与编码作为一个整体的通信系统模型调制与编码作为一个整体的通信系统模型 信号通过信号通过AWGNAWGN信道，那么接收端收到的信信道，那么接收端收到的信号为号为 在收端采用最大似然相干检测在收端采用最大似然

53、相干检测(MLSE),(MLSE),则解则解调器输出的错误概率为调器输出的错误概率为 顶渔蓑人霜悟跃掉洲秆昌建想矛泳马冠鸟藻诛千卒瞅牲凳纤辖颈添睁肯泼信息论与编码第6信道编码信息论与编码第6信道编码欧几里德距离 信噪比归一化欧氏距离 因此，针对不同的调制方式和映射规则，寻找有最大的卷积码，是编码与调制结合的一个最关键的问题。 生山匣址嗣政子左堆兹泞兵沽氮夕陋蜜喘箍否迷紊棵樊孝腕沫掩这菜雕萝信息论与编码第6信道编码信息论与编码第6信道编码编码的作用：使信号网格图中信号序列之间的欧氏距离增加使信号网格图中信号序列之间的欧氏距离增加二、四进制的无记忆已调信号中使用的卷积码二、四进制的无记忆已调信号中

54、使用的卷积码二、四进制的无记忆已调信号中使用的卷积码二、四进制的无记忆已调信号中使用的卷积码 QPSK;QPSK; 2PSK; 2PSK; ASK; ASK; 进制调制的无记忆已调信号中所用的卷积码进制调制的无记忆已调信号中所用的卷积码进制调制的无记忆已调信号中所用的卷积码进制调制的无记忆已调信号中所用的卷积码 8PSK;8PSK; 16QAM; 16QAM; UB UB码；码；码；码；灶妹榴孙江贮嘿企二昏甲敲闲赣轰疼抄脑翼它谨拍厄究当化轻娇弓蛆僧期信息论与编码第6信道编码信息论与编码第6信道编码6.6 运用级联、分集的纠错码运用级联、分集的纠错码6.6.1 乘积码与级联码乘积码与级联码1、级

55、联码、级联码产生背景产生背景：降低复杂度，产生长码：降低复杂度，产生长码 串行级联码串行级联码 维比特维比特VibertiViberti最大似然译码算法适合于约束度较小最大似然译码算法适合于约束度较小的卷积码，级联码的内码常用卷积码，外码采用分组码的卷积码，级联码的内码常用卷积码，外码采用分组码如如RSRS码，码，BCHBCH码等等码等等 览蝇场傲痪僚钡扶刁开琳鼻谐兼硅汲绝诸锥弓儿夜壶虎锗虚退否惶剪撕从信息论与编码第6信道编码信息论与编码第6信道编码 卷积码卷积码+ +分组码分组码 + +突发差错信道，需要安装交织器突发差错信道，需要安装交织器其结构如下图其结构如下图交织器的作用交织器的作用：

56、 对数据块作伪随机的置换，使差错随机化。对数据块作伪随机的置换，使差错随机化。交织器用于内码外码间，能随机化交织器用于内码外码间，能随机化VerterbiVerterbi译码产生译码产生的突发差错。的突发差错。锥鲍耗挣晒瘴剃扼越性衷刘酮乓樟留锌孩影握亡滴拟堆际酌轮鞘檄警哑旨信息论与编码第6信道编码信息论与编码第6信道编码带交织器的串行级联分组码(SCBC) 结构图如下：结构图如下：2 2、乘积码、乘积码乘积码：乘积码：对交织块的行和列都作编码。乘积码码阵图如下：对交织块的行和列都作编码。乘积码码阵图如下： 啸誓漠宙聘啸利骏症赶睛栏惋归县塘震侍遍鞍赂训我邦涂割诽澡汕舌源整信息论与编码第6信道编码

57、信息论与编码第6信道编码6.6.2 Turbo码码 TurboTurbo码码开创了香浓随机编码理论的应开创了香浓随机编码理论的应用研究之先河用研究之先河 。 TurboTurbo码码PCCCPCCC并行级联卷积码并行级联卷积码 1 1、TurboTurbo码的编码码的编码 编码器的构造编码器的构造潘粗击安哎爆赋玫衅疤眶段怎衍道汗俭司浪棚饥协领派陨已吠戚慧势衬策信息论与编码第6信道编码信息论与编码第6信道编码2、Turbo码的译码 Turbo Turbo码译码器与编码器对应，有两个分量译码译码器与编码器对应，有两个分量译码器，二者可以为串行连接或者并行连接。码器，二者可以为串行连接或者并行连接。 并行级联译码器并行级联译码器虚欣陌下也的菠爆厩蹄面差讥彪袭晰织竭壮澡尚省讲聘且边柿阀烃彼叠棋信息论与编码第6信道编码信息论与编码第6信道编码 串行级联译码器串行级联译码器其他编码方法：(1) (1) 低密度奇偶校验码；低密度奇偶校验码；(2) (2) 空时码空时码脸丽膛弹铭颤肠矛瞄负穿悔止筑诽容狰黔线懦矿蜂淮宗啮置霞壤造帐廉祝信息论与编码第6信道编码信息论与编码第6信道编码我们致力于使得本书上达思想与方法，下及实现与应用，但是力所不及，欢迎多提宝贵意见至http:/