《第五章信道编码定理》由会员分享，可在线阅读，更多相关《第五章信道编码定理（25页珍藏版）》请在金锄头文库上搜索。
1、第五章 信道编码定理信道编码定理l1.离散信道编码问题l2.信道译码l3.Fano不等式和信道编码逆定理l4.联合典型序列及信道编码定理1.离散信道编码问题纠错编码器l将输入的信息数字序列变成另外一个数字序列 ，人为地按照一定的规律增加多余度，以便纠 正传输过程中出现的错误，以尽可能小的错误 概率恢复原来的信源数字序列l有限状态开关网络： 信息数字：k0位，每位持续时间，ts=1/Rs 码字输出序列：n0位，每位持续时间，tc n0tc=k0ts纠错编码器l送给纠错编码器的消息是经过最佳信源编码后，信息 速率为比特/秒的离散二元或q元数字序列。 l分组码每K个信息数字为一组，计算出N个编码数字
2、，称这些 数字为一个码字。通常N为整数。l卷积码 输出的n0长码段不仅依赖于当前的k0位信息数字，还 依赖于前m个信息段的信息数字，即总共与（m1） k0个信息数字有关。 几个概念l码率 RK/Nl误组率l误比特率2.信道译码问题译码错误概率误组率译码准则l最小错误概率译码：使pe(y)最小l最大后验概率译码： 选m，使得pr(m|y)最大最大似然译码所有Q(m)相同译码原则：最大对数似然译码最小汉明距离译码l汉明距离 d(x, y), x, y中分量不同的数目l码字先验等概lK元对称信道最小汉明距离译码判决区域lYm: lnp(y|xm) lnp(y|xm)l给定m,错误概率高斯信道若发送信
3、号能量相等,最大相关译码Fano不等式和信道编码 逆定理Fano不等式和编码逆定理l信源序列：u=(u1,u2,uL) ULl码序列（信道输入）：x=(x1,x2,xN)l接收序列（信道输出）： y=(y1,y2,yN)l译码器输出：v=(v1,v2,vL)lFano不等式主要说明Pb, HL(U), 和I(UL;VL)之间 的关系Fano不等式Fano不等式l做了一次译码判决后所保留的关于信源的不确定性可分为2个部 分：第一，判决的结果是对的还是错的，其不确定性：H(Pb)； 第二，若判决是错的，为确定到底是其余M -1种可能事件中哪 一个，所需信息量不超过log(M -1)logM Log(M-1)信道编码逆定理l离散平稳源有M个字母，熵为HL(U)(limL-)， 信道容量为C,当HL(U)(N/L)C时,误码率为非零值 。联合典型序列及信道编码定理联合典型序列lx是e典型序列ly 是e典型序列lxy是e典型序列l则序列对x和y是联合e典型序列联合典型序列信道编码定理lShannon信道编码定理：给定容量为C的离散无 记忆信道X,P(x|y),Y,若编码速率R0,若有 一种编码速率为R的码，在N足够大时，能使 Pee，就称R是可达的。思路：编码规则采用随机编码；译码规则 是联合典型序列译码错误概率上限l并集限l巴塔恰亚限lGallager限
