《信息论第六章有噪声编码》由会员分享，可在线阅读，更多相关《信息论第六章有噪声编码（27页珍藏版）》请在金锄头文库上搜索。
1、第6章有噪信道编码 第6章 有噪信道编码 内容提要 本章介绍了信道编码和译码的基本概 念，介绍了两种常用的译码准则：最大 后验概率译码准则和极大似然译码准则 ,还介绍了在这两种译码准则下错误概 率的计算方法。 本章还介绍了信道编码定理及信道编 码逆定理，以及信息论中的一个重要不 等式Fnao不等式。 61 信道编码的基本概念 将信道用图6-1所示的模型表示。信道编码器信道信道译码器uxy图6-1 信道模型 信源输出序列u，经信道编码器编成码字x = f (u) 并输入信道，由于干扰，信道输出y，信道译码器对y 估值得 = F (y) 。 信源编码以提高传输效率作为主要考虑因素，信 道编码以提高
2、传输可靠性作为主要考虑因素。【例6.3】 逆重复码 离散无记忆二进制对称信道，固 有误码率为p (p C，不可能存在任何方法使差错概率任意小。本 章 小 结信道输入码矢xk x1, x2, , xM ，通过信道转移概率为p(yxk)的信道传输，输出矢量y，信道译码器估值为 F(y)， x1, x2, , xM 。 最大后验概率译码准则 （ y） （xmy） 极大似然译码准则 p（y ） p（yxm） 平均译码错误概率 信道编码定理 对于任何离散无记忆信道DMC，存在信息传输率为R，长为 n的码，当n 时，平均差错概率 pe C， 不可能存在任何方法使差错概率任意小。Fano不等式 H (XY ) H2 (pe) + pe log (k-1)
