信息论与编码第四章

《信息论与编码第四章》由会员分享，可在线阅读，更多相关《信息论与编码第四章（9页珍藏版）》请在金锄头文库上搜索。

1、第四章 信息率失真函数,在允许一定程度的失真条件下,能够把信 源信息压缩到什么程度,至少需要多少比特的 信息率才能描述信源。主要讨论在一定程度的失真情况下所需 的最少信息率，从分析失真函数、平均失真 出发，求出信息率的失真函数。,4.1平均失真和信息率失真函数,一、失真函数某信源X经过有失真的信源编码器，输出Y。输入与输 出符号之间的关系通过失真函数表示为：,可描述为失真矩阵,a等于1时称为汉明失真矩阵,常用的失真函数： 均方失真 绝对失真 相对失真 误码失真,d(xi,yj) 为单个符号的失真度/失真函数。 表示信源发出一个符号 xi，在接收端再现 yj 所 引起的误差或失真。,连续信源,二

2、、平均失真,平均失真度意义是在平均意义上，从总体上对整个系统失真情况的描述。它是信源统计特性 p(xi) 、信道统计特性 p(yj/xi ) 和失真度 d(xi,yj) 的函数 。当 p(xi)，p(yj/xi)和 d(xi,yj) 给定后，平均失真度就不是一个随机变量了，而是一个确定的量。 如果信源和失真度一定， 就只是信道统计特性的函数。信道传递概率不同，平均失真度随之改变。,见83页4-1,三、信息率失真函数R(D),信源编码器,假想信道,Y,X,信源编码器的目的是使编码后所需的信息传输率R尽量小, 然而R越小,引起的平均失真 就越大。给出一个失真的限制 值D，在满足平均失真的条件下，选择一种编码方法 D 使信息率R尽可能小。找到该最小的互信息就称为信息率失真函数R(D).,信息传输率R,互信息I(X;Y),信息率失真函数R(D):,信息率失真函数的物理意义:对于给定信源,在平均失真不超过失真限度D的条件下,信息率容许压缩的最小值为R(D)。,四、信息率失真函数的性质,R（D）函数的定义域（重点）R（D）函数的下凸性和连续性R（D）函数的单调递减性,R（D）函数的定义域：,（1）Dmin 和 R(Dmin),（2）Dmax 和 R(Dmax),信息率失真函数与信道容量的比较：,