第4章 信息率失真理论

《第4章 信息率失真理论》由会员分享，可在线阅读，更多相关《第4章 信息率失真理论（53页珍藏版）》请在金锄头文库上搜索。

1、信息率失真理论第4章 信息率失真理论教学内容和要求理解保真度准则，理解实验信道掌握二进制信源、等概率信源的信息率失真函数了解N次扩展信源的信息率失真函数掌握高斯信源的信息率失真函数信息率失真理论一、保真度准则和实验信道1、失真度定义汉明失真度常用于离散信源表示信息率失真理论全部nn个失真度失真矩阵汉明失真矩阵信息率失真理论平方误差失真度常用于连续信源平方误差失真函数2、平均失真度失真度的数学期望定义信息率失真理论表示3、保真度准则平均失真度不大于给定的允许失真D定义信息率失真理论表示4、实验信道定义满足保真度准则的所有数据处理信道信息率失真理论离散信源的实验信道表示全部nn个实验信道转移概率实

2、验信道矩阵信息率失真理论连续信源的实验信道实验信道转移概率密度函数信息率失真理论二、单符号离散信源的信息率失真函数信源固定时，与等效信源间的平均互信息量是数据处理信道转移概率分布的严格下凸函数，总能在实验信道中找到一种信道转移概率分布，使实验信道中传输的平均互信息量在保真度准则下达到最小信源概率分布不变时，保真度准则下平均互信息量的极小值，用R(D)表示定义信息率失真理论表示1、信息率失真函数实验信道转移概率分布的n个约束条件保真度准则的约束条件信息率失真理论信息率失真理论信息率失真理论信息率失真理论信息率失真理论对j求和乘P(xi)对i求和信息率失真理论信息率失真函数信息率失真理论信息率失真

3、理论2、二进制信源的信息率失真函数信息率失真理论信息率失真理论信息率失真理论信息率失真理论信息率失真理论信息率失真理论R(D)D0.50.25p=0.25p=0.5010.811信息率失真理论求允许失真D=1/8时的信息率失真函数R(D)及达到R(D)的实验信道例1D=1/8时信息率失真理论信息率失真理论信息率失真理论3、等概率信源的信息率失真函数等概率信源信息率失真理论信息率失真理论信息率失真理论信息率失真理论信息率失真理论信息率失真理论p=0.5时，二进制信源的信息率失真函数信息率失真理论n=2时，等概率信源的信息率失真函数信息率失真理论三进制等概率信源，求允许失真D =1/3时的信息率失

4、真函数R(D)及达到R(D)的实验信道例2D=1/3时信息率失真理论习题：(P129-130)4.1、4.10、4.11信息率失真理论三、N次扩展信源的信息率失真函数1、N次扩展信源的保真度准则和实验信道失真度平均失真度信息率失真理论信息率失真理论如果给定允许失真ND保真度准则实验信道信息率失真理论2、N次扩展信源的信息率失真函数信息率失真理论四、单符号连续信源的信息率失真函数信源概率密度函数不变时，保真度准则下平均互信息量的下确界，用R(D)表示定义信源固定时，与等效信源间的平均互信息量是数据处理信道转移概率密度函数的严格下凸泛函，总能在实验信道中找到一种信道转移概率密度函数，使实验信道中传输的平均互信息量在保真度准则下达到最小信息率失真理论表示表示1、信息率失真函数实验信道转移概率密度函数的约束条件保真度准则的约束条件信息率失真理论信息率失真函数信息率失真理论2、高斯信源的信息率失真函数信息率失真理论信息率失真理论信息率失真理论信息率失真理论信息率失真理论达到R(D)的实验信道方差为-1/2S的反向高斯加性信道N信息率失真理论信息率失真理论方差为D的反向高斯加性信道信息率失真理论R(D)D0