杨鸿文老师(2006年)通信原理经典讲义03

《杨鸿文老师(2006年)通信原理经典讲义03》由会员分享，可在线阅读，更多相关《杨鸿文老师(2006年)通信原理经典讲义03（20页珍藏版）》请在金锄头文库上搜索。

1、北京邮电大学电信工程学院 通信原理 II Lecture Notes-1-2006/02/14 信源的剩余度（冗余度）信源的剩余度（冗余度） 信源的输出是一个随机序列 12 , L XXX?。 不妨假设这是一个平稳序列， 并假设 i X的样本空间是大小为 N 的有限集合，也就是说 i X是 N 进制的。 考虑这个信源的二进制表示问题。最简单的方法是把每个符号表示为个比特。 这个值叫。 2 log N () 0 HX 如果信源不等概，熵一定比小，就是说有办法把信源表示成二进制比特流，使 得平均每个符号最少只需要个比特。记这个值为 2 log N ( i H X)() 1 HX。 如果已知序列之间

2、存在相关性，则实际每符号的信息还要少。如果当前符号 k X和前一 符号 1k X 相关，则当前符号新增加的信息量只是() 1 | kk H XX ，这个记为。显然 。 如果当前符号 () 2 HX ()() 21 HXHX k X和除前一符号 1k X 有关外， 还和前前一个符号 2k X 相 关，则当前符号新增加的信息量只是() 12 |, kkk H XXX ，这个记为。显然 。如此无穷下去，如果我们知道过去无穷时间内的符号和当前符号的相 关性，则当前符号新增加的信息量是 () 3 HX ()() 32 HXHX ()()()()( 11210 lim|, LL L HXH XXXHXHX

3、HX =?) 对于 L 个符号，其总信息量是() 12 , L H XXX?，平均到每个符号的信息量是 () 12 1 , L H XXX L ?L。如果是无穷大，则平均每符号的信息量就是每一个符号新增加的 信息量，即有 ()()()() 1211 1 lim,limlim|, LLL LLL H XXXHXH XXXHX L =? 这就是(7.3.19)式。它可以严格证明（证明从略） 。 一个无限长信源序列真正包含的信息量每符号只有()HX 这么多， 但用最简单的方法 表示时平均每符号需要个比特，冗余了() 0 HX()() 0 HXHX 比特，冗余的程度为 ()() () 0 0 HXHX

4、 R HX =，称此为冗余度或者相对剩余度。又称 () () 0 HX HX =为信源效率。 我们举例来说明这些结果的含义。设有一篇文章有 10 万汉字。假设汉字共有 8000 个， 则这篇文章表达成二进制需要，但如果汉字的冗余度是 68%， 那么我们可以指望用大约 52kByte 来保存这篇文章。 4 2 10log 8000162kByte 1/1 欢迎访问北邮通信原理学习与考研网下载更多北邮通信原理复习资料 北京邮电大学电信工程学院 通信原理 II Lecture Notes-2-2006/02/21 预测编码预测编码 信源的输出是一个随机序列 12 , L XXX?， 这个序列一般是存

5、在相关性的。 为了 高效地表示这个信源，可将其变换为另一个序列 12 , L Y YY?，这个新序列不相关或者 相关度很低，这样我们再对这个序列进行逐符号编码，就等提高效率。 这样做的一种方法是变换编码，它将 n X通过某种线性变换成为 n Y。另一种方法是 预测编码。 由于 n X和先前的相关，故此，已知时，可先对 12 , nn XX ? 12 , nn XX ? n X进行预 测，设此预测值为 n X，则 nn XX n =+，称 n 为预测误差。已知时， 12 , nn XX ? n X所 新增进的信息量只在 n 中，故此若只对 n 进行编码，就可以提高效率。 用预测 12 , nn

6、XX ? n X的任何方法都可称为预测算法。通常采用线性预测，即 n X是 的线性组合，这样的算法的实际实现就是图 7.10.2。 12 , nn XX ? 采用预测器后，我们只需传输误差 n 。假设过去的对收端是已知的，则 接收端可以用相同的预测器得到相同的预测值 12 , nn XX ? n X，再用传过来的 n 就可以恢复出 n X。 收发两端总可以约定好第一个样值 0 X（一般是 0） 。发端预测出 1 X，传输误差 11 1 XX=。收端也可以预测出相同的 1 X（预测器相同，初始值相同，预测结果自然相 同） ，如果传输无误，收端就能正确得到 1 X。再这样继续下去，所有的 n X都

7、可以通过传 输 n 得到。接收端的预测器如图 7.10.3 右侧所示，它的输入是先前已经恢复出的样值。 预测编码主要用于传输模拟量，此时必然要进行量化。收端得到的是 n 的量化值， 它用量化值得到的输出 n u n X ? 或多或少和 n X有差别，以后它又用 l X ? 为基础进行预测，则预 测结果和发送端的预测结果将不一样，这样长期下去，误差有可能越来越大。为了克服这个 问题，提出了图 7.10.3 这样的方案。此时，发端的预测器不是用过去的样值， 而是它也用量化的预测误差建立出样值 12 , nn XX ? l u l X ? （就是说，它在想，收端恢复的值是什么） ， 再用这个来进行预

8、测，这样，发送端和接收端的预测结果就是完全一样的了。上述问题便被 克服。 最简单的预测器是认为下一时刻的样值和刚才相同，即 nn XX=。最简单的量化器是 单比特量化（预测值偏高或偏低） 。将这两个带入图 7.10.3 的设计，所得到的就是增量调制 （图 7.10.4） 。增量调制的信源压缩效率自然比不上更复杂的预测编码，但有些时候我们会 很喜欢它简单的优点（有时候，便宜的设备价格比优秀的性能更为重要） 。 1/1 欢迎访问北邮通信原理学习与考研网下载更多北邮通信原理复习资料 北京邮电大学电信工程学院 通信原理 II Lecture Notes-3-2005/02/28 一 信道的概念一 信道

9、的概念 信道是一个抽象的概念， 指所研究问题中从发送端到接收端之间的一切环节。 不同的情 景下， “发送端”和“接收端”所指不同，因而信道的含义也不同。例如在某个无线通信系 统中， 发送天线到接收天线之间的电波传遍空间是信道， 这个信道也叫狭义信道或者传输媒 质。调制器输出到解调器输入的一切环节是信道，这个信道也叫调制信道，它包含了上下变 频器、放大器、收发滤波器、收发天线、传输媒质等环节。从编码器的输出到译码器输入的 一切环节也是信道，这个信道叫编码信道，它包括了调制解调器以及调制信道。 Fig. 1 某 2PSK 系统 Fig. 1中，A?B是传输媒质，C?D是调制信道，E?F是编码信道。

10、根据研究问题之不同， 还可以有其它信道概念，如G?K、G?H、。注意Fig. 1其实也远未能包括一个真实系 统的全部。实际系统比如还可能包括：天线双工器、馈线、射频及中频的滤波器、自动增益 控制（AGC）装置等等。 1. 恒参信道与随参信道恒参信道与随参信道 发送信号经过信道成为了接收信号， 如下图所示。 这里发送信号或者接收信号可能是模 拟信号（时间连续、取值连续） ，也可能是数字信号（时间离散、取值可能连续或者离散） 。 注意取值连续的数字信号可以理解为进制数趋于无限的情形。 Fig. 2 信道的输入输出是随机过程或随机序列 信道的特性指它把发送信号变成接收信号时体现的特性，例如失真、衰减

11、、误码等等。 如果信道特性基本不随时间变化，则称为恒参信道，或者叫静态信道(static channel)或时不 变信道(time invariant channel)。如果信道特性随时间随机变化，则称随参信道，或者叫衰落 信道(fading channel)、时变信道(time-variant channel)。注意“恒参/随参”和“有/无失真”是 不同的概念。 一个有失真的信道有可能永远不变化， 一个无失真的信道也可能是随时间变化 的（比如信道的增益随时间变化） 。 2. 信道的数学模型信道的数学模型 信道的输入输出从数学上看是随机过程（时间连续）或者随机序列（时间离散） ，如Fig. 2

12、所示。我们关心的不是信道的物理组成，而是其数学特性，即输出信号和输入信号之间的 1/5 欢迎访问北邮通信原理学习与考研网下载更多北邮通信原理复习资料 北京邮电大学电信工程学院 通信原理 II Lecture Notes-3-2005/02/28 数学关系。信道模型就是这种关系的数学描述。按时间是否连续，信道可分为时间连续信道 和时间离散信道。 二 恒参信道二 恒参信道 1. 时间连续信道（波形信道、模拟信道）时间连续信道（波形信道、模拟信道） 信道所起的作用一般包括两部分： 其一： 输出信号必然要叠加一个噪声或干扰。 噪声泛指不能确定其具体样本的随机波形。 噪声就其一维概率特性来说，经常是高斯

13、的（也有非高斯的情形，但本课中总假设噪声是高 斯型的） 。 其二，即便没有噪声，信道的输出信号也有可能不同于输入信号。可以一般性地把信道 中排除噪声之外的这部分描述成一个信号系统。 在多数情况下它是一个线性系统， 本学期我 们只考虑线性系统这个情况。 Fig. 3 连续信道 综合上述两点，连续信道一般可以用Fig. 3表述。如果只考虑线性信号系统，那么恒参 的连续信道是这样的：(1)此图中x(t)、y(t)之间是线性时不变系统；(2)加性噪声的统计特性 是时不变的（即平稳过程） 。如果不满足这两点中的任何一点，就是随参的连续信道。 当我们考虑 x(t)、y(t)之间是线性时不变系统时，可以用传

14、递函数或者冲激响应来描述。 传递函数一般是复数，( )( ) ( )jf HfA f e =， 其中( )( )A fHf=称作的幅频特性，( )Hf ( )( )fHf= 称作的相频特性。对于实信号系统，必然有如下对称性： ( )Hf ( ) ( ) ( ) ( ) ( ) 0 0 jf jf A f ef Hf A f ef = = = B时，是不相关的（在 Rayleigh 衰落下就是独立的，why?） 。而当 12 ,h h 12c ff，则信道特性不相关，即这两个时刻发生的衰落基本无关；如果 12c ttTC 则无论用任何编码，误码率总大于某个正数。这 个由信道所决定的数叫该信道的信

15、道容量。 注意：所谓“给定一个信道”是指给定了信道的转移概率()|p y x，编码率是 Encoder 输出 的每个符号平均携带的信息量。此定理中的这个 C 的计算方法是 ( ) ()max; P x CI x=y 其中 x 是信道输入，y 是信道输出。C 的单位是 bit/symbol。 给 定 联 合 分 布() (),P x yx y XY， 就 给 定 了 互 信 息(,)I x y。 由 于 ()( ) (),P x yP x P y x=|，所以“给定信道”这个条件下(),I x y的值不唯一，取决于具体 的。信道容量是“给定信道”这个条件下( )P x(),I x y的最大可能值。 二 二 BSC 信道的信道容量信道的信道容量 1. 信道模型信道模型 Fig. 2 BSC 设 x 的 概 率 分 布 是()()0 ,1,1P xP xpp=， 设 y 的 概 率 分 布 是 ()()0 ,1,1P yP yqq=。则有如下关系 ()()11qpp=+ 由此可以推出：对于 1 0 2 ， 1 2 q =当且仅当 1 2 p =。 2. 二元熵函数二元熵函数 ( ) 2 hp 对于二元随机变量 x，设其分布为,1pp，则其熵为 ( )()()( ) 2 log1log 1H xpppphp= ? 二元熵函数( ) 2 hp的图见课本第 7 页图