通信概论与信息度量 （2）课件

《通信概论与信息度量 （2）课件》由会员分享，可在线阅读，更多相关《通信概论与信息度量 （2）课件（57页珍藏版）》请在金锄头文库上搜索。

1、,现代通信原理 2010.92011.1,任课教师及助教,任课教师 金德鹏 中央主楼901C 62781409 助教 孙光： , 中央主楼901C,作业及答疑,作业 随堂布置，第二周上课交 课堂收取、发放作业 答疑 每周五下午3：304：30，中央主楼901C 平时可随时联系老师答疑 不限于课程，推研、出国、考研、就业 欢迎大家到办公室聊天 期中期末集中答疑,课程安排（1）,通信概论与信息度量 模拟调制 模拟信号数字化及压缩编码 时分多路复用 数字信号基带传输 数字信号载波传输 差错控制编码 卷积码 多址技术,课程安排（2）,教材 现代通信原理 ，清华大学出版社，曹志刚、钱亚生 讲义 每周周

2、一左右上传到网络学堂 参考书 英文参考书： E1. Introduction to digital communication Rodger E. Ziemer E2. Principle of communication engineering Wozencraft & Jacobs E3. Communication systems engineering Proakis & Salehi 中文参考书： C1. 数字通信基础与应用（第二版），Bernard Sklar C2. 数字微波中继通信工程，姚彦、梅顺良、高葆新，人民邮电出版社 C3. 通信原理（1980, 1984），樊昌信，国防

3、工业出版社 C4. 现代通信理论基础（上册），樊平毅，冯重熙，清华大学出版社 课程成绩 平时成绩（作业，随堂测验） 期中考试 期末考试,第一讲 通信概论与信息度量,主要内容 通信的定义 通信的发展简史 通信系统及其分类 信息的度量 香农定理,通信的核心问题是什么？ 通信系统的的基本框架是怎样的？ 从信息论的角度如何看通信？ 通信的理论极限是什么？,通信的定义,通信（communication） 信息的传输和交换，信息的传递 消息（message) 通信系统要传送的内容，包括语音、图像、数据、文字等，消息由信源产生 信号（signal） 消息的载体，包括电信号、光信号等 信息（informati

4、on） 消息中包含的新的、有意义且可被理解的、不可压缩的东西 消息是信息与某种冗余成分之和，是信息的载体,本课程着重讨论信息的传输问题，重点在点对点数字通信系统基本原理和基本技术！,通信的基本问题,一个例子 烽火台 通信的基本问题 有效的通信在资源受限条件下把信息准确无误地传送到目的地 传输的速率更高 占用的带宽更窄 传输的延时更小 使用更小的功率 设备的成本更低 可靠的通信 复杂恶劣的环境：噪声、干扰、衰落 对抗条件下的通信：人为的干扰,尽量减少信息传递所消耗的资源！ 在给定资源条件下传送尽可能多的信息！,降低信息传输的差错率！,通信的发展简史（1）,通信起源 人类社会活动中需要互通消息 早

5、期的通信 以物示意：烽火台 邮政通信：驿站、驿邮 电信 1837年，摩尔斯发明有线电报 1864年，麦克思韦预言电磁波的存在 1876年，贝尔发明有线电话 1887年，赫兹用实验证明电磁波的存在 1893年，史端乔发明步进式电话交换机 1897年，马可尼发明无线电报 1918年，调幅无线电广播商用,通信的发展简史（2）,1928年，奈奎斯特提出抽样定理 1936年，发明调频技术 1937年，提出PCM技术 1938年，黑白电视广播系统商用 19441947年，统计通信理论形成 19481950年，香农信息论形成，纠错码出现 19481951年，晶体管发明 1950年，贝尔实验室研制出PCM数字

6、通信设备，TDM技术应用于电话 1953年，彩色电视出现 1956年，第一条跨越大洋电缆建成，可提供36个话路 1960年，发明激光器 1961年，集成电路开始商业生产,通信的发展简史（3）,1962年，第一颗人造卫星上天 19621966年，数据传输业务商用 1964年，第一台程控交换机投入应用 19661975年，有线电视、商用卫星中继、光纤链路投入应用 1972年，Motorola开发蜂窝电话系统，第一次跨越大西洋的卫星电视直播成功 1977年，光纤通信系统投入商用 1978年，模拟蜂窝移动通信系统投入商用 1989年，跨大西洋及太平洋的光缆用于通信 1991年，GSM移动通信系统投入商

7、用 1995年，窄带CDMA移动通信系统在香港投入商用 1995年，Foschini提出了多天线无线传输系统 1997年，IEEE提出802.11无线局域网标准 1998年，Alamouti提出空时编码 1998年，数字电视业务在美国开通 2001年，NTT试运行WCMDA服务，IEEE提出802.16标准 2003年，Li、Yeung、Cai提出了线性网络编码,通信的发展简史（4）,通信的发展趋势 数字化：最后一公里的接入网络、电视网络等 综合化：电信网、计算机网、电视网三网合一 智能化：软交换、ASON、下一代网络 移动化：移动电话、移动卫星、WLAN、WiMAX 宽带化：PON、宽带无线

8、接入、4G、100G系统 个人化：5W（whoever、whenever、wherever、whatever、whoever）,通信系统 完成通信这一过程的全部设备和传输媒介 通信系统基本框图,通信系统（1）,通信系统（2）,模拟通信系统 在信道中传输的是模拟信号的通信系统 模拟通信的缺点 抗噪声和干扰能力差，传输中模拟信号会越来越弱 放大器的引入带来信噪比的恶化,通信系统（3）,数字通信系统 在信道中传输的是数字信号的通信系统 数字通信的优缺点 抗噪声、抗干扰能力强：再生、体制 差错可控：纠错码 易加密：数字信号 适应性强 占用频带宽 系统和设备复杂,数字化是通信发展的主流和趋势！,通信系统

9、（4）,典型数字通信系统框图 信源编码和译码：压缩冗余，去除次要信息 信道编码和译码：增加冗余，提高传输可靠性 数字调制和解调 同步：载波同步、时钟同步、字同步,通信系统（5）,一个更完整的数字通信系统框图,通信系统（6）,通信系统的其它形式 从系统构成看任何一个系统可以看成一个单发单收系统的组合系统。在多发多收系统中，除了涉及到上述描述的传输系统外，还包括信息的交换：即如何有效利用现有的通信资源，最大效率地进行信息地传送，从而派生出通信网络的概念。由此引入了交换技术，网络管理等技术。本课程的重点侧重于传输系统中涉及的关键技术与基本原理.,通信系统（7）,通信系统的分类 按消息的物理特征分类：

10、 文字-电报系统 语音-电话系统 数字-数据通信系统 图象-图象通信系统,通信系统（8）,按调制方式分类： 基带传输：实现简便，用于近距离传输，不需考虑频带利用率问题，干扰较小，可靠性高。不适用于长距离传输。 调制传输：实现较复杂，用于长距离传输，需将信息转换成便于传输的形式，增强了抗干扰能力，有效地利用频带。,通信系统（9）,按传输信号的特征分 模拟通信 采用原始的信源信号，如语音，图像信号等； 实现相对简单 在长距离中继通信中抗干扰能力差. 信息交换实现较复杂 短距离传输保真度高 数字通信 采用数字采样、量化信源 在长距离中继通信中，抗干扰能力 强 易于数字化处理 设备集成度高 信号的传输

11、与交换易于融合 便于多路复用,通信系统（10）,按复用方式分 频分复用FDM 时分复用TDM 码分复用CDM 波分复用WDM 空分复用SDM 按传输媒介分 有线通信系统：有线电视、光纤通信系统 无线通信系统：移动电话系统、无线局域网系统,通信方式,单工、半双工和全双工通信 单工通信：消息只能从一点沿一个方向传输给另一点，不能沿反方向传输。 半双工通信：通信的两点间能够在两个方向上传输信息，但在某一时刻信道中只能有一个方向的信号在传输。 全双工通信：通信的两点间可以同时双向地传输信息 并行传输和串行传输 并行传输：数字信号码元序列分割成两路以上的码元序列在信道中传输 串行传输：数字信号的码元序列

12、按照时间顺序一个一个地在信道中传输,信道（1）,信道 信号传输的媒介或途径 信道的分类 有线信道 架空明线 双绞线 同轴电缆 光纤,信道（2）,无线信道 地波传播：2MHz以下的无线电波沿地球表面传输 天波传播：经电离层反射 视距（空间波）传播：直接从发射点传到接收点 无线电视距中继信道 卫星中继信道 对流层散射信道 流星余迹散射信道 恒参信道与变参信道 信道中的噪声,通信技术的新进展（1）,有线： 电缆：HDSL，VDSL PON：APON，EPON，GPON 光纤 DWDM技术 光交叉连接，几十G Hz（千兆）带宽 ROF 无线 微波中继 卫星通信 WLAN UWB WSN FSO,移动通

13、信 2G， GSM，CDMA IS-95技术 2.5G，GPRS, EDGES 3G , CDMA2000, WCDMA, TD-SCDMA 4G MC-CDMA? OFDM? MIMO？ 认知无线电 软件无线电 认知无线电,通信技术的新进展（2）,信息的度量,信息 新的、有意义且可被理解的、不可压缩的东西 能够消除不确定性 事件的随机性带来不确定性 不确定的方式由随机变量给出概率分布 信息度量的特性 信息应该是非负的； 信息应该与消息的概率有关：出现的概率越低，包含的信息量越大； 信息应该与消息的长度有关：若干独立消息之和的信息应该是每个消息携带信息的线性叠加； 可能的消息数目是指数增长的，

14、但信息是线性的,离散信源的信息量 消息出现的概率的对数测度作为离散消息的信息度量。,为,的概率,为,与,同时出现的概率,离散信源的信息量,联合信源的信息量 联合消息出现的概率的对数测度作为联合信源的信息度量。,离散信源的互信息量 反映两个随机事件之间的统计关联程度 由一个随机实验的结果所帮助消除的另一个随机变量的不确定性 当 与 统计独立时，互信息量为0 当后验概率为1时，互信息量等于 的信息量,离散信源的互信息量,互信息的物理含义 观测到Y以后，从Y所能获取的关于X的信息，其本质是信息的传递通信 条件概率 是对一切信道的一致性和本征性描述！ 互信息描述了可靠传输信息的量 通信的目标：追求最大

15、的互信息,可观测的结果,希望了解的内容,信息通道,互信息的物理意义,熵的定义 熵的性质 熵非负 熵的值与对数底有关 取2为底，则熵的单位是比特（Bit） 取自然对数e为底，则熵的单位是奈特（Nat） 取10为底，则熵的单位是哈特（Hartely） 熵为零，当且仅当 熵的物理含义 对应于描述信源所需的最少字符数量信源压缩的极限 所需字符集合的大小为所取对数的底,离散信源的平均信息量熵,确定了通信系统所要传递的信息量的大小或信息速率！,联合熵 多个随机变量的不确定性测度 条件熵 消除了一个随机变量的不确定性后，另一个随机变量残留的不确定性,离散信源联合熵与条件熵,物理意义 两个随机变量的联合不确定

16、性，等于一个随机变量的不确定性，加上知道这个随机变量后另一个随机变量残余的不确定性 证明：,熵、联合熵及条件熵的关系,平均互信息量,通信的目标：最大化平均互信息量,平均信息量的不等式,基本不等式：对于 ，如下不等式成立 证明：令 ，求导函数可得,熵与条件熵的不等式,熵不小于条件熵： 证明：,熵、条件熵与联合熵的不等式,联合熵不小于条件熵： 证明： 而 ，因此 联合熵大于任何一个随机变量的熵： 证明：,联合熵不大于两个随机变量熵之和 证明： 离散随机变量在均匀分布时取得最大熵 证明：,熵与联合熵的不等式,拉格朗日乘数法,抽样定理 如果一个连续信号的频带限制在（0，W）内，则它完全可用间隔为 的采样序列无失真地表示