信息科学及其发展课件

《信息科学及其发展课件》由会员分享，可在线阅读，更多相关《信息科学及其发展课件（47页珍藏版）》请在金锄头文库上搜索。

1、1,2,3,4,5,6,7,消息从信源通过信道到信宿，如何有效、可靠地传输，是通信系统要解决的根本问题。 先说有效性（Validity） 消息若在信源中先去粗取精，则必能提高通信的有效性 对数字通信来说，即信源编码（Source Coding）要解决的主要问题 再说可靠性（Reliability） 信宿对接收到的“消息”若能够进行判断、评估，去伪存真的处理，则必能提高通信的可靠性 对数字通信来说，信道编码（Channel Coding）的主要任务就是解决这个问题,1.1.1从通信谈起,1.1 通信系统的基本概念,8,信息理论最初就是从解决通信系统的有效性和可靠性而发展起来的，从信源、信道、信宿

2、的特性入手，逐步发展成应用极为广泛的新兴学科信息科学,为此，本章首先给出信源、信道、信宿的比较确切的定义，然后再讨论信息的涵义,1.1 通信系统的基本概念,1.1.1从通信谈起,9,信源： 消息的源，通常指向通信系统提供消息的人、设备或事物。 信源输出的是以符号形式出现的具体消息，它载荷信息。 信源输出的消息有多种形式： 例如，从消息在时间上和幅度上的分布情况这一角度，可分为离散信源（Discrete Source）和连续信源（Continuous Source）。 前者指信源发出的消息在时间和幅度上都是离散分布的，如字母、文字、数字等符号组成的符号序列或单个符号 后者指在时间和幅度上都是连续

3、分布的，如话音、图像等。,1.1 通信系统的基本概念,1.1.1从通信谈起,10,信道： 传递消息的通道，广义上是指从信源到信宿间传递物理信号的媒质和设施。 信道的种类很多，如电信中常用的架空明线、同轴电缆、波导、光纤、传输电磁波的空间等都是信道。 也可以从信道的性质或其传送的信号情况来分类，例如：无干扰信道和有干扰信道、恒参信道和变参信道、离散信道（Discrete Channel）和连续信道（Continuous Channel）、单用户信道和多用户信道等。,1.1 通信系统的基本概念,1.1.1从通信谈起,11,信宿： 消息传递的对象，即接收消息的人、设备或事物。根据实际需要，信宿接收的

4、消息，其形式可以与信源发出相同，也可以不同。当两者形式不同时，存在一个映射关系。,1.1 通信系统的基本概念,1.1.1从通信谈起,12,从通信的实质意义来讲，如果信宿收到的消息是已知的，则等于没有收到任何消息 因此，人们更感兴趣的是消息中所包含的未知的成分，用概率论的术语来说，就是具有不确定性的成分。消息中这种未知的或不确定的成分，通常被称为消息中所包含的信息。 由此看来，通信中的信息、消息和信号是紧密相联的： 通信系统传输的是信号，信号是消息的载体，消息中的未知成分是信息。,1.1 通信系统的基本概念,1.1.2信息的一般含义及定义,13,教科书对消息和信号有明确的定义 但如何给信息下定义

5、始终是个困扰大家的问题。 我国的辞海对信息作了如下解释： 信息：通信系统传输和处理的对象，泛指消息和信号的具体内容和意义。通常须通过处理和分析来提取。信息、物质和能量被称为系统的三大要素。信息和物质的量值与信息的随机性有关，如在接收端无法预估消息或信号中所蕴含的内容或意义，即预估的可能性越小，信息量就越大。 此解释首先肯定了信息、消息和信号的密不可分性,1.1 通信系统的基本概念,1.1.2信息的一般含义及定义,14,即将出版的科学技术大系将这三者合在一起加以说明： 信息消息信号： 信息是认识主体（人、生物、机器）所感受的或所表达的事物运动的状态和运动状态变化的方式。信息是人们在适应外部世界和

6、控制外部世界的过程中，同外部世界进行交换的内容。信息的特征为： （1）接收者在收到信息之前，对它的内容是不知道的，所以信息是新知识、新内容； （2）信息是能使认识某一事物的未知性或不确定性减少的有用知识； （3）信息可以产生，也可以消失，同时信息可以被携带、贮存及处理; （4）信息是可以量度的，信息量有多少的差别。,1.1 通信系统的基本概念,1.1.2信息的一般含义及定义,15,消息是指包含有信息的语言、文字和图像等。 消息中的不确定成分是信息。 在通信中，消息是指担负着传送信息任务的单个符号或符号序列。 这里的符号包括文本、数据、语言、图形和图像等。 消息是具体的，它载荷信息，但它不是物理

7、性的。 信号是消息的物理体现，为了在信道上传输消息，就必须把消息加载到具有某种物理特征的信号上去。 信号是信息的载荷子或载体，它是物理性的。 在近代通信中信号往往是电信号和光信号。,1.1 通信系统的基本概念,1.1.2信息的一般含义及定义,16,应该说，以上两种解释具有代表性和一定的权威性，都力图对信息给出正确及全面的定义。然而，信息科学还在飞速发展，人们对信息也不断赋予新的内涵，对信息的理解不但要考虑信息理论发展的历史，也要考虑它的将来，因此， 正确及全面地理解它的涵义远比记住它的定义重要。 为此，先讨论信息科学的有关概念及信息理论研究的主要内容，再回过头来看看这些定义，也许会有更深的理解

8、 。,1.1 通信系统的基本概念,1.1.2信息的一般含义及定义,17,信息论的创始人 信息科学的创立是以信息理论（简称信息论）的建立为标志的。 美国科学家香农（C. E. Shannon）在1948年和1949年先后发表的两篇文章“The mathematical theory of communication”和“Communication in the presence of noise”，奠定了信息论的基础。 香农在这两篇论文中，讨论了信息的度量、信息特征、信息传输速率、信道容量、 干扰对信息传输的影响等问题，全部理论建立在信息是可以度量的基础上，但他没有给出信息的定义，只是提出问题，

9、分析问题，得出结论。,1.2 信息科学的有关概念,1.2.1信息科学的创立,18,美国另一科学家维纳（N. Wiener）出版了“Extrapolation, Interpolation and Smoothing of Stationary Time Series”和“Control Theory”这两本名著。 维纳是控制论领域的专家，重点讨论微弱信号的检测理论，并形成了信息论的一个分支。 他对信息作了如下定义：信息是人们在适应外部世界和控制外部世界的过程中，同外部世界进行交换的内容的名称。,1.2 信息科学的有关概念,1.2.1信息科学的创立,19,信息是不是物质？有没有能量的属性？与物质

10、、能量的关系是什么？ Shannon和Wiener没有给出上述问题的解答，随着信息理论向通信以外的学科特别是向社会科学领域的渗透，人们为了弄清这些问题进行了很多研究，但直到现在也还没有定论。,1.2 信息科学的有关概念,1.2.1信息科学的创立,20,1.2 信息科学的有关概念,1.2.1信息科学的创立,一般认为信息论的创始人是香农和维纳，但由于香农的贡献更大，所以更多的人认为香农更合适。,21,信息的特征 从更一般的意义来说，信息具有如下特征： （1）未知性或不确定性； 这是信息的最基本属性，否则就不是信息。 （2）由不知到知，等效为不确定性的集合的元素的减少； 这样，就可以基于集合论和概率

11、论来描述信息的传输。 （3）可以度量； 这是信息理论的基础，使得信息可以比较大小、价值等等。,1.2 信息科学的有关概念,1.2.1信息科学的创立,22,2. 信息的特征 （4）可以产生、消失，可以被携带、存储、处理； 由此可见信息既有物质的某些属性，又不同于物质。信息和物质都可以被携带、存储、处理，但物质不灭，它只能从一种形态变化成另一种形态，而信息可以产生和消失。 （5）可以产生动作。 说明信息能够发挥作用，获得信息后可能产生结果。可见信息既有能量的某些属性，又不同于能量。能量产生的动作是客观的，而信息的影响含有客观和主观的双重因素。,1.2 信息科学的有关概念,1.2.1信息科学的创立,

12、23,2. 信息的特征 举例 某人于某日得知如下两条消息： （1）2021年9月11日上午9时，一颗小行星将和地球相撞； （2）2022年9月11日晚上9:00将发生月食。 试比较它们所包含的信息。,1.2 信息科学的有关概念,1.2.1信息科学的创立,24,这两条消息都属于天文学的范畴，如果预先不知道，则都会从中获得信息； 但这两个事件发生的概率有很大的不同，显然前者的出现概率极小，如果它真的出现了，必将带来极大的信息；若真正度量它们，还应该知道天文学范畴的事件集合及它们的出现概率； 产生的影响和引起的动作肯定不同，前者可能使得相当多科学家倾其全部智慧及精力去研究，后者则可能不会有上述反响。

13、 因此，一般来说，前者所包含的信息远远大于后者。,1.2 信息科学的有关概念,1.2.1信息科学的创立,25,信息理论要解决的基本问题 从信息的特征可以看出，信息理论要回答的问题很多，由于它最初是由通信发展而来的，因此首先将回答通信中遇到的问题。,1.2 信息科学的有关概念,1.2.1信息科学的创立,26,图1.2通信系统的一般框图 与图1.1相比，加上了信源编码、信道编码等9个部分，其目的是体现“有效、可靠地传送信息”。,1.2 信息科学的有关概念,1.2.1信息科学的创立,27,信息论要回答的一些最基本的理论问题： （1）什么是信息？如何度量？ （2）在给定的信道中，信息传输有没有极限？

14、（3）信息能否被压缩和恢复？极限条件是什么？ （4）从实际环境中（如干扰、噪声）抽取信息，极限条件是什么？ （5）在允许一定失真（Distortion）的条件下，信息能否被更大程度地压缩？极限条件是什么？ （6）设计什么样的系统才能达到上述极限？ （7）现实中，接近极限的设备是否存在？,1.2 信息科学的有关概念,1.2.1信息科学的创立,28,信息论的成功就在于首先对这些问题给出了明确的回答，这就是信息量、信道容量、熵（Entropy）、Shannon的三个定理和Shannon公式等。 事实上，回答上述问题只是信息论要解决的问题中的一部分，是建立在Shannon研究成果的基础上，被称为Sha

15、nnon信息论或狭义信息论。,1.2 信息科学的有关概念,1.2.1信息科学的创立,29,信息科学已成为世界各国最优先发展的科学之一。 在我国，信息科学更是受到前所未有的重视，这对信息科学工作者来说都是极大的鼓舞。 本小节将对信息科学发展的背景、信息科学的定义及含义、信息与通信工程一级学科、信息产业和国家信息基础结构作简单介绍，以使读者明确信息理论与信息科学的关系，增强学习信息理论的主动性和自觉性。,1.2 信息科学的有关概念,1.2.2信息科学的发展,30,信息科学的定义及迅速发展的背景 信息科学是研究信息的获取、存储、传输、加工处理和利用等内容的技术科学。 它与数学、物理、材料、生命、心理

16、等基础学科以及众多技术学科交叉形成新领域，是发展和更新最为迅速的技术科学研究领域之一。 信息科学与其它科学技术交叉将派生出大量的新概念、新构思、新技术和边缘学科。 其核心是现代通信加信息技术。,1.2 信息科学的有关概念,1.2.2信息科学的发展,31,国家信息基础结构 亦称“信息高速公路”，是一个具有大容量、高速度的电子数据传输系统，最早由美国联邦政府引导工业界提出并逐步建立，简称NII（National Information Infrastructure）。 它以现代信息技术为基础，以光导纤维网络为骨干，连接全美的学校、研究机构、企业、图书馆、实验室乃至每个家庭，使人们共享丰富的信息资源。,1.2 信息科学的有关概念,1.2.2信息科学的发展,32,一般认为，NII由通信网、计算机、各种终端设备、信息和人等5个基本部分组成，它的主要特点是： （1）能以极快的速度高度准确地传送数字化的音像； （2）以新的方式存储、传输和处理大量的数据； （3）是一个开放的系统，通过现有的电话线、有线电视接口或其它通用接口，进入每个人的生活以共享信息资源。,1.2