智能信号处理.

《智能信号处理.》由会员分享，可在线阅读，更多相关《智能信号处理.（36页珍藏版）》请在金锄头文库上搜索。

1、智能智能信号信号处处理理 什么是智能？ 智能可以是名词，也可以是形容词。 用作名词，智能是指人类所能进行的脑力劳动，包括感 觉、认知、记忆、联想、计算、推理、判断、决策、抽象、 概括 用作形容词，智能的意义是：人一样的、聪明的、灵活 的、柔性的、自学习的、自组织的、自适应的、自治的 智能理论的研究包括两方面：其一是对智能的产生、形 成和工作的机制的直接研究；其二是研究如何利用人工的方 法模拟、延伸和扩展智能。 什么是智能信号处理？ 能够使用工具是人类的重要特征。人们对于体力 上胜过他们的机器司空见惯，然而，当IBM的计算机 （Deep Blue）打败国际象棋大师 Kasparov 的时候， 许

2、多人坐不住了：计算机如此聪明，它们能力的成长 会失去控制，最终危害人类吗？ 实际上，胜过人类棋手的计算机，无非是按照程 序设计者事先规定的算法行事，是编程者的算法胜了 国际象棋大师。 什么是智能信号处理？ 心理活动的最高层级是思维策略，中间一层是初级 信息处理，最低层级是生理过程，即中枢神经系统、神 经元和大脑的活动，与此相应的是计算机程序、语言和 硬件。 研究认知过程的主要任务是探求高层次思维决策与 初级信息处理的关系，并用计算机程序来模拟人的思维 策略水平，而用计算机语言模拟人的初级信息处理过 程。 这是智能信息处理的起源！ 智能信号处处理 智能信号的处理方法 神经网络概念 BP神经网络

3、神经网络的应用实例 1、智能信号处处理方法 人工智能(Artificial Intelligence ， AI) ，是研究、 开发用于模拟、延伸和扩展人的智能的理论、方法、 技术及应用系统的一门新的技术科学。 基于人的慢速脑研究； 思维观点: AI不仅限于逻辑思维，还应考虑形象思 维、灵感思维，才能促进AI的突破性的发展。 快速脑 非逻辑脑 图像脑 右脑 慢速脑 逻辑脑 学术脑 左脑 1、智能信号处处理方法 人工智能 神经网络小波分析 模式识别 模糊聚类 专家系统 遗传算法 2.1神经经网络络的概念 人工神经网络是从微观结构与功能上对人脑神经系统的 模拟而建立起来的一类模型，具有模拟人的部分形

4、象思 维的能力。其特点主要是具有非线性、学习能力和自适 应性，是模拟人的智能的一条重要途径。 它是由简单信息处理单元（人工神经元，简称神经元 ）互联组成的网络，能接受并处理信息。网络的信息处 理由处理单元之间的相互作用来实现，它是通过把问题 表达成处理单元之间的连接权来处理的。 2.1神经经网络络的概念 神经经网络络是人脑脑的某种抽象、简简化和模拟拟，反映了人脑脑 功能的若干基本特性： （1）网络络的信息处处理由处处理单单元间间的相互作用来实现实现 ，并具有并行处处理的特点。 （2）知识识与信息的存储储，表现为处现为处 理单单元之间间分布式 的物理联联系。 （3）网络络的学习习和识别识别 ，决

5、定于处处理单单元连连接权权系的 动态动态 演化过过程。 （4）具有联联想记忆记忆 的特性。 2.1神经经网络络的概念 1943年，美国心理学家Mc Culloch和数学家 Pitts共同提出“模拟拟生物神经经元”的被称为为MP的人 工神经经元模型，从此开创创了对对神经经网络络的理论论研 究。 2.1神经经网络络的概念 其中： 为为阈值阈值 为连为连 接权权值值 为为激活函数 2.1神经经网络络的概念 神经经元模型的作用函数，用以模拟拟神经细经细 胞的兴兴 奋奋、抑制以及阈值阈值 等非线线性特性。 2.1神经经网络络的概念 MP模型在发表时并没有给出一个学习算法来调整神经元 之间的来连接权值。但

6、是，我们可以根据需要 ，采用一 些常见的算法来调整神经元连接权，以达到学习的目 的。下面介绍的Hebb学习规则就是一个常见学习算法。 Hebb学习规则：神经网络具有学习功能。对于人工神经 网络而言，这种学习归结为：若第i个和第j个神经元同 时处于兴奋状态，则它们之间的连接应当加强，即： 2.2神经经网络络的互联联模式 根据连接方式的不同，神经网络的神经元之间的连接有如下几种形式。 1）前向网络 前向网络结构如下图。神经元分层排列，分别组成输入层、中间层（也 称为隐含层，可以由若干层组成）和输出层。每一层的神经元只接受来 自前一层神经元的输入，后面的层对前面的层没有信号反馈。输入模式 经过各层次

7、的顺序传播，最后在输出层上得到输出。感知器网络和BP网 络均属于前向网络。 2.2神经经网络络的互联联模式 2）有反馈的前向网路 其结构如下图。输出层对输入层有信息反馈，这种网络可用于存储某 种模式序列。如神经认知机和回归BP网络都属于这种类型。 2.2神经经网络络的互联联模式 3）层内有相互结合的前向网络 其结构如下图。通过层内神经元的相互结合，可以实现同一层内神经 元之间的横向抑制或兴奋抑制。这样可以限制每层内可以同时动作的 神经元素，或者把每层内的神经元分为若干组，让每一组作为一个整 体进行运作。例如，可以利用横向抑制机理把某层内具有最大输出的 神经元挑选出来，从而抑制其他神经元，使之处

8、于无输出的状态。 2.3神经经网络络的学习习方式 神经经网络络的学习习也称为为训练训练 ，指的是通过过神 经经网络络所在环环境的刺激作用调调整神经经网络络的参数（ 权值权值 和域值值），使神经经网络络以一种新的方式对对外部 环环境做出反应应的一个过过程。能够够从环环境中学习习和在 学习习中提高自身性能是神经经网络络的最有意义义的性 质质。根据学习过习过 程的组织组织 方式不同，学习习方式分 为为两类类：有监监督学习习和无监监督学习习。 2.3神经经网络络的学习习方式 1）有监监督学习习：对对于监监督学习习，网络训练络训练 往往要 基于一定数量的训练样训练样 本。训练样训练样 本通常由输输入矢

9、量和目标标矢量组组成。在学习习和训练过训练过 程中，网络络根 据实际输实际输 出与期望输输出的比较较，进进行连连接权值权值 和 域值值的调节调节 。通过过将期望输输出成为导师为导师 信号，它是 评评价学习习的标标准。最典型的有监监督学习习算法是BP算 法，即误误差反向传传播算法。 2.3神经经网络络的学习习方式 2）无监监督学习习：对对于无监监督学习习，则则无教师师信号 提供给给网络络，网络络能够够根据其特有的结结构和学习规习规 则则，进进行连连接权值权值 和域值值的调调整。此时时，网络络的学 习评习评 价标标准隐隐含于其内部。 智能信号处处理 智能信号的处理方法 神经网络概念 BP神经网络

10、神经网络的应用实例 3.1 BP神经经网络络 有导师的学习方式 输入量与输出量构成一个训练对 正向+反向的数据流学习过程 正向：输入层 各级隐层 输出层 反向：输出层 各级隐层 输入层 BP神经网络是一种多层感知神经网络，采用误差反向 传递学习算法（Error Back Propagation），基本结 构包括输入层、中间层（隐含层）和输出层，每层都 由节点组成。 3.1 BP神经经网络络 l 误差逆传播神经网络 (Back Propagation Neural Network，简记 作BP网络) l 工程实际中运用最为 广泛的一种神经网络。 3.1 BP神经经网络络 输入模式从输入层经隐含

11、层传向输出层的“模式顺传播” 过程 网络的期望输出与实际输 出之差的误差信号由输出层经隐 含层向输入层逐层修正连接权的 “误差逆传播”过程 由“模式顺传播”和“误 差逆传播”的反复交替进行的网 络“记忆训练”过程 网络趋向收敛即网络的全 局误差趋向极小值的“学习收敛 ”过程。 性能（误差）函数 3.1 BP神经经网络络 初始化W 输入和期望输出 计算隐层和输出层的输出 迭代次数加1 调节输出层和隐层的连接权值 改变训练样板 训练样终 止 ？ 迭代终止？ No No y y 基本流程基本流程 3.1 BP神经经网络络 BP神经网络的运行 包括两个阶段 训练或学习阶段（training or le

12、arning phase） 向神经网络提供一系列输入输出数据组，通过数值计 算方法和参数优化技术，使节点连接的权重因子不断调整， 直到从给定的输入能产生所期望的输出。 预测（应用）阶段（generalization phase） 以训练好的网络，对未知的样本进行预测。 输入、输出层节点 网络层数 激活函数的选择 隐含层节点数的确定 学习速率和冲量系数 网络的初始连接权值 3.2 BP神经经网络设计络设计 要点 输入层节点数：即实际问题中的因素个数，或称因变 量个数 初始值预处理：预处理方法有归一化处理、标准化处 理和主成分分析等。常采用的是归一化处理,即将输 入、输出数据映射到-1,1范围内,

13、训练结束后再反映 射到原数据范围。 输出层节点数：实际问题中所要预测的值个数，或称 自变量个数 网络层数 即确定隐层层数。 一般认为，增加隐层数可以降低网络误差提高精度 ，但也使网络复杂化。 设计神经网络应优先考虑3层网络（即有1个隐层 ）。 一般地，靠增加隐层节点数来获得较低的误差，其 训练效果要比增加隐层数更容易实现。 隐层节点数 目前理论上还没有一种科学的和普遍的确定方法，主要是 按经验选取。一些经验公式可以参考 N=输入节点*75% N=sqrt(输入*输出) 确定隐层节点数的最基本原则是： 在满足精度要求的前提下取尽可能紧凑的结构，即取尽可 能少的隐层节点数； 隐层节点数必须小于N-

14、1（N为训练样本数）； 训练样本数必须多于网络模型的连接权数，一般为210 倍。 激活函数：常采用Sigmoid型函数 学习速率：过大加快收敛，但会导致系统震荡。 初始权值选取：选择一组介于-0.50.5之间的值作为网 络初始权值。 优点：广泛的适应性和有效性 广泛应用于日常生活各个领域，包括材料性能 预测、环境污染防治系统建模、心理学预测、产品 销售预测、价格预测、市场供求分析、证券投资分 析、农业灾害预测等，并取得了良好的拟合结果。 3.3 BP神经经网络络的优优缺点 (1)BP算法的收敛速度慢，不能保证网络收敛； (2)BP算法从数学角度看是一种梯度最速下降法，这就可 能出现局部极小的问题； (3)BP网络中隐含层神经元的数目目前仅有一些经验的选 取方法； (4)BP网络并没有反馈存在，只是一个非线性映射系统； (5)BP网络的泛化能力较差。 缺点： 4、BP神经经网络络的应应用 函数拟合： 使得输入 P1 = 1:2:200 输出为 T1 = sin(P1*0.1） 谢谢 ！