《系统辨识的人工智能方法》由会员分享，可在线阅读，更多相关《系统辨识的人工智能方法（29页珍藏版）》请在金锄头文库上搜索。
1、第4章 系统辨识的人工智能方法传统辨识方法给定模型的参数估计系统辨识问题实际上 是一个优化问题通过观测输入、输出数据对， 确定系统的数学模型。估计是针对函数的，系统的 输入输出是函数关系。估计准则最后体现为目标函数 的形式。因为系统辨识技术涉及最优估计和优化计算， 所以了解和掌握其基本内容和最新发展是重要的。系统辨识与优化问题系统辨识与优化问题4.1 模拟退火算法4.2 遗传算法4.3 蚁群算法4.4 粒子群优化算法4.5 模糊逻辑4.6 神经网络4.1 4.1 模拟退火算法模拟退火算法SAASAA模拟退火算法(Simulated Annealing Algorithms) 基于热处理中固体物
2、质退火时由高能态向低能态转变的 过程与组合优化问题中寻找目标函数最优值过程的相似性而 提出的模拟退火算法，是一种通用的 Monte Carlo随机搜索 算法，已用于求解制造领域中的组合优化问题。典型的组合优化问题有旅行商问题（Traveling Salesman ProblemTSP）、加工调度问题（Scheduling Problem，如Flow-Shop，Job-Shop）、0-1背包问题（ Knapsack Problem）、装箱问题（Bin Packing Problem） 、图着色问题（Graph Coloring Problem）、聚类问题（ Clustering Problem）
3、等。 组合优化问题组合优化问题固体物质的退火过程固体物质的退火过程模拟退火来源于拉丝玻璃的物理特性。模拟退火的原理 类似于以一定的受控率冷却金属时所发生的现象。固体物质 的退火过程时，通常先将它加热熔化，使其中粒子可以自由 运动。然后逐渐降低温度，粒子的自由运动也逐渐减弱，缓 慢下降的温度使融化金属中的原子排成行，并逐渐形成具有 高密度低能量的有规则晶体结构。若在凝结点附近温度下降 的速度足够慢，则固体物质一定会形成最低能量的基态，即 最稳定的结构状态。但是如果温度下降太快，原子没有足够 的时间去排成有规则结构，结果就产生了具有较高能量的非 晶体材料。实际上，在整个降温过程中，各个粒子都可能经
4、 历了由高能态向低能态，有时又暂时由低能态向高能态最终 趋向于低能态的变化过程。退火过程算法步骤退火过程算法步骤4.2 4.2 遗传算法遗传算法( (进化计算进化计算) )遗传算法(GA)是模拟自然进化的一类随机搜索技术， 它模拟由个体组成的群体的集体学习过程。其中每个个体表 示给定问题搜索空间中的一点。遗传算法从初始的群体出发 ，通过随机选择、变异和重组过程，使群体进化到搜索空间 中越来越好的区域。选择过程使群体中适应性好的个体比适 应性差的个体有更多的复制机会，重组操作将父辈信息结合 在一起并将他们传到子代个体，变异在群体中引人新的个体 。如果视种群为超空间的一组点，选择、杂交和变异的过程
5、 即是在超空间中进行点集之间的某种变换，通过信息交换使 种群不断进化。群体搜索策略和群体中个体之间的信息交换是 进化算法的两大特点。遗传算法的基本概念遗传算法的基本概念G A 的主要组成部分包括编码方案、适应度计算、 父代选择、交换算子和变异算子。可以选择这样的策略，在每一次生成新种群时，始终保 留一定数量的最优个体，这一原理通常称作为精英原则。 编码方案编码方案使用二进制编码把参数空间的点转换成位串来表示。 将每个坐标值编码为一个由二进制位组成的基因。也可以 使用其它编码方法。可对负数、浮点数和离散值进行编码 ，编码方案提供了将问题领域知识直接转化为GA框架的一 种方式。因此，对GA的性能起
6、到决定性的作用。此外，诸 如交换和变异等遗传算子可以也应该与特定应用领域的编 码一起设计。 例如，三维参数空间中的一 点(11,6,9)可表示为一个级 联的二进制串:1011 0110 1001 11 6 9适应度计算适应度计算建立一代之后的第一步就是计算种群中每个个 体的适应度值。对于最大化的问题，第i个个体的适 应度值fi通常就是在此个体（或点）处求得的目标 函数值。我们往往需要适应度值是正的。因此，如 果目标函数不严格为正，就有必要使用某种单调的 尺度和/或变换。另一种方法是采用种群中个体的序 别作为它们的适应度值。这样做的好处是不需精确 计算目标函数，只要能提供正确的序别信息即可。 随
7、机选择随机选择( (复制复制) )求值之后，我们要从当前一代生成一组新的种群。选择 操作决定哪些个体参与生成下一代的个体。这类似于自然 选择中的适者生存。通常使用与个体适应度值成正比的选 择概率来选择参与交换的个体。实现这一任务最常用的方 法是令选择概率等于 ：其中n为种群规模。这种选择方法的效果是允许具有高于平 均适应度值的个体进行复制，取代具有低于平均适应度值的 个体。具有高于平均适应度值的个体可以复制多次。交换操作交换操作使用交换算子来生成新的染色体，并希望这些新的染色体保留 上一代中优良的特征。根据一定概率选择交换的个体对，这一概率 等于给定的交换率。单点交换是最基本的交换算子，其中基
8、因码的 交换点的位置随机而定，两个父代染色体在交换点处进行互换。在 双点交换中，将选定两个交换点，在这两点之间的染色体串部分进 行交换生成两个子体。类似地，可以定义 n 点交换。交换的作用类 似于自然进化过程中的交配，在这一过程中个体将自身染色体中的 某些段遗传给它们的子辈。因此，如果子辈从双亲中得到了“优良” 的基因或基因品质，则它们将优于它们双亲。 A：10011110 B：10110010A1：10010010 B1：10111110A：10011110 B：10110010A1：10110110 B1：10011010变异操作变异操作交换利用了当前基因的潜能，但如果种群中并未包含 求解
9、特定问题所需的所有编码信息，那么任意次数的基因 混合都不能产生满意的结果。基于此，引入了具有自发生 成新染色体功能的变异算子。实现变异的最常用方式是以 一定的概率对某一位进行突变，这个概率等于一个给定的 很小值变异率。变异算子能够防止整个种群中的任一位收 敛到一个值，并且更为重要的是，它能防止种群收敛并滞 留在任何局部最优点。变异率通常取得很小。因此，由交 换操作中得到的好染色体不会丢失。1001111010011010(1) 在搜索过程中不容易陷入局部最优。即使在所定义 的适应度函数是不连续的、非规则的或有噪声的情况下 ，遗传算法仍能以很大的概率找到最优解;(2) 具有并行计算能力及很高的计
10、算效率;(3) 采用自然进化机制来表现高度复杂、强非线性现象 ，能快速可靠地解决问题;(4) 能介入到已有的模型中，并且具有可扩展性，易于 同其它技术混合。遗传算法的优越性遗传算法的优越性蚁群算法是受自然界中真实蚁群的集体觅食行为的启 发而发展起来的一种基于群集智能的进化算法，属于随机 搜索算法，它是由意大利学者Dorigo等人在二十世纪九十年代初首先提出来的。虽然蚂蚁本身的行为极其简单，但 由这些简单个体所组成的蚁群却表现出极其复杂的行为特 征。如蚁群除了能够找到蚁巢与食物源之间的最短路径外 ，还能适应环境的变化，即在蚁群运动的路线上突然出现 障碍物时，蚂蚁能够很快地重新找到最短路径。4.3
11、 4.3 蚁群算法蚁群算法蚁群算法是一种基于群体的、用于求解复杂优化问 题的通用搜索技术。与真实蚂蚁的间接通讯相类似，蚁 群算法中一群简单的蚂蚁(主体)通过信息素(一种分布式 的数字信息，与真实蚂蚁的外激素相对应)进行间接通讯，并利用该信息和与问题相关的启发式信息逐步构造问 题的解。所谓基本蚁群算法，指的是经典的ACS(Ant Colony System)算法，它具有当前很多种类的蚁群算法最基本的共同特征，后来一系列的改进蚁群算法都以此为基础。4.3 4.3 蚁群算法蚁群算法粒子群优化（Particle Swarm Optimization, PSO）算法是由Kennedy和Eberhart于
12、1995年提出的一种优化算法。PSO算法的运行机理不是依靠个体的自然进化规律，而是对生物群体的社会行为进行模拟，它最早源于对鸟群觅食行为的研究。在生物群体中存在着个体与个体、个体与群体间的相互作用、相互影响的行为，这种行为体现的是一种存在于生物群体中的信息共享的机制。4.4 4.4 粒子群优化算法粒子群优化算法初始化一群随机粒子（随机解）每次迭代中，粒子通过跟踪两个极值更新自己： 粒子本身找到的历史最后解（个体极值点pbest） 整个种群目前找到的最好解（全局极值点gbest）需要计算粒子的适应值，以判断粒子位置距最优点的距离 。 每次迭代中，根据适应度值更新pbest和gbest。迭代中止条
13、件：设置最大迭代次数或全局最优位置满足预 定最小适应阈值。 4.4 4.4 粒子群优化算法粒子群优化算法开始初始化粒子群计算每个粒子的适应度根据适应度更新pbest、gbest，更新粒子位置速度结束noyes达到最大迭代次数或 全局最优位置满足最小界限？4.4 4.4 粒子群优化算法粒子群优化算法4.5 4.5 模糊逻辑模糊逻辑模糊系统辨识的问题分类 1、静态系统的辨识，它包括：1）参数辨识2）结构辨识 2、动态系统的辨识1）结构辨识2）系统行为的辨识 一般情况下的静态模糊辨识问题一般情况下的静态模糊辨识问题在一般情况下，规则具有以下的形式：在一般情况下，规则具有以下的形式：R: If f(x
14、R: If f(x1 1是是A A1 1, , x, xk k是是A Ak k), Then y = g(x), Then y = g(x1 1,x,x2 2,x,xk k) )模糊辨识的基本要求:与传统的辨识方法相比，模糊辨识的特点在于： 1）可以用较少的规则来逼近函数； 2）可以用语言变量来表达。4.5 4.5 模糊逻辑模糊逻辑4.6 4.6 神经网络辨识神经网络辨识本质非线性系统，很难化成最小二乘格式(即关于参数空 间的线性模型)，而使用神经网络进行系统辨识不需要预先建 立实际系统的辨识格式，使非线性系统的辨识成为可能。神经网络对系统进行辨识是通过直接学习系统的输入/输 出数据，学习的目
15、的是使得所要求的误差函数达到最小，从 而归纳出隐含在系统输入/输出数据中的关系。这个关系隐含 在神经网络内部，它究竟表现为何种形式，对外界是不可知 的，并且人们关心的并不是神经网络以什么样的形式去逼近 实际系统，而只要神经网络的输出能够逼近同样输入信号激 励下的输出，则认为神经网络已充分体现出实际系统特性， 完成了对原系统的辨识。基于神经网络的基于神经网络的系统辨识原理系统辨识原理选择适当的神经网络作为被辨识系统P的模型、及逆 模型（P可是线性系统，也可是非线性系统）。辨识过程所选的网络结构确定后，在给定的被辨识系统输 入输出观测数据下，网络通过学习（训练），不断的 调整权系值，使得准则函数为
16、最优。系统模型及逆模型的辨识系统模型及逆模型的辨识模型辨识结构系统模型及逆模型的辨识系统模型及逆模型的辨识逆模型的一般辨识结构逆模型的特殊辨识结构神经网络辨识的特点神经网络辨识的特点(1) 神经网络本质上已是一种辨识模型，其所谓参数则反映在 网络内部的权值上。(2)辨识的结果为网络外部特性拟合系统的输入/输出特性，网络 的内部特性归纳隐含在系统输入/输出数据中的系统特性。(3)辨识的收敛速度不依赖于待辨识系统的维数，只与神经网络 本身及其所采用的学习算法有关。(4)神经网络具有大量连接，其连接权的权值在辨识中对应于模 型参数，通过调节这些参数可使网络输出逼近系统输出。(5)神经网络作为实际系统的辨识模型，实际上也是系统的一个 物理实现，可以用于在线控制。l神经网络自适应控制也可分为模型参考控制 (MRAC)和自校正控制(
