模式识别_绪论

《模式识别_绪论》由会员分享，可在线阅读，更多相关《模式识别_绪论（47页珍藏版）》请在金锄头文库上搜索。

1、 模式识别2012年2月22日自动化学院 袁立1出勤：10% 实验：4学时，两个实验，10 考试：80，开卷课程要求*2 教材：张学工等编， 模式识别清华大学出版社，2010年，第3版 参考书： Ruchard O.Duda等 模式分类 （Pattern Classification） 机械工业出版社，2004年课程要求*31.模式与模式识别的概念2.模式识别的主要方法3.监督模式识别与非监督模式识别4.模式识别系统的典型构成5.模式识别系统应用举例第一章第一章 绪论绪论4一、模式识别1.1 模式与模式识别的概念 直观，无所不在 儿童认数字：数字符号的识别 读书看报：文字识别 汽车、火车，狗叫

2、、人语：声音识别 人群中寻找一个人：根据面像、形体或其他特征进行识别 人类的模式识别能力是极其平常的， 时刻在完成某种模式识 别的任务。 随着社会活动以及生产科研的发展，需要识别的对象种类越 来越多，内容越来越复杂和深入，要求越来越高。 为了减轻工作强度，希望计算机代替人来完成识别工作；有 些场合环境恶劣、存在危险或人类不能接近，需要借助机器 、运用分析算法进行识别。*5第一章第一章 绪论绪论*61. 模式识别(Pattern Recognition):使计算机模仿人的感知能力，从感知数据中提取信息（判别物体和 行为）的过程。 模式识别作为一门学科，是研究用机器完成自动识别事物的工作； 研究内

3、容：使计算机做以前只能由人类才能做的事，具备人所具有 的、对各种事物或现象进行分析、描述与判断的部分能力。 模式识别学科形成于5060年代，与众多学科有联系，尤其与人工智 能和图像处理关系密切。1.1 模式与模式识别的概念2. 模式与模式类： l 模式：需要识别且可测量的对象的描述。 这些对象与实际的应用有关，如：字符识别的模式每个字符图像人脸识别的模式每幅人脸图像 l 模式类：当用一定的度量来衡量两个模式，而找不出它们之间的差别时， 它们在这种度量条件下属于同一等价类，就说它们是同一模式类。 例如：数字识别有10个类别，每个数字就是一个类。 不同模式类之间是可以区分的，应有明确界限。*71.

4、1 模式与模式识别的概念3. 识别最基本的方法：计算计算机根据已研制的识别算法，把输入的未知模式划入正确类 别中，从而实现自动分类。识别算法中的关键环节就是要对待 识别事物与标准 “模板”的相似程度进行计算。特征向量表示法：将对事物进行度量的指标排成向量的形式。一维表示 X1=1.5 X2=3 二维表示X1=(x1,x2)T=(1,2)TX2=(x1,x2)T=(2,1)T三维表示X1=(x1,x2, x3)T=(1,1,0)TX2=(x1,x2 , x3)T=(1,0,1)T苹果（重量，直径，颜色 ） 4. 模式描述方法图像的向量表示方法：在计算机里分析的称为数字图像，它由排列整齐的二维网格

5、组成，分 为若干行与若干列，相当于一个二维数组，或称矩阵。我们称每个元 素为像素。 左图为57的数字图像； 一个数字就用57共35个网格是黑是白来表示； 如令是黑为“1”，是白为“0”，那么一个数字就可用 35维的二进制向量表示。这就是典型的特征向量表示 法 1.1 模式与模式识别的概念结构表示法：由事物的组成成分与相互关系表示 在右侧的图中八个基元分别表示 0，1，2，3，4，5，6，7，八个方向 和基元线段长度。 则右侧样本可以表示为 X1=006666 这种方法将在句法模式识别中用到。二、模式识别简史 1929年 G. Tauschek发明阅读机 ，能够阅读0-9的数字。 30年代 Fi

6、sher提出统计分类理论，奠定了统计模式识别的基础。统计模式 识别是模式识别的主要理论。 50年代 Noam Chemsky 提出形式语言理论傅京荪 提出句法结构模式识 别。 60年代 L.A.Zadeh提出了模糊集理论，模糊模式识别方法得以发展和应用 。 80年代以Hopfield网、BP网为代表的神经网络模型导致人工神经元网络复 活，并在模式识别得到较广泛的应用。 90年代小样本学习理论，支持向量机受到了很大的重视。 2000年，流形学习（manifold learning）：流形学习就是从高维采样数据 中恢复低维流形结构，即找到高维空间中的低维流形，并求出相应的嵌入 映射，以实现维数约简

7、或者数据可视化. 2005年，稀疏表示（sparse representation）：近年来有关生理学的研究 成果表明：人类的视觉系统具有对图像的稀疏表示特性,神经元对于输入图 像的激活机制具有高度的稀疏性.1.1 模式与模式识别的概念三.关于模式识别的国内、国际学术组织 1973年 IEEE发起了第一次关于模式识别的国际会议“ICPR”，成立了 国际模式识别协会-“IAPR”，每2年召开一次国际学术会议。 1977年 IEEE的计算机学会成立了模式分析与机器智能（PAMI）委员会 ，每2年召开一次模式识别与图象处理学术会议。 国内组织：中国自动化学会：模式识别与机器智能(PRMI)专业委员会

8、 ，1981年成立，IAPR成员组织；人工智能与模式识别专业委员会；中 国人工智能学会 国内学术机构：中科院模式识别国家重点实验室，中科院计算所，微 软研究院，清华大学等。*101.1 模式与模式识别的概念模式识别学科位置模式识别：计算机科学与电子工程交叉学科 中国：“控制科学与工程”一级学科 二级学科：控制理论与控制工程、模式识别与智能系统、系统工程 等 西方：没有自动控制系 自动控制：电子工程系、机械工程系 模式识别：电子工程系、计算机科学系四、模式识别的应用 多媒体数据检索（文档、图像、视频、音乐检索 ） 字符识别（印刷体字符的识别；手写体字符的识别（脱机/联机 ），信函分拣、支票查对、

9、自动排板、稿件输入等） 医疗诊断（心电图，脑电图，染色体，癌细胞识别，疾病诊断 等） 工程（产品缺陷检测、自动导航系统、污染分析） 军事（航空摄像分析、雷达和声纳信号检测和分类、自动目标 识别等） 安全监控（基于生物特征的身份识别、视频监控、交通监控、 音视频监听）1.1 模式与模式识别的概念现有生物特征识别类型*121.1 模式与模式识别的概念1.2 模式识别的主要方法l 基于知识的方法 (Knowledge-based) AI、专家系统(Expert Systems) 句法（结构）模式识别 (Syntax PR or Structural PR) （基于结构性描述） l基于数据的方法 (D

10、ata-based) 统计模式识别方法（Statistical PR）（基于特征向量表 示方法） 人工神经网络(ANN) 支持向量机(SVM)统计模式识别方法：在确定了描述样本所采用的特征之后 ，收集一定数量的已知样本，用这些样本作为训练集来训 练一定的模式识别机器，使之在训练后能够对未知样本进 行分类。这是基于数据的机器学习中研究最多的一个方向 。统计模式识别用函数表示： Y = F(X) X的定义域取自特征集 Y的值域为类别的标号集 F是模式识别的判别方法 有监督模式识别分类（classification） 给出若干已知答案的样本（训练样本 training samples ） 由机器从这

11、些样本中进行学习（训练 training/learning ） 学习的目的在于从这些样本中总结规律，使之能够对新 的样本进行判断 无监督模式识别聚类（clustering） 所面对的只有未知答案的样本 由机器从这些样本中进行学习（自学习） 学习的目的在于从这些样本中发现规律，这种规律应该 是某种固有的关系，或者依据这种规律对对象的分类有 某种功用1.3 监督模式识别与非监督模式识别1. 模式识别系统：执行模式识别的计算机系统。1.4 模式识别系统的典型构成2. 模式识别系统组成：信息获取与预处理，特征提取与选择、 分类或聚类、后处理等四个部分。第一章第一章 绪论绪论1.4 模式识别系统的典型构

12、成1.4 模式识别系统的典型构成1.4 模式识别系统的典型构成监督模式识别系统组成：数据获取，预处理，特征提取选择、 分类器设计以及分类决策五部分。训练过程：对作为训练样 本的量测数据进行特征选 择与提取，得到它们在特 征空间的分布，依据这些 分布决定分类器的具体参 数，也就是设计分类器的 过程。识别过程：分类决策的过 程，则是在特征空间中用 统计方法把被识别对象归 为某一类别。3. 监督模式识别系统构成及功能（1）信息获取：用不同形式的传感器构成，实现信息获取与信 息在不同媒体之间的转换，非电信号转换成电信号。 用话筒将声音信号转换成电信号，表现出电压(电流)随时 间变化的复杂波形。 景物信

13、息在摄像机靶面成像并转换成二维的象素矩阵，每 个像素(矩阵元素)的电信号与物体表面反射的光强或颜色信 息呈现函数关系一般输入对象的信息有三种类型： 二维图象，如文字、指纹、地图、照片等 一维波形，如脑电图、心电图、机械震动波形等 物理参量和逻辑值，如疾病诊断中病人体温，各种化 验数据；或对症状有无描述，如疼与不疼（0/1）1.4 模式识别系统的典型构成（2）预处理 去除所获获取信息中的噪声，增强有用的信息，及一切必要的使信 息纯纯化的处处理过过程。 预处预处 理这这个环节环节 内容很广泛，与要解决的具体问题问题 有关，例如 ，从图图象中将汽车车车车 牌的号码识别码识别 出来，就需要先将车车牌从

14、图图 像中找出来，再对车对车 牌进进行划分，将每个数字分别别划分开。做 到这这一步以后，才能对对每个数字进进行识别识别 。以上工作都应该应该 在 预处预处 理阶阶段完成。 （3）特征选择和提取 p功能：对对所获获取的信息实现实现 从测测量空间间到特征空间间的转换转换 。 将所将所获获获获取的原始量取的原始量测测测测数据数据转换转换转换转换 成能反映事物本成能反映事物本质质质质，并将其最有效分，并将其最有效分 类类类类的特征表示的特征表示。 输输入：原始的量测测数据(经过经过 必要的预处预处 理)，例如由声波变变 换换成的电电信号，表现为电压电现为电压电 流幅度随时间时间 的变变化，二维图维图

15、像每个像素所具有的灰度值值等。 输出：将原始量测测数据转换转换 成有效方式表示的信息，从而使分 类类器能根据这这些信息决定样样本的类别类别 。 1.4 模式识别系统的典型构成l特征选择和提取:选择什么样的方法来描述事物，从而可以有效、牢靠地把事物正确地区分开。如令是黑为“1”，是白为“0”，那么一个数字就可用35维 的二进制向量表示。这就是典型的特征向量表示法。另一种方法则是将数字用笔划表示，也就是将它分成一横加上一斜杠表 示。这种表示方法属于结构表示法范畴。这种方法没有前一种方法的缺 点，但提取这种结构信息也不是一件容易方便的事。 缺点：这种表示与网格的尺寸有关，与字的笔划粗细有关， 更主要

16、的是字在网格中的不同位置与转向有关。这个字在网 格中略为偏一点，其特征向量表示就会有很大的不一样。这 就说明了这种表示的稳定性差。 例：印刷体数字大多通过扫描仪输入，或从图像中获取。这样，一个数字往往用 一个NM的数组表示。如果N5，M7，则一个数字就用57共35个网格是黑是 白来表示。1.4 模式识别系统的典型构成（4）分类器设计与分类决策分类类器设计设计 ：将该该特征空间间划分成由各类类占据的子空间间 ，确定相应应的决策分界和判决规则规则 ，使按此类类判决规则规则 分类时类时 ，错误错误 率最低。把这这些判决规则规则 建成标标准库库。 分类类决策：分类类器在分界形式及其具体参数都确定后，用 相应应的决策分界对对待