模式识别(第十二章2010)

《模式识别(第十二章2010)》由会员分享，可在线阅读，更多相关《模式识别(第十二章2010)（40页珍藏版）》请在金锄头文库上搜索。

1、第十二章 模糊模式识别方法基础：模糊集理论传统集合论的推广：模糊集集合理论模糊逻辑二值逻辑模糊集理论：对客观事物更合理的抽象和描述。 模糊也是一种不确定性模糊数学：从数学角度研究模糊集与模糊逻辑。模糊数学可应用于很多领域，将其用于模式识别，则形成了模糊模式识别模糊模式识别12.2 模糊集的基本知识模糊集（Fussy Set） ：由隶属度函数uA(x)描述或定义的。其自变量是所有可能属于所有可能属于集合A的对象。隶属度函数：隶属度函数：表征元素x隶属于集合A的程度，用uA(x)表示 uA(x)取值：00，11（完全不属于A ）（完全属于A）uA(x)越接近1，表示x属于A的程度越高，uA(x)越

2、接近0, 则x属于A的程度越低。模糊集可表示为：或：空间X中， 的样本集合称为模糊集 A的支持集S(A),支持集中的元素称作A的元素。显然确定集可看作模糊集的特例的情况例15个学生，其中男生3人，女生2人。A1、A2分 别表示男女生集合，则显然， A1、A2分界分明。但当构成一个表示“有才干的学生”的集合时 ，传统集合难以应用，这是可对每个元素确定一个 数，表示隶属程度例2 有1、2、3、4、5五个数，用模糊集表示“ 大的数”和“小的数”，适当选取隶属度，则有例3：用水的温度表示“开水”用模糊集表示更合理，更接近日常理解传统集合（确定集合）模糊集（模糊集的不确定性是人脑对客观事物的一种主观反映

3、，人的心理过程就是其隶属函数形成的基本过程。）确定隶属度函数的方法：（非常重要）1）根据个人经验和认识（专家确定法）：比较适合于元素离散、有限的情况2）选用典型函数：已有公认的对客观事物真实而本质化的“指标”，可直 接采用这些指标描述问题的不确定性例：S形、形隶属函数 p278可采用常见的模糊分布：矩形分布、分布、正态分布、梯形分布 、三角分布等3）根据统计特性得到的经验曲线：应用较广泛的方法模糊集运算：1）相等：2）包含：B是A的子 集 3）并隶属函数：隶属函数： 也定义为：A的补：A的隶属函数： 图12.3 ：模糊函数的基本运算12.2 模糊特征和模糊分类一、特征模糊化（即特征的变换）将原

4、特征模糊特征；明确分类模糊分类由于类别（本质）和特征（表象）之间可能存在较复杂的 非线性关系，直接利用特征分类识别，必然效果不佳或方法 复杂。为使关系更直接、简单，可将原来特征值域分成若干 部分，并且使各部分特征含义做更本质的变换，于是特征模 糊化。例：将-4，4间的连续变化量转化为模糊量：正大、正小，零、负小、负大首先可将4，-4离散化， 4对应 “正大 ”的隶属度为1。隶属函数若采用三角函数，则可得 不同模糊量的隶属度-4-3-2-101234 正大0000000.30.61.0 正小00000.30.61.00.60.3 零000.30.61.00.60.300 负小0.30.610.6

5、0.30000 负大1.00.60.3000000当读入精确量3.2时，可归入最近的离散值3，则有将精确量转化为模糊量。特征模糊化：用这些新的模糊特征代替原来的特征进行模式识别。例：针对人的体重分类特征：体重可分为：偏轻，中等，偏重三个模糊特征按照一定的模糊规律，把原来的一个或多个特征 分为多个模糊变量，同时配以一定的隶属函数，使其 每个模糊变量表达原来特征的某一局部特性，这些新 特征能更好反映目标的本质，提高分类器性能。可选用图12.4的函数表示隶属函数如：x=75kg ,u中等0.5 , u偏重0.5 x=72kg ,u中等0.8 , u偏重0.2缺点：特征维数增加体重(1维)轻、中、重（

6、3维）优点：准确性增加尽管特征数增多了，却可使分类结果与特征 之间的关系线性化，达到更好的分类效果。原特征变为模糊特征，能更好反映问题的本质二、结果的模糊化 分类是把样本集合分成若干子集，用模糊子集 代替，得到模糊的分类结果，即分类结果模糊化。样本不再是明确的属于每个确定的类别，而是以 不同程度属于各个类别，即：以一定的隶属度属于各 个类别。因此更真实，具有更多信息。例：针对某一区域则隶属程度为：模糊子集A为：表示圆块这一模糊概念优点：1）分类结果比较真实的反映了分类的不确定性，利于决策；2）当分类是多级时，有利于下一级分类（因为模糊的分类结果保留了更多的信息）模糊分类的三个主要步骤：1 1、

7、特征提取：特征提取：将原来普通意义上的特征值变为模糊特征，即从 样本集 中，提取各种模糊特征量；2、建立x属于A的隶属度函数隶属度函数：建立一个明确算法以产生隶属函数uA ， uA的 确定没有普遍的原则，带有主观性、经验性。或 建立元素之间的模糊相似关系，并确定这个 关系的隶属函数，即相关程度；3 3、确定归属准则、确定归属准则进行分类识别模糊分类：使用模糊技术分类，其结果不再使一个样 本明确地属于某一类或不属于某一类，而是以一定的 隶属度属于各个类别，结果更真实，具有更多的信息 。识别基本方法： 最小距离原则（择近原则）； 最大隶属原则。去模糊化： 在此基础上，再按某种归属原则对x 进行判决

8、，指出属哪一类。12.5 模糊聚类方法FCM算法就是在迭代寻优过程中，不断更新各类中心及隶属度的值，直到下列准则函数最小化 模糊模糊C C均值算法（均值算法（FCMFCM）设样本集：欲分成c类为每个聚类中心表示第i个样本对于第j类的隶属函数定义准则函数：即：要求每一个样本xi属于各类的程度总和为1与隶属函数有关的聚类准则函数其中b1，可控制聚类结果的模糊程度（权重）问题：怎样确定mi和 ？约束条件利用拉格朗日乘子法，求Jf 的极值，得：4、比较更新前后的准则函数，以确定更新是否保持。若Jf变化较大，重复3、4的过程，直到Jf不变为止。FCM算法步骤：1、确定聚类数目c和参数b2、初始化各聚类中

9、心mi ，即代表点。（很敏感）3、用迭代算法，更新mi 以及(i) 用当前的聚类中心，计算新的隶属函数(ii)用当前新的隶属函数更新各类的聚类中心当算法收敛后，得到各类的聚类中心和样本属于各类的隶属度值，完成了模糊聚类划分。即每个样本以一定的隶属度属于各个类别。去模糊化：模糊结果转化为确定性分类方法1：择近原则方法2：最大隶属原则所有样本对各类的隶属度总和为n 改进的模糊C均值法：对于野值点样本，属于各类的隶属度都应该很小，但由于 的归一化要求，即，使其对各类都有较大的隶属度（例两类uA(x)=0.5），因此野值点将影响迭代的最终结果，为此放松归一化条件：计算 的公式不变，而 计算式则为对mi

10、初值仍十分敏感，可采用确定性C均值法或普通的模糊C均值法的结果作为初值。改进的FCM其中：Ai表示一个模糊样本类wi分类结果的确定性：（去模糊化）1）择近原则2）最大隶属原则对于给定的x，若有隶属度为：则判x归属于Ai所代表的类，即例：若x属于体重偏轻类Ai， 有对应的某种疾病 类。作为该病的一个判别指标。3）阈值原则：规定一个阈值0,1 ，作为停止条件则判令：若a，则比较与 的大小若有k个即：例：若A1、A2分别代表身高为高、中等，当则x是中高个解释图12.5a)第一种数据分布： 三种方法效果相同b）第二种数据分布： 分类有一定重叠，改 进的模糊C均值法效果 好些c）第三种数据分布： 两类完

11、全重叠。图中 看出，改进的模糊C均 值法能合理给出比预 设数目少的聚类 三种方法比较解释图12.6实际的c=4,设定的c3可见改进的模 糊C均值法能正 确给出3个聚类 中心12.4 特征的模糊评价如何评价所得到的特征用模糊集的模糊程度评价特征对于分类性能的表现1、模糊程度的度量度量一个模糊集的模糊程度很重要，可从总体上反映各 元素属于或不属于一个集合的明确性。uA(x)越接近1或0越不模糊，越接近0.5越模糊 （1）距离模糊度：刻画了一个模糊集的整体模糊程度。其中n是集合A中，uA(x)0的点的个数，即支持 点数目。是包含A中uA(x)0.5的支持点是A与 之间的距离k是一个调节参数，使r(A

12、)值在01之间，随 采用的距离方式不同而变化定义：例：若采用广义汉明距离（k1）-称为线性模糊度若采用欧氏距离（k2）有(2)熵（模糊度）熵（模糊度）定义： 显然 或 时，r(A)和H(A)为最小值(等于0)，即模糊度为0，A为确定集定义的意义：当 时， r(A)和H(A)为最大值(等于1)，模糊程度最大2、如何评价特征提取效果距离模糊度和熵的作用类似于前面章节所定义的类内 类间离散度度量。可利用S形或形隶属函数计算出距离模糊度或熵 ，由此判断特征性能对分类器的影响。（1）利用形隶属函数计算的模糊度和熵类似于类内离散度度量。r(A)和H(A)越小，表明该类这一特征取值较集中 ，有利于分类；反之，越大、越分散，越不利于分类 。当然，还有其它模糊度度量定义（2）利用S形隶属函数计算的模糊度和熵类似于类间离散度度量。r(A)和H(A)越大，表明该类这一特征取值较集中， 有利于分类；反之，越小、越分散，越不利于分类。