模式识别(第十二章)

《模式识别(第十二章)》由会员分享，可在线阅读，更多相关《模式识别(第十二章)（9页珍藏版）》请在金锄头文库上搜索。

1、第十二章 模糊模式识别方法（简介） 12.1 引言 L.A. Zadeh, Fuzzy sets, Intormation & Control, v.8, pp.338-353 1965 确定集合（脆集合） ：元素或者属于或者不属于集合 模糊集合： 元素以一定的程序属于某集合， 适于表在自然语言变量和常识性知识 几种叫法：模糊集、模糊逻辑、模糊数学、模糊系统、模糊技术、模糊方法 与其它技术相结合：模糊神经网络、模糊控制、模糊模式识别 12.2 模糊集的基本知识 隶属度函数)(xA：x属于集合A的程度 自变量：所有可能属于A的对象，空间 xX =。 值域：0，1，1)(0xA 1)(=xA Ax

2、 0)(=xA Ax 模糊集合：一个定义在 xX =上的隶属度函数就定义了一个模糊集合A， 或称定义在空间 xX =上的模糊子集，表示为： ()iiAxxA),(= 或 iiixA/U=模糊集A的支持集 0)(,)(=xXxxASA 例：“开水”概念的表达 常见单变量隶属度函数形式： 模糊集的运算： 并：BACU= )(),(max)(xxxBAc= 交：BACI= )(),(max)(xxxBAc= 补：AC= )(1)(xxAc= 多变量隶属度函数：可定义为多个单变量隶属度函数的张量积。 TdxxxX,21L=， iA为对应ix的模糊集 )()()()(2121dAAAAxxxx dL=

3、模糊推理：基于模糊集运算和模糊规则的推理。 12.3 模糊特征和模糊分类 12.3.1 模糊化特征 基本思想：根据一定的模糊化规则 把原来的一个（或几个）特征变量分成多个模糊变量， 使每个模糊特征表达某一局部特性， 利用这些新特征来进行模式识别。 例： 原特征：体重 新特征：“偏轻”、 “中等”、 “偏重” “1-of-N”编码，常用于 FNN 中 目的： ? 更好地反映问题的本质。 ? 原来的非线性问题可能变成线性问题。 ? 有效利用了人的知识。 12.3.2 结果的模糊化 使分类器输出不是硬分类，而是给出属于各类的程度。 优点：1. 更好表达分类结果中的不确定性因素，利于根据结果进行决策。

4、 2. 利于后期进一步处理和分析。 结果模糊化的方法：结合知识和所用分类器确定。 如：依据样本离类别中心的距离，离分类面的距离， 与已知样本或类别中心之间相似性度量， 神经网络输出值的大小 等等。 12.4 特征的模糊评价 12.4.1 模糊程度的度量 模糊度、熵、度，用于考查一个模糊集的模糊程度 12.4.2 特征的模糊评价 基本思想： 根据各类已知样本对各个特征定义某种隶属度函数，构造相应的模糊集，用它们的模糊程度定义某种评价指标，用来考查特征的分类性能。 12.5 模糊聚类方法 12.5.1 模糊 C 均值方法（FCM） C 均值方法： 把n个样本划分到C个类中，使各样本与其所在类的均值

5、的误差平方和 21i yciemyJi= =最小。 把硬分类变成模糊分类，即得模糊C均值方法。 符号约定： 样本集 nii, 2 , 1,L=x 聚类中心jm，cj, 2 , 1L= )(ijx：第i个样本对于第j类的隶各度函数。 聚类损失函数 211)(jib ijnicjfJmxx= =其中，1b可控制聚类结果的模糊程度。 模糊聚类： fJmin 对不同的隶属度定义，就得到不同的模糊聚类方法。 模糊C均值，要求 1)(1= =ijcjx，ni, 1L= 求解：令 0=jfJm 和 0)(=ijfJx，可得 b ijniib ijni j )()(11xxx m =，cj, 1L= ()()

6、1/(121)1/(1211)( = bkickbji ij mxmxx，cj, 1L=，ni, 1L= 模糊C均值算法： （0）设定聚类数目c和常数b （1）初始化各聚类中心jm，cj, 1L=（可参考第十章方法） （2）重复下面的运算，直到各)(ijx稳定： 2.1 用当前的jm计算)(ijx 2.2 用当前的)(ijx计算jm （3）如需要，可对所有模糊聚类去模糊化 12.5.2 改进的模糊 C 均值算法（AFC） 模糊C均值算法的一个缺点： 由于1)(1= =ijcjx，故对某些野值（本应属于各类的程度都很小） ，隶属度可能较大，如： 改进：放松归一化条件为： nijnicj= =)(

7、11x 于是 bijniib ijni j )()(11xxx m =，cj, 1L= （不变） ()()1/(1211)1/(1211)( = bklnlckbji ijnmxmxx，cj, 1L=，ni, 1L= 算法步骤与模糊C均值相同。 注意： AFC 所得的)(ijx可能大于 1，不是严格意义下的隶属度函数。 必要时可做归一化。 特点： ? AFC 有更好的鲁棒，且对给定的聚类数目不十分敏感。 ? 但有时可能会出现一个类中只包含一个样本的情况， 可通过在距离计算中引入非线性，使之不会小于革值来改进。 ? AFC、FCM 与 C 均值一样，依赖于初值。 实验效果举例 例一：类别重迭及类别不明显情况 +：C 圴值 ：FCM O：AFC 例二：给定类别数与实际类别数不一致的情况 12.6 模糊k近邻分类器 k近邻的一个问题： 当样本较稀疏时，只考虑样本近邻顺序而不考虑距离远近是不适当的。 模糊k近邻： 在得到x的k个近邻kii, 1,L=x后， 用隶属度函数计算x属于各类的程度： )1/(21)1/(2111)( )( = = b inlb iijki ij xxxxx x ，cj, 1L= 其中，)(ijx是ix属于第j类的隶属度值。如已知样本确定性分类的，则取 0 或 1。b的作用于模糊 C 均值中类似。