《自组织竞争神经网络》由会员分享，可在线阅读，更多相关《自组织竞争神经网络（42页珍藏版）》请在金锄头文库上搜索。
1、第 四 章 自 组 织 神 经 网 络4.1竞 争 学 习 的 概 念 与 原 理4.2自 组 织 特 征 映 射 神 经 网 络自 组 织 神 经 网 络 的 典 型 结 构第 四 章 自 组 织 神 经 网 络竞 争 层输 入 层第 四 章 自 组 织 神 经 网 络自 组 织 学 习 (self-organized learning) ：通 过 自 动 寻 找 样 本 中 的 内 在 规 律 和 本质 属 性 ， 自 组 织 、 自 适 应 地 改 变 网 络 参 数与 结 构 。自 组 织 网 络 的 自 组 织 功 能 是 通 过 竞 争学 习 （ competitive learn
2、ing） 实 现 的 。4.1竞 争 学 习 的 概 念 与 原 理4.1.1 基 本 概 念分 类 分 类 是 在 类 别 知 识 等 导 师 信 号 的 指导 下 ， 将 待 识 别 的 输 入 模 式 分 配 到 各 自 的模 式 类 中 去 。聚 类 无 导 师 指 导 的 分 类 称 为 聚 类 ， 聚 类的 目 的 是 将 相 似 的 模 式 样 本 划 归 一 类 ， 而将 不 相 似 的 分 离 开 。相 似 性 测 量 欧 式 距 离 法)()( iTii XXXXXX =类 1 类 2 T(a)基 于 欧 式 距 离 的 相 似 性 测 量4.1.1 基 本 概 念相 似
3、性 测 量 余 弦 法4.1.1 基 本 概 念iiTXXXX=cos2 类 1 类 2 TT (b)基 于 余 弦 法 的 相 似 性 测 量4.1.2 竞 争 学 习 原 理竞 争 学 习 规 则 Winner-Take-All(胜 者 为 王 )网 络 的 输 出 神 经 元 之 间 相 互 竞 争 以 求 被激 活 ， 结 果 在 每 一 时 刻 只 有 一 个 输 出 神 经 元被 激 活 。 这 个 被 激 活 的 神 经 元 称 为 竞 争 获 胜神 经 元 ， 而 其 它 神 经 元 的 状 态 被 抑 制 ， 故 称为 Winner Take All。竞 争 学 习 规 则
4、Winner-Take-All1.向 量 归 一 化 首 先 将 当 前 输 入 模 式 向 量 X和 竞 争 层 中 各 神 经 元 对 应 的 内 星 向 量 Wj 全部 进 行 归 一 化 处 理 ； (j=1,2,m)Tnjjnnjj xxxx= 12121 .XXX向 量 归 一 化 之 前前* *向 量 归 一 化 之 后后*竞 争 学 习 原 理竞 争 学 习 规 则 Winner-Take-All2.寻 找 获 胜 神 经 元 当 网 络 得 到 一 个 输 入 模 式 向 量时 ， 竞 争 层 的 所 有 神 经 元 对 应 的 内 星 权 向 量 均 与 其 进行 相 似
5、性 比 较 ， 并 将 最 相 似 的 内 星 权 向 量 判 为 竞 争 获胜 神 经 元 。欲 使 两 单 位 向 量 最 相 似 ， 须 使 其 点 积 最 大 。 即 ：)(max,.,2,1*XWXW TjmjTj = jmjjWXWX min,.,2,1*=)()( * jTj j WXWXWX =TjTjTjT*2 WWXWXX += )1(2* XWTj=竞 争 学 习 规 则 Winner-Take-All从 上 式 可 以 看 出 ， 欲 使 两 单 位 向 量 的 欧 式 距 离最 小 ， 须 使 两 向 量 的 点 积 最 大 。 即 ：)(max,.,2,1*XWXW
6、 TjmjTj =由于单位化，所以表现为夹角越小，则距离越小竞 争 学 习 规 则 胜 者 为 王 (Winner-Take-All)3.网 络 输 出 与 权 值 调 整=+*01)1(jjjjtoj)()()()()1( * jjjjj tttt WXWWWW +=+=+ )()1( tt jj WW =+ jj*步骤 3完成后回到步骤 1继 续 训 练 ， 直 到 学 习 率衰 减 到 0。*竞 争 学 习 的 几 何 意 义竞 争 学 习 的 几 何 意 义* 1W * jW * )()()()( * tttt jp WXW =* )( * 1tj +W)( tpXjW mW* *例
7、4.1 用 竞 争 学 习 算 法 将 下 列 各 模 式 分 为 2类 ：=6.08.01X= 9848.01736.02X=707.0707.03X= 9397.0342.04X=8.06.05X解 ： 为 作 图 方 便 ， 将 上 述 模 式 转 换 成 极 坐 标 形 式 ：o89.3611 =X o8012 =X o5.4413 =X o7014 =X o13.5315 =X竞 争 层 设 两 个 权 向 量 ， 随 机 初 始 化 为 单 位 向 量 ：o0101)0(1 =W o180101)0(2 =WO1O2W1=(w11,w12)W2=(w21,w22)x1x2x5x3x
8、1w2 w1x2 x4训 练次 数 W 1 W 21234567891 01 11 21 31 41 51 61 71 81 92 01 8 . 4 3 - 3 0 . 8 7 - 3 2 1 1 2 4 2 4 3 4 3 4 4 4 4 0 . 5 4 0 . 5 4 3 4 3 4 7 . 5 4 2 4 2 4 3 . 5 4 3 . 5 4 8 . 5 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 3 0 - 1 3 0 - 1 0 0 - 1 0 0 - 1 0 0 - 9 0 - 9 0 - 8 1 - 8 1 - 8 1
9、 - 8 0 . 5 - 8 0 . 5 - 7 5 - 7 5 x5x3x1w2x2 x4w1训 练次 数 W 1 W 21234567891 01 11 21 31 41 51 61 71 81 92 01 8 . 4 3 - 3 0 . 8 7 - 3 2 1 1 2 4 2 4 3 4 3 4 4 4 4 0 . 5 4 0 . 5 4 3 4 3 4 7 . 5 4 2 4 2 4 3 . 5 4 3 . 5 4 8 . 5 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 3 0 - 1 3 0 - 1 0 0 - 1 0 0
10、- 1 0 0 - 9 0 - 9 0 - 8 1 - 8 1 - 8 1 - 8 0 . 5 - 8 0 . 5 - 7 5 - 7 5 x5x3x1w2x2 x4w1训 练次 数 W 1 W 21234567891 01 11 21 31 41 51 61 71 81 92 01 8 . 4 3 - 3 0 . 8 7 - 3 2 1 1 2 4 2 4 3 4 3 4 4 4 4 0 . 5 4 0 . 5 4 3 4 3 4 7 . 5 4 2 4 2 4 3 . 5 4 3 . 5 4 8 . 5 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1
11、 8 0 - 1 3 0 - 1 3 0 - 1 0 0 - 1 0 0 - 1 0 0 - 9 0 - 9 0 - 8 1 - 8 1 - 8 1 - 8 0 . 5 - 8 0 . 5 - 7 5 - 7 5 x5x3x1w2x2 x4w1训 练次 数 W 1 W 21234567891 01 11 21 31 41 51 61 71 81 92 01 8 . 4 3 - 3 0 . 8 7 - 3 2 1 1 2 4 2 4 3 4 3 4 4 4 4 0 . 5 4 0 . 5 4 3 4 3 4 7 . 5 4 2 4 2 4 3 . 5 4 3 . 5 4 8 . 5 - 1 8
12、0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 3 0 - 1 3 0 - 1 0 0 - 1 0 0 - 1 0 0 - 9 0 - 9 0 - 8 1 - 8 1 - 8 1 - 8 0 . 5 - 8 0 . 5 - 7 5 - 7 5 x5x3x1w2x2 x4w1训 练次 数 W 1 W 21234567891 01 11 21 31 41 51 61 71 81 92 01 8 . 4 3 - 3 0 . 8 7 - 3 2 1 1 2 4 2 4 3 4 3 4 4 4 4 0 . 5 4 0 . 5 4 3 4 3 4 7 . 5 4
13、 2 4 2 4 3 . 5 4 3 . 5 4 8 . 5 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 3 0 - 1 3 0 - 1 0 0 - 1 0 0 - 1 0 0 - 9 0 - 9 0 - 8 1 - 8 1 - 8 1 - 8 0 . 5 - 8 0 . 5 - 7 5 - 7 5 x5x3x1w2x2 x4w1训 练次 数 W 1 W 21234567891 01 11 21 31 41 51 61 71 81 92 01 8 . 4 3 - 3 0 . 8 7 - 3 2 1 1 2 4 2 4 3 4 3 4
14、4 4 4 0 . 5 4 0 . 5 4 3 4 3 4 7 . 5 4 2 4 2 4 3 . 5 4 3 . 5 4 8 . 5 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 3 0 - 1 3 0 - 1 0 0 - 1 0 0 - 1 0 0 - 9 0 - 9 0 - 8 1 - 8 1 - 8 1 - 8 0 . 5 - 8 0 . 5 - 7 5 - 7 5 x5x3x1w2x2 x4w1训 练次 数 W 1 W 21234567891 01 11 21 31 41 51 61 71 81 92 01 8 . 4 3 - 3 0 . 8 7 - 3 2 1 1 2 4 2 4 3 4 3 4 4 4 4 0 . 5 4 0 . 5 4 3 4 3 4 7 . 5 4 2 4 2 4 3 . 5 4 3 . 5 4 8 . 5 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 8 0 - 1 3 0 - 1 3 0 - 1 0 0 - 1 0
