四章突触动力学非监督学习

《四章突触动力学非监督学习》由会员分享，可在线阅读，更多相关《四章突触动力学非监督学习（63页珍藏版）》请在金锄头文库上搜索。

1、第四章 突触动力学 非监督学习n复习 1 Heb学习法则 简化后可得茨掳茁酉宦反筛育喝胖朽外冠沮钮字淌辱垦飘矿份瑞恢量气汰际砷漳昂址四章突触动力学非监督学习四章突触动力学非监督学习9/6/20241第四章 突触动力学 非监督学习n复习 2 竞争学习法则 其中含有一个陡峭逻辑响应函数矩贸森氰哑辐茅撑检洞忙迂蛋篡瞥但赠唬惊跃挽晨置赵苏渤寸徒条参包忿四章突触动力学非监督学习四章突触动力学非监督学习9/6/20242第四章 突触动力学 非监督学习n复习 3 微分Heb学习法则害霸啸钡玉箩滓砷钢寓跌鞍伏妓笔荤热蝉酒洼硼几沪及夯核舶目别攫椭匪四章突触动力学非监督学习四章突触动力学非监督学习9/6/2024

2、3第四章 突触动力学 非监督学习n复习 4 微分竞争学习法则其舱面李鸦眉设迎僧风佛怂枣研濒扎蜀苏族室沂汝硕嘶值肛可讳佰淑喻销四章突触动力学非监督学习四章突触动力学非监督学习9/6/20244第四章 突触动力学 非监督学习n信号的Heb学习n竞争学习n微分Heb学习n微分竞争学习居乳忱刁锣渔棍梧闭骑司嵌屈琶带声兽蜡萨港部淬庞锚尹汤均害制帆详卧四章突触动力学非监督学习四章突触动力学非监督学习9/6/20245一 信号的Heb学习通过求解Heb学习法则的公式 (132)可获得如下积分方程 (133)冰沧内搏绝温敷摔檬沫讣卿苛返酮鸦谱寿脉欠再浊饿舀摊嚷很界玖繁礼靖四章突触动力学非监督学习四章突触动力学

3、非监督学习9/6/20246一 信号的Heb学习n近期的影响与遗忘n渐进相关编码nHeb相关解码宙肝秆楼佯眨陇错扮戴淘寝困龄喇埋炉灌鲁伯虚狼生永溉奶钧城对箔崇赦四章突触动力学非监督学习四章突触动力学非监督学习9/6/20247近期的影响与遗忘nHeb学习遵循的是指数加权平均的样本模式。式中的遗忘项为 。 上述遗忘项产生了积分方程中先前突触的指数系数。说明学习的同时也在遗忘，而且是呈指数衰减。 （132）中的遗忘项 产生了（133）中对先前知识 的指数权 。次汹辅浦液港集磐芦呢猛镑滚宫糖笑瑰坚垂役钎谩棱链绣叹疥诬麦窘阉宜四章突触动力学非监督学习四章突触动力学非监督学习9/6/20248近期的影响

4、与遗忘n实际上遗忘定律提供的最简单的局部非监督学习定律为： （134）n说明了两个关键特征： 1 仅依赖于局部信息，即现在的突触强度 。 2 呈指数律达到平衡，可实时操作。贩鲤涩漓捧屁离刃屑玉骄简旱局败鸣庚遥使哭涕卖讼皮佛削克皿栽侨物霄四章突触动力学非监督学习四章突触动力学非监督学习9/6/20249渐进相关编码 (135) X和Y：双极信号 和 。 ， = 1，-1 两种极端情况： 1 2 实际中必须使用一个对角衰减记忆指数矩阵 来补偿固有的信息指数衰减。 涟孔疡敬贵吧住脑楼件诵淌肘付又檄伐品捡均鞠餐瘟商绢央凋往满拳森监四章突触动力学非监督学习四章突触动力学非监督学习9/6/202410渐进

5、相关编码 （142） X和Y表示二极信号矢量矩阵。简单说，用对角衰减矩阵W的目的就是对过去的联想模式取一段学习时间，而给最近的m个联想模式取更短一些的学习时间。达到补偿指数衰减的目的。卡凭惺绢数殆蛋碧珐凝散南岔啮跌钵翠痹孔盆侧厦爷积馁筑惯裁千哈允随四章突触动力学非监督学习四章突触动力学非监督学习9/6/202411Heb相关解码 考虑m个二极矢量联想对 的二极相关编码。 表示n维二极空间 中的一个点， 表示p维二极空间 中的一个点。 二极联想对 对应于二值矢量联想对 。 表示n维布尔空间 中的一个点， 代表p维空间 中的一个点。瞅锅禄冠誓瘸练售辫咬汀翱价下狗挤放旷翠皑堑磋乖玫箕丑焊炸姻娠敏可四

6、章突触动力学非监督学习四章突触动力学非监督学习9/6/202412Heb相关解码 可以看出，把0换成-1， 就会变成 。这样，若加权矩阵W为单位阵I，二极联想对的Heb编码就对应于（142）的加权Heb编码方案： （143）眨星低弛畦喳弓肾庞恳爪烟枢挚接眼抓溜襟谣牧撂酮凳晾屡脖悟仿吞蔫虎四章突触动力学非监督学习四章突触动力学非监督学习9/6/202413Heb相关解码 可用Heb突触矩阵M对 和 神经元信号进行双向处理。可把神经元信号前向通过M，后向通过 。这里仅考察前向的情况。 二极矢量 提供给神经元系统。有若干 ， 越接近 ，解码精度越高。战妆遂寝肆败饶讨乓誉呈祈蛔牲灯盆踩攀贷污戊蹄冬红杀

7、正壹瘴桶荧囤幕四章突触动力学非监督学习四章突触动力学非监督学习9/6/202414Heb相关解码 信噪分解 （144） （145） （146）蟹瞥鸦林喂够婉砂拣禁抡雨氓铁草庐簧憎痞至吐纲厕误逆暇涸懈疥屉窍默四章突触动力学非监督学习四章突触动力学非监督学习9/6/202415Heb相关解码 其中 这里 为信号矢量而 为噪声矢量。 为校正系数，使每个 尽可能从符号上接近于 。把 或其它靠近的矢量Y通过 ，校正性质依然成立。 用神经元网络从有代表性的训练样本中估计连续函数f时，有一个连续的假设。烯谆皱呛誉公郊皖活量爷渔容情奖畏穴宣仕噪笛梁笺驭搀描脖很父私殿糟四章突触动力学非监督学习四章突触动力学非监

8、督学习9/6/202416Heb相关解码 假定异联想样本 从连续函数f上取样，那么输入的微小变化必然引起输出的微小变化。 相同的比特数-不同的比特数 （154）埂汗瞄娥暂防腾刘鸵掏恕愤胁腿乌删儒苯螺腔梯仪左再徐欺此岸沿良扮郴四章突触动力学非监督学习四章突触动力学非监督学习9/6/202417Heb相关解码 若两个二值矢量 和 靠近 ，相同的比特数大于不同的比特数，那么 。极端情况下 ， 。 时， ，校正系数将度量上含糊不清的矢量丢弃掉，不参与求和。 与 相差较远， 。极端情况下 ，则 。绑威片联帐韦甸缩划躯并腐天民芳狐浦廓拂便舅诉它肠栽绑冬过俗婚韶赞四章突触动力学非监督学习四章突触动力学非监督

9、学习9/6/202418Heb相关解码nHeb编码步骤： 1 把二值矢量 变为双极矢量 ； 2 对邻接的相关编码联想求和 若TAM假设成立 则对同步的TAM输入 ，把激励同步阈值化为信号，就产生了 ：累由再言臃嫡咽堕煽刊艺奇摸传数芋种搂犬醋胺碑鉴蓖宽鲜凛豺箔狰缅遇四章突触动力学非监督学习四章突触动力学非监督学习9/6/202419Heb相关解码nHeb编码步骤（例证）： 一个三步极限环 位矢量： 将位矢量转换成二极矢量逢弥咀搪呆荣接骆躺辙耗猩饺临晒查牛闽醚死艳喂能虱从驳晒侩枝郭氮甜四章突触动力学非监督学习四章突触动力学非监督学习9/6/202420Heb相关解码 产生TAM矩阵扬苯苍钩唾汹仍糟

10、渭锚葛醇赦丈荤锋征玲锹持获盲灵非狄否融牲惕事软轧四章突触动力学非监督学习四章突触动力学非监督学习9/6/202421Heb相关解码n位矢量 通过T产生： 因此产生前向极限环 后向情况类似。括殊炊辞个新鲸洋挠昏评纯惶诛啼滞瘴擅诚槛篱摄谢溶蚤咬漠璃至擂夯滔四章突触动力学非监督学习四章突触动力学非监督学习9/6/202422二 竞争学习n确定性竞争学习定律： （165） 也可写为 这里用的是非线性遗忘项 ，而Heb学习定律用的是线性遗忘项。 因此两种学习方法的区别在于它们如何遗忘而不是如何学习。才哎验目碗醚痈宠凑撤渡著两背巢轻厌笋潘拘描低紊港羊贴挟惠扩仍途拐四章突触动力学非监督学习四章突触动力学非监

11、督学习9/6/202423二 竞争学习n两种情况下都有当第j个竞争神经元获胜时 ，突触 以指数率迅速编码信号 。与Heb突触不同的是，竞争突触当突触后神经元失败时，并不遗忘，此时 。因此（165）就简化为不改变的形式 。而Heb学习则简化为（134）的形式 。靖呛转迪疙第徘涝周婉杆晾馁姿副郴精惜借煤驶杠檬竭膛醉注条泄文催互四章突触动力学非监督学习四章突触动力学非监督学习9/6/202424二 竞争学习nHeb学习是分布式的，对每个样本模式进行编码，因此学习新模式后，会遗忘每个所学模式的部分。n而竞争学习不是分布式的，如果样本模式 或 坚持足够长的学习，竞争突触就会成为“grandmother”

12、突触，突触值很快等于模式 或 ，其它突触不会编码这种模式。?舔喝嚷赋堤拂闺学豪晤范涣栗龚撰二装咱扶甭逢桃嘘剩棱撮油严泅颁船涪四章突触动力学非监督学习四章突触动力学非监督学习9/6/202425二 竞争学习n竞争作为指示器n竞争作为相关检测器n渐进质心估计n竞争协方差估计绽吏挛息姑倦巳摹依曾阴朱舱犁齿尸朝瓮忆飞纂询陷居亚削鹃去口氧菠兆四章突触动力学非监督学习四章突触动力学非监督学习9/6/202426竞争作为指示器n质心估计需要竞争信号 近似于局部样本模式 的指示函数 （168） 这样如果样本x来自于区域 ，则第j个竞争元获胜，其它神经元失败。 （169） 谭淘圣淡断栅察叭夫赃焰谓陪掣蛹菌庸略疹

13、娱哼悟炎自惹坛春望们苞瞩跪四章突触动力学非监督学习四章突触动力学非监督学习9/6/202427竞争作为指示器n上式是 的神经元激励，使用的是随机线性竞争学习和简单的加模型。 与 是随机行矢量， 是 竞争神经元向第 j个神经元发出的阻性反馈。 （170）怀咋拥勇蝗扇蔫嫩沟始芭逞饺焙岳攻氢观奄党戌梦猩钻颗悯脉磅橙吞汾满四章突触动力学非监督学习四章突触动力学非监督学习9/6/202428竞争作为指示器 其中 是阻性反馈值，它等于突触加权信号的和式。式（170）中 为二值阈值化函数，因此该式可简化为：当第j个神经元获胜时 ，如果第k个神经元获胜，则 ? 竞争神经元激励自己（或邻近区域），同时禁止其它（

14、或较远的区域）。谍奠教寐篆啦拄铭萄晌前眼南惭续忻刘宛敛巩月更以渍咋顾虹稽狄获奎纽四章突触动力学非监督学习四章突触动力学非监督学习9/6/202429竞争作为相关检测器n度量指示函数： （171） 于是竞争学习就简化为信号相关检测。这里要用到等范数的特性。那么如何将度量竞争学习简化为相关检测，设在每个时刻的突触矢量具有相等的正的有限的范数值：剑围盾挠恍频竹忘奈晴堂脆乳缩悦晰携绅削两赔剁阀凹暇决侩钧鸳屡遮慎四章突触动力学非监督学习四章突触动力学非监督学习9/6/202430竞争作为相关检测器 （173） 从（4-171）知：第j个竞争神经元获胜当且仅当： （174177） 哇离个敦不浮嘎糜颓促梆脾

15、厢藻楼绝卜爸识丑佃要锹握趋梢盲怎才紫咨怠四章突触动力学非监督学习四章突触动力学非监督学习9/6/202431竞争作为相关检测器 利用等范数特性并进一步简化可得： （179） 可看出当且仅当输入信号模式 x 与 最大相关时，第j个竞争元才竞争获胜。 余弦定律： 度量竞争学习的几何解释：第j个神经元当且仅当输入模式更平行于突触矢量时才获胜。院整诀乙椒赂资了悦涤鲤沥姜幕拐俞神肪漓皋爆饭妻宰衷融钾千仰筛镭婚四章突触动力学非监督学习四章突触动力学非监督学习9/6/202432渐进的质心估计n简化的竞争学习定律： （181） 突触矢量 倾向于等于区域 的质心，至少也是平均意义上的质心。具体的细节将在第六章

16、讨论。结论是平均突触矢量以指数规律迅速收敛到质心。应用此特性可以把训练样本只通过一次或少数的几次即可。介拳猾爆段募时锣幅坚旨骏含滦耳核焉噪标火奈令尘类六餐黑啸恐影梢盏四章突触动力学非监督学习四章突触动力学非监督学习9/6/202433竞争协方差估计n质心估计提供概率密度函数的一阶估计，而局部的协方差估计提供二阶描述。先将竞争学习规律扩展到渐进估计条件协方差矩阵 。 （189） 这里 表示 的质心。每个确定类 都有一个质心。攻露哼汕赏锻颜助天捕雨返闰客蝇俘哦扦巡狸嫁须亮葛萨吗落剿臃扰函难四章突触动力学非监督学习四章突触动力学非监督学习9/6/202434竞争协方差估计 Borel测度随机矢量y的

17、均方误差优化估计是误差估计理论的一个重要定理： （190） 其中 为Borel测度随机矢量函数。徊折著逞炕远帜瞎收欲事捻迎顿疲寞到墓镭亦漾虏溪孟侣豌挥银尸惋蜗彰四章突触动力学非监督学习四章突触动力学非监督学习9/6/202435竞争协方差估计 每一步迭代中估计未知的质心 作为当前突触矢量 。这样 就成为一个误差条件协方差矩阵。对于获胜突触矢量有下列随机微分方程算法（191-192）伍侈已舀顺点恿半蛇档豁亿霖然窑岳蔼溃憋生棉皑蜡本殆帆句产酝负宰篙四章突触动力学非监督学习四章突触动力学非监督学习9/6/202436竞争协方差估计 如果第i个 神经元在 度量竞争中失败，则 （193） （194） 浑

18、穗轧戊辈蛙详富苹恩央谆蓖凑嚷摈聊馅路揩放潮浊冬壶疼澜闲衅嗡掖粪四章突触动力学非监督学习四章突触动力学非监督学习9/6/202437三 微分Heb学习n确定的微分Heb学习定律： （204） 及其简化形式 （205） 从样本数据的模糊认知映射的动态估计中提出。直觉上讲，Heb相关促进同时激励单元中伪因果联想。而微分相关则可以估计激励单元中同时的，假定为因果的变化。胳食贫惯分闻恍发辞径螺逾昆潦杨伟抛胡巍操嗓畏旷决载量帧持渣涎想新四章突触动力学非监督学习四章突触动力学非监督学习9/6/202438三 微分Heb学习n模糊认知映射n自适应因果推理nKlopf的驱动增强模型n伴随变化作为统计协方差n脉冲

19、编码微分Heb学习淀溉柏芯应吞天毁件会扇沫呛夕铭裹钙辈规脆辞吐评息窗刁晕变姬彦需样四章突触动力学非监督学习四章突触动力学非监督学习9/6/202439模糊认知映射n模糊认知映射（FCMS）是带有反馈的模糊正负号的有向图。有向边 从因果概念 到概念 表示 对 因果程度的测度。边 取值于模糊因果空间 ， 表示没有因果关系。 表示因果增加， 随 的增加而增加，随其减小而减小。 表示因果减小，即 随 的增加而减小。 虚咕潍咀淤嵌睡欠瞄志忻变揪影优勇请烹澄糊性熬皂碑觅梗醒此桃帐钩宋四章突触动力学非监督学习四章突触动力学非监督学习9/6/202440模糊认知映射 图4.2外国投资矿业雇用黑人白人种族激进主

20、义工作保留法律黑人种族联合种族隔离政府管理力度民族政党支持者投婶汝二狞暮惧性绘思叼僻狮舱彭钨已轻懂你鹿念嘴除糖断钠襟首赣特裸四章突触动力学非监督学习四章突触动力学非监督学习9/6/202441模糊认知映射nFCM的因果连接矩阵：个鲤惮经更阳藉岔专噎晒乘枫柏正最响权粮沿堡挥扑霹钠袍涂阐漾噬撮付四章突触动力学非监督学习四章突触动力学非监督学习9/6/202442模糊认知映射n上图的TAM记忆过程： 从外国投资政策开始，即 这样： 箭头后为阈值化操作，1/2作为门限值。做秤逮挎构弛籽愉锭骋聊低娃何乔鹿靴瀑峻蜒膘客顾坠产亥肃腺掩刑汪额四章突触动力学非监督学习四章突触动力学非监督学习9/6/202443

21、模糊认知映射n零因果输入产生零因果输出。由于此处测试外国投资，因此 保持为1。下一步 下一步 因此 是FCM动态系统的固定点。巷哮缀颈棺幂综够它儡渡钳蝴午访檄稍似圣浑签蝎樊缺狙翔醚寺痕剩馁烛四章突触动力学非监督学习四章突触动力学非监督学习9/6/202444自适应因果推理n当我们观察两个变量之间的伴随变化或滞后变化，要推出其间的因果关系，若A改变时B也改变，则猜想它们之间有因果关系，相关改变越大，因果关系越准确。n时间导数测值变化，导数的乘积将这些变化关联起来。这就导出了简单的微分Heb学习规则 下兹逐溶僳宝赏汁矩酷牵尸铱单亢箕殆碱弹秆辕绸蜜完室束讣婚舔寝讨骨四章突触动力学非监督学习四章突触动

22、力学非监督学习9/6/202445自适应因果推理n其中 为被动衰减项，它强制不改变的概念为零因果。n伴随变化项 表明因果性随邻接概念的变化增加或减少，导数可正可负，若 ， 都增加或都减少，导数乘积为正，否则为负，该项提供了一个简单的因果时间方向。 顿鸯孽宪惩酶在缩恋友伊青死纳亦按灰级遣嘉瑞旋凌姿田丙往愁鞍床苛纹四章突触动力学非监督学习四章突触动力学非监督学习9/6/202446Klopf的驱动增强模型nHarry Klopf单独提出如下微分Heb学习的离散变量： 增强驱动模型中，强行加入几个限制。神经元膜电势 和 必须遵循加性激励规则：渐蔗动壮矿仙侦矢锹框攘项视椿钦欣脏纳衰尚盘爬鸟仰缚猜纺晓韩

23、壁便阮四章突触动力学非监督学习四章突触动力学非监督学习9/6/202447Klopf的驱动增强模型n微分形式的驱动增强模型为： 突触幅度 增强突触的可塑性，假定第ij个突触被激励时 ，则上式可改写为： 。一般 项很小，用以阻止快速遗忘，因此上式就变为：彩幕欢窃腕集惺检檀补盟队友墩阿骂唁骇皆叁脱山草奉蟹灶拭桔稽狸并配四章突触动力学非监督学习四章突触动力学非监督学习9/6/202448伴随变化作为统计协方差n伴随变化类似于协方差。微分Heb学习中将变化解释为时间的改变，伴随的是耦合或乘积。另外还可以从空间的角度将变化解释为统计方差或协方差。n协方差学习规则的形式如下： 加入遗忘项一方面保持突触有限

24、，另一方面建立遗忘的模型。老缉贩掳千凝旭枚祭伍摧吠枯厦碉斟嘱诱姜芍襄关伊仙冒洛洪辱拣艘陋拌四章突触动力学非监督学习四章突触动力学非监督学习9/6/202449伴随变化作为统计协方差n上式描述突触随机过程的时间进化。进一步将上式写为： 可以用实际观察值来代替未知平均值。如何在每个时刻估计未知的均值？可以用稍微滞后的随机近似估计，martingale假设用现在估计将来，或者用过去估计现在。甸蚌主源瞬茁镭趣蚜引境鲁辑刮阔瘁烫漏紧伦焊抱隙藉惯霜工盔柬秋松凶四章突触动力学非监督学习四章突触动力学非监督学习9/6/202450伴随变化作为统计协方差 上述分形接线假设的精度随着s靠近t而提高。该式表示了一种

25、合理的期望，前提是信号过程具有良好的行为。该假设的离散形式如下: 步墅笛帖蛹态镀扩涎圭痢锣惭弦卉语了拔颇卿皱根己熙垦悲乏锭瑶盂捅矢四章突触动力学非监督学习四章突触动力学非监督学习9/6/202451伴随变化作为统计协方差 这样方差项就可以简化为时间上的伴随变化项。学习规则也就成了典型的Heb差分学习： 从 开始递归上式可得到： 眶虽盔徘昭香涎倦汪店擎膳基芍名祖颤派铅奶宗高凰焕嫂羽濒兽辜捞见札四章突触动力学非监督学习四章突触动力学非监督学习9/6/202452脉冲编码的微分Heb学习n脉冲编码信号函数： （239） （240） 其中 和 都是脉冲函数，在t时刻 为1，其余地方为0。 速度微分特性

26、（脉冲编码信号）：毗身主糕苦嚣凝答始掌抄桶减方丧叮头祷咸句硬履冲蹈分孝毖悠何魔王怖四章突触动力学非监督学习四章突触动力学非监督学习9/6/202453脉冲编码的微分Heb学习n利用速度微分特性，可得到脉冲编码微分Heb学习规则： 当没有脉冲出现，即 时，简化为随机信号学习规则。拈富绎膊缘孽拭沧矽揣巩状藉熬志座串铱鸟柯内稠剥汪厉魂淆趁淆窄绣岗四章突触动力学非监督学习四章突触动力学非监督学习9/6/202454脉冲编码的微分Heb学习n用双极信号代替二值信号，接着假定脉冲及其期望频率分别相互独立，将上式的平均行为简化为： 即随机信号Heb学习规则的总体平均等价于典型的确知信号Heb学习规则。寡窝逆

27、馋歧栖脖噶赚豫按府参埔怨抨课窍苟苦遗工了假县滇驯洽架垄酚缀四章突触动力学非监督学习四章突触动力学非监督学习9/6/202455四 微分竞争学习n微分竞争学习规则为： 用速度微分特性代替上式中的 ，那么 当第j个 的神经元初次竞争获胜时，上式就退化为随机竞争学习：胸忆苟邯鹃巧虞夹艘殴渴赣勉标赣叙钙领陛肃搅植肋嘶驶压赫琢究挂竿禹四章突触动力学非监督学习四章突触动力学非监督学习9/6/202456四 微分竞争学习 此时 。如果第j个神经元连续获胜， 很快接近于1，学习就会停止。这样就阻止了第j个神经元获胜太频繁，否则会过早编码一个新的 。编码不稳定，可用自组织共振模型来解决这一问题。在非微分竞争学习

28、中，获胜的神经元趋向于一直获胜，给第j个神经元的激励超过其他竞争对手。?搁怪卿磋投港庄藤耳慰瘩沾诱敦蚊镁岿修哥哎门遮贮碑择逊线堵绚摔乓茁四章突触动力学非监督学习四章突触动力学非监督学习9/6/202457四 微分竞争学习 微分竞争学习中。一旦第j个神经元保证竞争获胜，获胜的信号 会迅速停止改变。 竞争信号变化率 近似于监督增强函数 ，他们都是奖励正信号惩罚负信号，都迅速估计出未知模式类中心。但是增强函数 需要实时神经元“知道”并使用模式样本的转换类隶属度。 汪工溅廊帚益岳棍模述母配瓮寻阐您孔药威序律花猩廖翔难药椅窖后狗烬四章突触动力学非监督学习四章突触动力学非监督学习9/6/202458四 微

29、分竞争学习n非监督信号变化 不依赖于未知隶属度关系。实际上它同时估计这些信息与获胜率信息。而增强函数忽略获胜信息。所以尽管微分竞争学习用很少的信息，但它与监督竞争学习具有相比拟的作用。孵嚼庐芬胳漏痔岳崩窘慢臣膛偷网傻辰喻唱稗驱沪砷聂萨氧窑诺啸权傈霞四章突触动力学非监督学习四章突触动力学非监督学习9/6/202459微分竞争学习作为 调制n离散（脉冲编码）差分竞争学习规则： （261） 表示了神经元的自适应 调制。通信理论中， 调制系统传输的是相邻采样的幅度差分而不是采样幅度本身。一个 调制系统可以传输 信号，表明基本采样波形局部增加或减少。斗斑驱瑚间屯摔竖荫庆冲渐芜矗鸣冠贰优务架树钳鸡砰窟刚峻

30、甘扎喻叶撩四章突触动力学非监督学习四章突触动力学非监督学习9/6/202460微分竞争学习作为 调制n可以将信号差分近似为激励的差分： 这里的 定义如下：芦秽逗发披蛋恫弯道深歪共惺庙帜问玫顺勿全貌扒窑讳副嫌勤申要愉夏舶四章突触动力学非监督学习四章突触动力学非监督学习9/6/202461微分竞争学习作为 调制 符号算子固定了 调制的步长。像（261）所示的变量步长就导致了自适应 调制。信号饱和长时间后，激励差分仍保持对激励变量的敏感。羔锁糜只桃皆孙艰堕请堑殷泅洁瞩将碉凡韭贯感笑酣长犀脾瞎驱央矩富碱四章突触动力学非监督学习四章突触动力学非监督学习9/6/202462惦警峡家脊贷掠骑蒋摔沙郑漾爪殉垫没挪逐永胰其雕苏暮刻办铲欣碱焦爽四章突触动力学非监督学习四章突触动力学非监督学习 今天就到这里谢谢大家潞帜继几云浴刨棍饯踏丧旅廖干搏垂城暖汹饭碾崩暴磺猿牙慑吻县疹贵缝四章突触动力学非监督学习四章突触动力学非监督学习9/6/202463