《2017年ANN第1讲》由会员分享，可在线阅读，更多相关《2017年ANN第1讲（124页珍藏版）》请在金锄头文库上搜索。
1、人工神经网络ArtificialNeuralNetworksANN 36学时 2020 2 21 1 葛红计算机学院Email gehong 2020 2 21 2 教材 书名 人工神经网络教程 出版社 北京邮电大学出版社出版日期 2006年12月定价 36 0元作者 韩力群 2020 2 21 3 主要参考书目 1 RobertJ Schalkoff Artificialneuralnetworks TP183 1 McGraw Hill c1997 2 阎平凡 张长水 人工神经网络与模拟进化计算 清华大学出版社 2005年9月3 董长虹 MATLAB神经网络与应用 国防工业出版社 2009
2、年7月4 丛爽 面向MATLAB工具箱的神经网络理论与应用 中国科学技术大学出版社 2009年4月 2020 2 21 4 课程介绍 作为人工神经网络的入门课程 用于将学生引入人工神经网络及其应用的研究领域 学习目标 2020 2 21 5 1 建立ANN的基础概念和认识 2 熟悉几种常用ANN模型及其应用 3 了解ANN在自己研究领域的应用形式和现状 4 熟练使用至少一种ANN工具并能应用于自己的研究领域 5 了解智能化方法的构建过程和机理 课程介绍 具体学习内容 人工神经网络的起源 应用及发展人工神经网络的基本概念 基本理论 单层网 多层网 循环网等各种基本网络模型的结构 神经元传递函数
3、特点 典型训练算法 运行方式 典型应用问题软件实现方法 应用人工神经网络解决问题的实例人工神经网络在相关领域的研究 应用现状和热点问题 2020 2 21 6 主要内容 第1讲人工神经网络概述第2讲前馈神经网络及其应用1 感知器 BP网第3讲前馈神经网络及其应用2 RBF网 SVM网第4讲前馈型神经网络的讨论课第5讲互联网络 SOFM网及应用 LVQ网及应用 CPN网及应用 2020 2 21 7 1 2 3 4 主要内容 第6讲反馈网络 HOPFIELD网及RBM网 贝叶斯网络介绍第7讲互联及反馈型神经网络讨论课第8讲机器学习与深度学习介绍第9讲深度学习讨论课 2020 2 21 8 5 6
4、 7 8 9 学习基本要求 了解人工神经网络的有关研究思想 从中学习开拓者们的部分问题求解方法 通过实验进一步体会有关模型的用法和性能 获取一些初步的经验 查阅适当的参考文献 将所学的知识与自己未来研究课题 包括研究生论文阶段的研究课题 相结合起来 达到既丰富学习内容 又有一定的研究和应用的目的 2020 2 21 9 成绩评定 平时成绩80 课堂讨论及作业终期成绩20 研究论文 可发表水平 2020 2 21 10 主要内容 第1讲人工神经网络概述人工神经网络的起源 人工智能与人工神经网络人工神经网络的概念ANN的特点ANN分类ANN应用及发展 2020 2 21 11 ANN研究内容 资源
5、 期刊 文章 主要内容 第2讲前馈神经网络1单层感知器多层感知器BP网络的设计及应用 2020 2 21 12 结构 功能 学习算法 应用 特点 BP网文章阅读 练习 主要内容 第3讲前馈神经网络2RBF网及其应用SVM网及其应用 2020 2 21 13 其它前馈网文章阅读 练习 主要内容 第4讲前馈网阅读 练习与讨论关于前馈网研究与应用综述 理论与研究综述 文献阅读和讨论 习题演示 2020 2 21 14 主要内容 第5讲互联网络SOFM网及应用LVQ网及应用CPN网及应用 2020 2 21 15 结构 功能 学习算法 应用 特点 互联网文章阅读 练习 主要内容 第6讲反馈网络 Hop
6、field网Hopfield网及应用RBM网及应用贝叶斯网及应用 2020 2 21 16 结构 功能 学习算法 应用 特点 反馈网文章阅读 练习 主要内容 第7讲互联及反馈网阅读 练习与讨论关于互联及反馈型网研究与应用综述 理论与研究综述 文献阅读和讨论 习题演示 2020 2 21 17 主要内容 第8讲机器学习与深度学习 2020 2 21 18 机器学习描述与统计学习理论基本结论描述 深度学习概述 深度神经网络模型介绍 实例分析 深度学习文章阅读 练习 主要内容 第9讲深度学习讨论课 2020 2 21 19 关于深度学习应用的讨论 深度学习文章阅读 深度神经网络模型介绍 实例分析 第
7、1讲人工神经网络概述 一 人工智能与人工神经网络二 人工神经网络的概念三 人工神经网络特点四 人工神经网络功能五 人工神经网络应用领域与发展 2020 2 21 20 2020 2 21 21 人工智能 即用人工制造的方法 实现智能机器或在机器上实现的智能系统 人工智能 英文ArtificialIntelligence 简称AI 从学科的角度去认识 AI是一门研究构造智能机器或实现机器智能的学科 是研究模拟 延伸和扩展人类智能的科学 更直观的 在计算机上实现人类的智能 AI涉及 生物学 神经科学 数学理论 计算机科学与技术等 一 人工智能与人工神经网络 2020 2 21 22 一 人工智能与
8、人工神经网络 智能 顾名思义 即包括智慧与能力 一般认为 智能是指自然界中某个个体或群体 在客观活动中 表现出有目的的认识世界并运用知识改造世界的一种综合能力 其中 尤其是人类智能 集中体现了人的聪明才智及其群体协调管理的高级智慧力量 人的智能具有许多美妙的特性 诸如感知 学习 思维 记忆 联想 推理 决策 语言理解 图文表达 艺术欣赏 知识运用 规划创造等 要揭示高级智能作用本质 将有待于对活体大脑进行更深层次的研究 什么是智能 智能的描述 知识的表达与记忆 理解与应用 以及知识获取 学习 感知能力思维能力情感的产生于表达突破性思维 视觉听觉嗅觉触觉 人类智能的基本功能 一 人工智能与人工神
9、经网络 智能的描述 智能的物质基础 人的大脑是人类智能活动的主要场所 一 人工智能与人工神经网络 智能的描述 人的智能不仅仅存在于人的大脑事实上 人的智能活动与人的神经系统自适应调节工作密切相关 神经系统通过分布在身体各部分感受器获取内 外界环境变化信息 分别经过各个层次级别的神经中枢进行分析综合 发出各种相应处理信号 进行决策或达到智能控制躯体的行为目的 智能的物质基础 一 人工智能与人工神经网络 人类智能生理机构 一般来说 其由中枢神经系统和周围神经系统两大部分组成 而每一部分又都有十分复杂的细微结构 人脑是中枢神经系统的主要部分 能够实现诸如学习 思维 知觉等复杂的高级智能 其它神经系统
10、配合人脑完成智能协同工作 智能的物质基础 一 人工智能与人工神经网络 一个有趣的事实 根据现代脑科学和神经生理学的研究成果 人的智能实际可以由分布于全身的神经系统任何部位产生 并且某个部位神经系统发出智能行为的反应速度与智能效能水平呈相反趋势 即低级智能动作反应快 高级智能发出要慢一些 例如 智能的物质基础 一 人工智能与人工神经网络 高层智能 由大脑皮层来组织启动 主要完成诸如思维 记忆 联想 推理等高级智能活动 中层智能 由丘脑来组织实现 负责对神经冲动进行转换 调度和处理 主要完成诸如感知 表达 语言 艺术 知觉等智能 低层智能 由小脑 脊髓 周围神经系统来组织 主要完成条件反射 紧急自
11、助 动作反应 感觉传导等智能 高 中 低三层结构智能特性模型 一 人工智能与人工神经网络 同时 允许不同层次的智能先后发生 相互协同 每个智能层次还可细分为对应的特性群区域或更小的层次 例如 思维特性 可分为感知思维 抽象思维 形象思维 顿悟思维及其灵感思维等 视觉感知视野 可分为色觉感 形体感 运动感等神经细胞特性感知区 高 中 低三层结构智能特性模型 一 人工智能与人工神经网络 智能现象本质是人类尚未完全探索明白的四大奥秘之一 四大奥秘 宇宙起源 物质形态 生命活动 智能发生 尽管如此 人类在对脑科学和智能认识的研究中 逐渐形成了许多不同的研究观点 其中 最著名并具代表性的理论有三种 即思
12、维理论 知识阈值理论 进化 论 研究智能现象的理论 一 人工智能与人工神经网络 智能的理论 思维理论 又称作认知科学 它认为智能的核心是思维 一切智慧及其知识均源于活体大脑的思维 因此 通过研究思维规律与思维方法 有望揭示智能的本质 知识阈值 Threshold 理论 强调知识对智能的重要影响和作用 认为知识集聚到某种满意程度时 将会触发智慧大门的开启 知识阈值理论把智能定义为 智能就是在巨大搜索空间中迅速找到一个满意解的能力 这一理论曾经深刻地影响了人工智能的发展进程 专家系统 知识工程等就是在该理论的影响下而发展起来的 进化 论 强调智能可由逐步进化的步骤来实现成长 研究智能现象的理论 一
13、 人工智能与人工神经网络 智能的理论 人工智能信息系统理论及其层次结构的研究 人工智能的三种研究方法 即功能模拟方法 结构模拟方法和行为模拟方法 机器智能的实现 构建智能 一 人工智能与人工神经网络 三种不同的认知观符号主义 Symbolicism 连接主义 Connectionism 行为主义 Actionism 机器智能的实现 构建智能 一 人工智能与人工神经网络 又称逻辑主义 心理学派或计算机学派 可简称为逻辑派或功能派 其原理主要为物理符号系统假设和有限合理性原理采用 黑盒 研究法 认为AI源于数理逻辑 人类的智能的基本单元是符号 认知过程是符号表示下的符号运算 符号主义 功能模拟的方
14、法 机器智能的实现 构建智能 一 人工智能与人工神经网络 存在局限性及可能解决的途径 形式化方法对于非逻辑的推理过程 经验式模糊推理 形象思维推理 往往难以用符号系统表示 符号形式化方法的有效性取决于符号概念的精确性 当把有关信息转换成符号化的推理机制时 将会丢失一些重要的信息 对于带有噪声的信息以及不完整的信息往往也难以进行恰当的表达和处理 解决局限性的可能途径是 可采用互连技术的方法 即结构派采用技术思路 则具有很好的互补作用 符号主义 功能模拟的方法 机器智能的实现 构建智能 一 人工智能与人工神经网络 又称仿生学派或生理学派 其原理主要为人工神经元网络 NeuralNetwork 及神
15、经网络间的连接机制与学习算法 采用 白盒 研究法 又称为网络互连 NetworkConnection 的技术研究方法 认为AI源于仿生学 特别是人脑模型的研究 连接主义 结构模拟的方法 机器智能的实现 构建智能 一 人工智能与人工神经网络 存在局限性及其解决思路 难以用因果分析关系解释其活动过程 而这恰恰是符号化逻辑处理的优势 二者互补 可否扩大研究成果呢 其发展与展望是 随着进化计算 EC 理论开拓和生物医学工程技术进步 尤其克隆技术的发展 前景十分诱人 连接主义 结构模拟的方法 机器智能的实现 构建智能 一 人工智能与人工神经网络 又称进化主义或控制论学派 其原理为控制论及感知 动作型控制
16、系统 认为AI源于控制论 代表性成果智能控制和智能机器人系统Brooks等人实现了具有多腿脚协调行走 并可上下楼梯的机器蝗虫 EmbodiedAI 具体的人工智能装置 行为主义 行为模拟的方法 机器智能的实现 构建智能 一 人工智能与人工神经网络 主要特点 激励 响应 模式 很实用 代表性典型装置实现 适应性强 难度较低 易于物理实现 行为模拟的 小前提 思想 即采用层次式处理手法的逐个前提条件 满足 实现 小有成功 再进行第二层次 依次推进装置完善 成功直觉式感知模拟 便于实现经验式智能局限性 缺乏系统理论指导 必须加强规划决策指导与体系结构分析 行为主义 行为模拟的方法 机器智能的实现 构建智能 一 人工智能与人工神经网络 2020 2 21 40 人工神经网络 ArtificialNeuralNetwork ANN是连接主义的代表模型 以模拟人脑神经网络的结构 功能 机理所设计的人工智能模型 2020 2 21 41 人工神经网络 ArtificialNeuralNetwork 人脑神经网络模型 生物的神经细胞是神经网络理论诞生和形成的物质基础和源泉 这样 神经元的数学描述就必须
