神经网络专题知识讲座.ppt

神经网络专题知识讲座;课时安排: 48课时, 1~16周。 参考书目: 最新汉字书籍; Neural Networks: A Comprehensive Foundation(Second Edition) Simon.Haykin 清华大学出版社, 2001; 相关刊物。;第一章 概述;§1.1 人工神经网络概念提出;人脑 生物进化最高产物; 最复杂、最完善和最有效信息处理系统; 高级精神活动（智能、思维和情绪等）物质基础; 人类认识较少领域之一。 依据19世纪末创建神经元学说: 人脑由大约1011～1012 神经元和1014～1015个突触组成巨系统。;人脑固有特征: 1.并行分布处理 单个神经细胞反应速度:10-3s 电子元件计算速度: 10-9s 决议过程只需1秒: 记忆回溯、语言了解、直觉推理、图像识别等; 从部分信息结构人和物图像。 100步程序长度（J.A.Feldman）: 串行工作模式没有这么快反应能力。;2.可塑性和自组织性: 突触信息传输特征可变, 细胞间联接是柔 软。 3. 系统性: 相互作用; 调整。 4. 系统合适退化: 少许神经元损伤（或正常死亡）, 网络总 体功效继续有效。;人脑与计算机信息处理能力比较 1.记忆与联想能力 2.学习与认知能力 3.信息加工能力 4.信息综合能力 5.信息处理速度;人脑与计算机信息处理机制比较 1.系统结构 2.信号形式 3.信息存放 4.信息处理机制;从大脑组织结构和运行机制绝妙特点, 追求新型信号处理系统: 超越人计算能力, 探寻新信息表示、存放和处理方法, 设计全新计算处理结构模型; 类似于人识别、判定、联想和决议能力, 处理传统冯·诺依曼计算机难以处理问题。;对神经网络分析和研究: 揭示人脑工作机理; 了解神经系统进行信息处理本质。 目: 设计类似人脑一些功效智能系统。 微观（结构）: 与生物神经网络拓扑一致; 宏观功效: 与人类智能行为合适对应。 用机器替换人脑部分劳动是当今科学技术发展关键标志。 仅用人工机械系统完全模拟人脑是不可能! ;以人脑组织结构和功效特征为原型, 设法构建与人脑结构和功效拓扑对应人造智能系统来模拟人类智能行为。标准上讲, 是智能模拟中一个很有前途发展方向。 智能模拟研究两条不一样路径: 1. 心理学派: 人类智能行为本质上是以思维为关键特征一 系列心理活动结果。 这一模式经典: 人工智能学科;智能模拟方法: 传统冯? 诺依曼(Von Neumann)计算机表现机构为基础; 逻辑推理和符号操作为特征。 在模拟实现人学习能力、联想记忆能力和人脑大规模并行处理能力等功效时, 碰到困难。;2.生理学模式: 经典: 人工神经网络, 目前被认为是很有发展 前途另一个智能模拟方法。 大家经过对人脑神经系统初步认识, 尝试 结构人工神经元, 组成人工神经网络系统, 对人智能、思维行为进行研究, 试图从理 性角度说明人脑高级功效。;Hecht Nielsen相关人工神经网络定义: “神经网络是由多个非常简单处理单元相互按某种方法相互连接而形成计算系统, 该系统是靠其状态对外部输入信息动态响应来处理信息” 美国国防高级研究计划局相关人工神经网络解释是:“人工神经网络是一个由很多简单并行工作处理单元组成系统,其功效取决于网络结构、连接强度以及各单元处理方法。” 综合人工神经网络起源、特点及多种解释, 能够简单表述为: 人工神经网络是一个意在模仿人脑结构及其功效信息处理系统。;现在有上百种ANN模型: 基础处理单元: 人工神经元----对生物神经元近似仿真。 人工神经元有不一样模型: 算法在不一样程度上或多或少地靠近神经信息处理标准。; 输出信号强度大小: 反应该单元对相邻单元影响强弱。 人工神经元之间经过相互联接形成网络: 人工神经网络（ANN）。;ANN是由大量高度互连信号或信息处理单元（人工神经元）组成计算系统: 用于模拟人脑行为复杂网络系统, 反应人脑功效很多基础特征。 1. 对人脑神经系统某种简化、抽象和模拟; 2. 理论化人脑神经网络数学模型。 现在ANN结构大致采取以下标准: 1. 一定数量基础单元分层联接; 2. 每个单元输入、输出信号以及综合处理内容比 较简单; 3. 网络学习和知识存放表现在各单元之间联接 强度上。;ANN固有特征: 1. 信息处理和记忆分布在整个网络上,把硬 件与软件在结构上分开是困难; 2.