神经网络控制.ppt

6.2.3 BP网络学习算法改善 1．多层前向BP网络优点: 1). 网络实质上实现了一个从输入到输出映射功效, 而数学理论已证实它含有实现任何复杂非线性映射功效。这使得它尤其适合于求解内部机制复杂问题; 2). 网络能经过学习带正确答案实例集自动提取“合理”求解规则, 即含有自学习能力; 2．多层前向BP网络问题: 1). BP算法学习速度很慢 2). 网络训练失败可能性较大 3). 难以处理应用问题实例规模和网络规模间矛盾 4). 网络结构选择尚无一个统一而完整理论指导, 通常只能由经验选定 5). 新加入样本要影响已学习成功网络, 而且刻画每个输入样本特征数目也必需相同 6). 网络估计能力（也称泛化能力、推广能力）与训练能力（也称迫近能力、学习能力）矛盾 3．BP网络学习算法改善 1). 增加“惯性项 2). 采取动态步长 3). 与其她全局搜索算法相结合 4). 模拟退火算法 现在在神经网络学习中, 基于梯度算法都不能从理论上确保收敛结果是全局最优。 6.2.4 神经网络训练 能够任意迫近一个紧集上任意函数这一特点是神经网络广泛应用理论基础。不过, 在实际应用中, 现在还未找到很好网络结构方法, 确定网络结构和权值参数, 来描述给定映射或迫近一个未知映射, 只能经过学习来得到满足要求网络模型。 神经网络训练具体步骤以下 1．获取训练样本集 获取训练样本集合是训练神经网络第一步, 也是十分关键和关键一步。它包含训练数据搜集、分析、选择和预处理等 2．选择网络类型与结构 神经网络类型很多, 需要依据任务性质和要求来选择适宜网络类型。 3．训练与测试 最终一步是利用获取训练样本对网络进行反复训练, 直至得到适宜映射结果。 6.3 反馈神经网络 反馈网络(Recurrent Network), 又称自联想记忆网络, 其目是为了设计一个网络, 储存一组平衡点, 使适当给网络一组初始值时, 网络经过自行运行而最终收敛到这个设计平衡点上。 反馈网络能够表现出非线性动力学系统动态特征。它所含相关键特征为以下两点: 第一、网络系统含有若干个稳定状态。当网络从某一初始状态开始运动, 网络系统总能够收敛到某一个稳定平衡状态; 第二, 系统稳定平衡状态能够经过设计网络权值而被存放到网络中。 6.3.1 离散Hopfield网络 1. 网络结构和工作方法 离散Hopfield网络是一个单层网络, 有个神经元节点, 每个神经元输出均接到其它神经元输入。 各节点没有自反馈, 每个节点都附有一个阀值。每个节点都可处于一个可能状态（1或－1）, 即当该神经元所受刺激超出其阀值时, 神经元就处于一个状态（比如1）, 不然神经元就一直处于另一状态（比如－1）。 文档如有侵权，请联系本人协改正删除，内容如有不当之处，请联系本人改正或者删除，谢谢。 神经网络控制 6.1 概述 6.1.1生物神经元模型 6.1.2 人工神经元模型 6.1.3 人工神经网络模型 6.1.4 神经网络学习方法 6.1.1生物神经元模型 人脑大约包含1012个神经元, 分成约1000种类型, 每个神经元大约与102～104个其她神经元相连接, 形成极为错综复杂而又灵活多变神经网络。每个神经元即使都十分简单, 不过如此大量神经元之间、如此复杂连接却能够演化出丰富多彩行为方法。同时, 如此大量神经元与外部感受器之间多个多样连接方法也蕴含了改变莫测反应方法。 从生物控制论见解来看, 神经元作为控制和信息处理基础单元, 含有下列部分关键功效与特征: 时空整合功效 兴奋与抑制状态 脉冲与电位转换 神经纤维传导速度 突触延时和不应期 学习、遗忘和疲惫 6.1.2 人工神经元模型 人工神经元是对生物神经元一个模拟与简化。它是神经网络基础处理单元。如图所表示为一个简化人工神经元结构。它是一个多输入、单输出非线性元件。 其输入、输出关系可描述为 其中, 是从其她神经元传来输入信号; 表示从神经元j到神经元i连接权值; 为阈值; 称为激发函数或作用函数。 输出激发函数 又称为变换函数, 它决定神经元（节点）输出。该输出为1或0, 取决于其输入之和大于或小于内部阈值 。函数 通常含有非线性特征。下图表示了多个常见激发函数。 1. 阈值型函数（见图（a）, （b）） 2. 饱和型函数（见图（c）） 3. 双曲函数（见图（d）） 4. S型函数（见（e）