饱和粘土本构关系的神经网络模型

基于BP神经网络的预测模型

基于ＢＰ神经网络的国际黄金价格预测模型 公文易文秘资源网顾孟钧张志和陈友2009-1-2 13:35:26我要投稿添加到百度搜藏 [摘要] 为了寻找国际黄金价格与道琼斯工业指数、美国消费者指数，国际黄金储备等因素之间的内在关系，本文对1972年～2006年间的各项数据首先进行归一化处理，利用MATLAB神经网络工具箱进行模拟训练，建立了基于BP神经网络的国际黄金价格预测模型 [摘要] 为了寻找国际黄金价格与道琼斯工业指数、美国消费者指数，国际黄金储备等因素之间的内在关系，本文对1972年～2006年间的各项数据首先进行归一化处理，利用MATLAB神经网络工具箱进行模拟训练，建立了基于BP神经网络的国际黄金价格预测模型。 [关键词] MATLAB BP神经网络预测模型数据归一化 一、引言 自20世纪70年代初以来的30多年里,世界黄金价格出现了令人瞠目的剧烈变动。20 世纪70年代初,每盎司黄金价格仅为30多美元。80年代初,黄金暴涨到每盎司近700美元。本世纪初,黄金价格处于每盎司270美元左右,此后逐年攀升,到2006年5月12日达到了26年高点,每盎司730美元,此后又暴跌,仅一个月时间内就下跌了约160美元,跌幅高达21.9%。最近两年，黄金价格一度冲高到每盎司900多美元。黄金价格起伏如此之大,本文根据国际黄金价格的影响因素，通过BP神经网络预测模型来预测长期黄金价格。 二、影响因素 刘曙光和胡再勇证实将观察期延长为1972年～2006年时,则影响黄金价格的主要因素扩展至包含道琼斯指数、美国消费者价格指数、美元名义有效汇率、美国联邦基金利率和世界黄金储备5个因素。本文利用此观点，根据1972年～2006年各因素的值来建立神经网络预测模型。 三、模型构建

数学建模神经网络预测模型及程序

年份 (年) 1(1988) 2(1989) 3(1990) 4(1991) 5(1992) 6(1993) 7(1994) 8(1995) 实际值 (ERI) 年份 (年) 9(1996) 10(1997) 11(1998) 12(1999) 13(2000) 14(2001) 15(2002) 16(2003) 实际值 (ERI) BP 神经网络的训练过程为: 先用1988 年到2002 年的指标历史数据作为网络的输入,用1989 年到2003 年的指标历史数据作为网络的输出,组成训练集对网络进行训练,使之误差达到满意的程度,用这样训练好的网络进行预测. 采用滚动预测方法进行预测:滚动预测方法是通过一组历史数据预测未来某一时刻的值,然后把这一预测数据再视为历史数据继续预测下去,依次循环进行,逐步预测未来一段时期的值. 用1989 年到2003 年数据作为网络的输入,2004 年的预测值作为网络的输出. 接着用1990 年到2004 年的数据作为网络的输入,2005 年的预测值作为网络的输出.依次类推,这样就得到2010 年的预测值。 目前在BP 网络的应用中,多采用三层结构. 根据人工神经网络定理可知,只要用三层的BP 网络就可实现任意函数的逼近. 所以训练结果采用三层BP模型进行模拟预测. 模型训练误差为,隐层单元数选取8个,学习速率为,动态参数,Sigmoid参数,最大迭代次数3000.运行3000次后,样本拟合误差等于。 P=[。。。];输入T=[。。。];输出 % 创建一个新的前向神经网络 net_1=newff(minmax(P),[10,1],{'tansig','purelin'},'traingdm') % 当前输入层权值和阈值 inputWeights={1,1} inputbias={1} % 当前网络层权值和阈值 layerWeights={2,1} layerbias={2} % 设置训练参数 = 50; = ; = ; = 10000; = 1e-3;

基于神经网络的预测控制模型仿真

基于神经网络的预测控制模型仿真 摘要：本文利用一种权值可以在线调整的动态BP神经网络对模型预测误差进行拟合并与预测模型一起构成动态组合预测器，在此基础上形成对模型误差具有动态补偿能力的预测控制算法。该算法显著提高了预测精度，增强了预测控制算法的鲁棒性。 关键词：预测控制神经网络动态矩阵误差补偿 1.引言 动态矩阵控制(DMC)是一种适用于渐近稳定的线性或弱非线性对象的预测控制算法，目前已广泛应用于工业过程控制。它基于对象阶跃响应系数建立预测模型，因此建模简单，同时采用多步滚动优化与反馈校正相结合，能直接处理大时滞对象，并具有良好的跟踪性能和较强的鲁棒性。 但是，DMC算法在实际控制中存在一系列问题，模型失配是其中普遍存在的一个问题，并会不同程度地影响系统性能。DMC在实际控制中产生模型失配的原因主要有2个，一是诸如建模误差、环境干扰等因素，它会在实际控制的全程范围内引起DMC的模型失配；二是实际系统的非线性特性，这一特性使得被控对象的模型发生变化，此时若用一组固定的阶跃响应数据设计控制器进行全程范围的控制，必然会使实际控制在对象的非建模区段内出现模型失配。针对DMC模型失配问题，已有学者进行了大量的研究，并取得了丰富的研究成果，其中有基于DMC控制参数在线辨识的智能控制算法，基于模型在线辨识的自校正控制算法以及用神经元网络进行模型辨识、在辨识的基础上再进行动态矩阵控制等。这些算法尽管进行在线辨识修正对象模型参数，仍对对象降阶建模误差(结构性建模误差)的鲁棒性不好，并对随机噪声干扰较敏感。针对以上问题，出现了基于误差校正的动态矩阵控制算法。这些文献用基于时间序列预测的数学模型误差代替原模型误差，得到对未来误差的预测。有人还将这种误差预测方法引入动态矩阵控制，并应用于实际。这种方法虽然使系统表现出良好的稳定性，但建立精确的误差数学模型还存在一定的困难。 本文利用神经网络通过训练学习能逼近任意连续有界函数的特点，建立了一种采用BP 神经网络进行预测误差补偿的DMC预测控制模型。其中神经网络预测误差描述了在预测模型中未能包含的一切不确定性信息，可以归结为用BP神经网络基于一系列过去的误差信息预测未来的误差，它作为模型预测的重要补充，不仅降低建立数学模型的负担，而且还可以弥补在对象模型中已简化或无法加以考虑的一切其他因素。 本文通过进行仿真，验证了基于神经网络误差补偿的预测控制算法的有效性及优越性，

神经网络模型预测控制器

神经网络模型预测控制器 摘要：本文将神经网络控制器应用于受限非线性系统的优化模型预测控制中，控制规则用一个神经网络函数逼近器来表示，该网络是通过最小化一个与控制相关的代价函数来训练的。本文提出的方法可以用于构造任意结构的控制器，如减速优化控制器和分散控制器。 关键字：模型预测控制、神经网络、非线性控制 1.介绍 由于非线性控制问题的复杂性，通常用逼近方法来获得近似解。在本文中，提出了一种广泛应用的方法即模型预测控制（MPC），这可用于解决在线优化问题，另一种方法是函数逼近器，如人工神经网络，这可用于离线的优化控制规则。 在模型预测控制中，控制信号取决于在每个采样时刻时的想要在线最小化的代价函数，它已经广泛地应用于受限的多变量系统和非线性过程等工业控制中[3,11,22]。MPC方法一个潜在的弱点是优化问题必须能严格地按要求推算，尤其是在非线性系统中。模型预测控制已经广泛地应用于线性MPC问题中[5]，但为了减小在线计算时的计算量，该部分的计算为离线。一个非常强大的函数逼近器为神经网络，它能很好地用于表示非线性模型或控制器，如文献[4,13,14]。基于模型跟踪控制的方法已经普遍地应用在神经网络控制，这种方法的一个局限性是它不适合于不稳定地逆系统，基此本文研究了基于优化控制技术的方法。 许多基于神经网络的方法已经提出了应用在优化控制问题方面，该优化控制的目标是最小化一个与控制相关的代价函数。一个方法是用一个神经网络来逼近与优化控制问题相关联的动态程式方程的解[6]。一个更直接地方法是模仿MPC方法，用通过最小化预测代价函数来训练神经网络控制器。为了达到精确的MPC技术，用神经网络来逼近模型预测控制策略，且通过离线计算[1,7.9,19]。用一个交替且更直接的方法即直接最小化代价函数训练网络控制器代替通过训练一个神经网络来逼近一个优化模型预测控制策略。这种方法目前已有许多版本，Parisini[20]和Zoppoli[24]等人研究了随机优化控制问题，其中控制器作为神经网络逼近器的输入输出的一个函数。Seong和Widrow[23]研究了一个初始状态为随机分配的优化控制问题，控制器为反馈状态，用一个神经网络来表示。在以上的研究中，应用了一个随机逼近器算法来训练网络。Al-dajani[2]和Nayeri等人[15]提出了一种相似的方法，即用最速下降法来训练神经网络控制器。 在许多应用中，设计一个控制器都涉及到一个特殊的结构。对于复杂的系统如减速控制器或分散控制系统，都需要许多输入与输出。在模型预测控制中，模型是用于预测系统未来的运动轨迹，优化控制信号是系统模型的系统的函数。因此，模型预测控制不能用于定结构控制问题。不同的是，基于神经网络函数逼近器的控制器可以应用于优化定结构控制问题。 在本文中，主要研究的是应用于非线性优化控制问题的结构受限的MPC类型[20,2,24,23,15]。控制规则用神经网络逼近器表示，最小化一个与控制相关的代价函数来离线训练神经网络。通过将神经网络控制的输入适当特殊化来完成优化低阶控制器的设计，分散和其它定结构神经网络控制器是通过对网络结构加入合适的限制构成的。通过一个数据例子来评价神经网络控制器的性能并与优化模型预测控制器进行比较。 2.问题表述 考虑一个离散非线性控制系统： 其中为控制器的输出，为输入，为状态矢量。控制

BP神经网络模型应用实例

BP神经网络模型 第1节基本原理简介 近年来全球性的神经网络研究热潮的再度兴起，不仅仅是因为神经科学本身取得了巨大的进展．更主要的原因在于发展新型计算机和人工智能新途径的迫切需要．迄今为止在需要人工智能解决的许多问题中，人脑远比计算机聪明的多，要开创具有智能的新一代计算机，就必须了解人脑，研究人脑神经网络系统信息处理的机制．另一方面，基于神经科学研究成果基础上发展出来的人工神经网络模型，反映了人脑功能的若干基本特性，开拓了神经网络用于计算机的新途径．它对传统的计算机结构和人工智能是一个有力的挑战，引起了各方面专家的极大关注． 目前，已发展了几十种神经网络，例如Hopficld模型，Feldmann等的连接型网络模型，Hinton等的玻尔茨曼机模型，以及Rumelhart等的多层感知机模型和Kohonen的自组织网络模型等等。在这众多神经网络模型中，应用最广泛的是多层感知机神经网络。多层感知机神经网络的研究始于50年代，但一直进展不大。直到1985年，Rumelhart等人提出了误差反向传递学习算法（即BP算），实现了Minsky的多层网络

设想，如图34-1所示。 BP 算法不仅有输入层节点、输出层节点，还可有1个或多个隐含层节点。对于输入信号，要先向前传播到隐含层节点，经作用函数后，再把隐节点的输出信号传播到输出节点，最后给出输出结果。节点的作用的激励函数通常选取S 型函数，如 Q x e x f /11)(-+= 式中Q 为调整激励函数形式的Sigmoid 参数。该算法的学习过程由正向传播和反向传播组成。在正向传播过程中，输入信息从输入层经隐含层逐层处理，并 传向输出层。每一层神经元的状态只影响下一层神经

BP神经网络预测模型及应用

B P神经网络预测模型及 应用 IMB standardization office【IMB 5AB- IMBK 08- IMB 2C】

B P神经网络预测模型及应用 摘要采用BP神经网络的原理，建立神经网络的预测模型，并利用建立的人工神经网络训练并预测车辆的销售量，最后得出合理的评价和预测结果。 【关键词】神经网络模型预测应用 1 BP神经网络预测模型 BP神经网络基本理论 人工神经网络是基于模仿生物大脑的结构和功能而构成的一种信息处理系统。该网络由许多神经元组成，每个神经元可以有多个输入，但只有一个输出，各神经元之间不同的连接方式构成了不同的神经网络模型，BP网为其中之一，它又被称为多层前馈神经网络。 BP神经网络预测模型 （1）初始化，给各连接权值（wij，vi）及阐值（θi）赋予随机值，确定网络结构，即输入单元、中间层单元以及输出层单元的个数；通过计算机仿真确定各系数。 在进行BP网络设计前，一般应从网络的层数、每层中的神经元个数、初始值以及学习方法等方面进行考虑，BP网络由输入层、隐含层和输出层组成。隐含层神经元个数由以下经验公式计算： （1）

式中：s为隐层节点数，m为输入层节点数，n为输出层节点数，h为正整数，一般取3―7. BP网络采用了有一定阈值特性的、连续可微的sigmoid函数作为神经元的激发函数。采用的s 型函数为： （2） 式中：s为隐层节点数，m为输入层节点数，n为输出层节点数，h为正整数，一般取3―7.计算值需经四舍五入取整。 （2）当网络的结构和训练数据确定后，误差函数主要受激励函数的影响，尽管从理论分析中得到比的收敛速度快，但是也存在着不足之处。当网络收敛到一定程度或者是已经收敛而条件又有变化的时候，过于灵敏的反映会使得系统产生震荡，难于收敛。因此，对激励函数进行进一步改进，当权值wij （k）的修正值Δwij（k） Δwij（k+1）<0时，，其中a为大于零小于1的常数。这样做降低了系统进入最小点时的灵敏度，减少震荡。 2 应用 车辆销售量神经网络预测模型 本文以某汽车制造企业同比价格差、广告费用、服务水平、车辆销售量作为学习训练样本数据。如表1。 表1 产品的广告费、服务水平、价格差、销售量 月份广告费 （百万元）服务水平价格差

基于Bp神经网络的股票预测

基于神经网络的股票预测 【摘要】: 股票分析和预测是一个复杂的研究领域，本论文将股票技术分析理论与人工神经网络相结合，针对股票市场这一非线性系统，运用BP神经网络，研究基于历史数据分析的股票预测模型，同时，对单只股票短期收盘价格的预测进行深入的理论分析和实证研究。本文探讨了BP神经网络的模型与结构、BP算法的学习规则、权值和阈值等，构建了基于BP神经网络的股票短期预测模型，研究了神经网络的模式、泛化能力等问题。并且，利用搭建起的BP神经网络预测模型，采用多输入单输出、单隐含层的系统，用前五天的价格来预测第六天的价格。对于网络的训练，选用学习率可变的动量BP算法，同时，对网络结构进行了隐含层节点的优化，多次尝试，确定最为合理、可行的隐含层节点数，从而有效地解决了神经网络隐含层节点的选取问题。 【abstract] Stock analysis and forecasting is a complex field of study. The paper will make research on stock prediction model based on the analysis of historical data, using BP neural network and technical analysis theory. At the same time, making in-depth theoretical analysis and empirical studies on the short-term closing price forecasts of single stock. Secondly, making research on the model and structure of BP neural network, learning rules, weights of BP algorithm and so on, building a stock short-term forecasting model based on the BP neural network, related with the model of neural network and the ability of generalization. Moreover, using system of multiple-input single-output and single hidden layer, to forecast the sixth day price by BP neural network forecasting model structured. The network of training is chosen BP algorithm of traingdx, while making optimization on the node numbers of the hidden layer by several attempts. Thereby resolve effectively the problem of it. 【关键词】BP神经网络股票预测分析 1．引言 股票市场是一个不稳定的非线性动态变化的复杂系统，股价的变动受众多因素的影响。影响股价的因素可简单地分为两类，一类是公司基本面的因素，另一类是股票技术面的因素，虽然股票的价值是公司未来现金流的折现，由公司的基本面所决定，但是由于公司基本面的数据更新时间慢，且很多时候并不能客观反映公司的实际状况，采用适当数学模型就能在一定

BP神经网络模型预测未来

BP神经网络模型预测未来 BP神经网络算法概述: 简介与原理 BP神经网络是一种多层前馈神经网络，该网络的主要特点是： 信号前向传递，误差反向传播。在前向传递中，输入信号从输入层经 隐含层逐层处理，直至输出层，每一层的神经元状态只影响下一层神 经元状态。如果输出层得不到期望输出，则转入反向传播，根据预测 误差调整网络权值和阈值，从而使BP神经网络预测输出不断逼近期 望输出。 BP神经网络的拓扑结构如下图所示： X Y 1 X 2 Y M M 1 X n 输入层隐含层输出层 BP神经网络结构图 图中是BP神经网络的输入值，是BP神经网络的预测 值，

为BP神经网络权值。 BP神经网络预测前首先要训练网络，通过训练使网络具有联想记忆和预测能力。BP神经网络的训练过程包括一下几个步骤。 步骤一：网络初始化。根据系统输入输出序列(,) X Y确定网络输入层节点数,n隐含层节点数l、输出层节点数m、初始化输入层、隐含层和输出层神经元之间的连接权值,, ωω初始化隐含层阈值a，给 ij jk 定输出层阈值b，给定学习速率和神经元激励函数。 步骤二：隐含层输出计算。根据输入向量，输入层和隐含层间连接权值，以及隐含层阈值，计算隐含层输出。 步骤三：输出层输出计算。根据隐含层输出，连接权值和阈值，计算BP神经网络预测输出。 步骤四：误差计算根据网络输出和预期输出，计算网络预测误差。 步骤五：权值更新。根据网络预测更新网络连接权值 步骤六：阈值更新。根据网络预测误差更新网络节点阈值。 步骤七：判断算法迭代是否结束，若没有结束，返回步骤二。 下面是基本BP算法的流程图。

BP神经网络的拓扑结构如下图所示： X Y 1 X 2 Y M M 1 X n 输入层隐含层输出层 BP神经网络预测的算法流程如下： 步骤一：对初始数据进行标准化。

BP神经网络算法预测模型

BP神经网络结构及算法 1986年，Rumelhart和McCelland领导的科学家小组在《Parallel Distributed Processing》一书中，对具有非线性连续转移函数的多层前馈网络的误差反向传播算法(Error Back Proragation,简称BP)进行了详尽的分析，实现了Minsky关于多层网络的设想。由于多层前馈网络的训练经常釆用误差反向传播算法，人们也常把多层前馈网络直接称为BP网。釆用BP算法的多层前馈网络是目前应用最多的神经网络。 BP神经网络的结构 BP网络有三部分构成，即输入层、隐含层(又称为中间层)和输出层，其中可以有多个隐含层。各层之间实现完全连接，且各层神经元的作用是不同的：输入层接受外界信息；输出层对输入层信息进行判别和决策；中间隐层用来表示或存贮信息。通常典型的BP网络有三层构成，即只有一个隐层。三层BP神经网络的结构可用图1表示。 图1 三层BP神经网络机构图 BP神经网络的学习算法 BP算法的基本思想是，学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时，输入样本从输入层传入，经各隐含层逐层处理后，传向输出层。若输出层的实际输出与期望的输出(教师信号)不符，则转入误差的反向传播阶段。误差反传是将输出误差以某种形式通过隐含层向输入层逐层反传、并将误差分摊给各层的所有神经元，从而获得各层神经元的误差信号，此误差信号即作为修正各神经元权值的依据。这种信号正向传播与误差反向传播的各层权值调整过程，是周而复始地进行的，权值不断调整的过程，也就是网络的学习训练过程。此过程一直进行到网络输出误差减少到可接受的程度，或进行到预先设定的学习次数为止，标准BP算法流程见图2。

神经网络算法及模型

神经网络算法及模型 思维学普遍认为，人类大脑的思维分为抽象（逻辑）思维、形象（直观）思维和灵感（顿悟）思维三种基本方式。 人工神经网络就是模拟人思维的第二种方式。这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。神经网络的研究内容相当广泛，反映了多学科交叉技术领域的特点。主要的研究工作集中在以下几个方面： （1）生物原型研究。从生理学、心理学、解剖学、脑科学、病理学等生物科学方面研究神经细胞、神经网络、神经系统的生物原型结构及其功能机理。 （2）建立理论模型。根据生物原型的研究，建立神经元、神经网络的理论模型。其中包括概念模型、知识模型、物理化学模型、数学模型等。 （3）网络模型与算法研究。在理论模型研究的基础上构作具体的神经网络模型，以实现计算机模拟或准备制作硬件，包括网络学习算法的研究。这方面的工作也称为技术模型研究。 （4）人工神经网络应用系统。在网络模型与算法研究的基础上，利用人工神经网络组成实际的应用系统，例如，完成某种信号处理或模式识别的功能、构作专家系统、制成机器人等等。 纵观当代新兴科学技术的发展历史，人类在征服宇宙空间、基本粒子，生命起源等科学技术领域的进程中历经了崎岖不平的道路。我们也会看到，探索人脑功能和神经网络的研究将伴随着重重困难的克服而日新月异。 神经网络和粗集理论是智能信息处理的两种重要的方法,其任务是从大量观察和实验数据中获取知识、表达知识和推理决策规则。粗集理论是基于不可分辩性思想和知识简化方法,从数据中推理逻辑规则,适合于数据简化、数据相关性查找、发现数据模式、从数据中提取规则等。神经网络是利用非线性映射的思想和并行处理方法,用神经网络本身的结构表达输入与输出关联知识的隐函数编码,具有较强的并行处理、逼近和分类能力。在处理不准确、不完整的知识方面,粗集理论和神经网络都显示出较强的适应能力,然而两者处理信息的方法是不同的,粗集方法模拟人类的抽象逻辑思维,神经网络方法模拟形象直觉思维,具有很强的互补性。 首先,通过粗集理论方法减少信息表达的属性数量,去掉冗余信息,使训练集简化,减少神经网络系统的复杂性和训练时间;其次利用神经网络优良的并行处理、逼近和分类能力来处理风险预警这类非线性问题,具有较强的容错能力;再次,粗集理论在简化知识的同时,很容易推理出决策规则,因而可以作为后续使用中的信息识别规则,将粗集得到的结果与神经网络得到的结果相比较,以便相互验证;最后,粗集理论的方法和结果简单易懂,而且以规则的形式给出,通过与神经网络结合,使神经网络也具有一定的解释能力。因此,粗集理论与神经网络融合方法具有许多优点,非常适合处理诸如企业战略风险预警这类非结构化、非线性的复杂问题。 关于输入的问题--输入模块。

BP神经网络预测模型

BP 神经网络模型 基本原理 ( 1) 神经网络的定义简介 神经网络是由多个神经元组成的广泛互连的神经网络, 能够模拟生物神经系统真实世界及物体之间所做出的交互反应. 人工神经网络处理信息是通过信息样本对神经网络的训练, 使其具有人的大脑的记忆, 辨识能力, 完成名种信息处理功能. 它不需要任何先验公式, 就能从已有数据中自动地归纳规则, 获得这些数据的内在规律, 具有良好的自学习, 自适应, 联想记忆, 并行处理和非线性形转换的能力, 特别适合于因果关系复杂的非确定性推理, 判断, 识别和分类等问题. 对于任意一组随机的, 正态的数据, 都可以利用人工神经网络算法进行统计分析, 做出拟合和预测. 基于误差反向传播(Back propagation)算法的多层前馈网络(Multiple-layer feedforward network, 简记为BP 网络), 是目前应用最成功和广泛的人工神经网络. ( 2) BP 模型的基本原理[3] 学习过程中由信号的正向传播与误差的逆向传播两个过程组成. 正向传播时, 模式作用于输入层, 经隐层处理后, 传入误差的逆向传播阶段, 将输出误差按某种子形式, 通过隐层向输入层逐层返回, 并“分摊”给各层的所有单元, 从而获得各层单元的参考误差或称误差信号, 以作为修改各单元权值的依据. 权值不断修改的过程, 也就是网络学习过程. 此过程一直进行到网络输出的误差准逐渐减少到可接受的程度或达到设定的学习次数为止. BP 网络模型包括其输入输出模型, 作用函数模型, 误差计算模型和自学习模型. BP 网络由输入层, 输出层以及一个或多个隐层节点互连而成的一种多层网, 这种结构使多层前馈网络可在输入和输出间建立合适的线性或非线性关系, 又不致使网络输出限制在-1和1之间. 见图( 1) . O 1 O 2 O i O m ( 大于等于一层) W (1)… ( 3) BP 神经网络的训练 BP 算法通过“训练”这一事件来得到这种输入, 输出间合适的线性或非线性关系. “训练”的过程可以分为向前传输和向后传输两个阶段： 输入层 输出层 隐含层 图1 BP 网络模型

BP神经网络预测模型

BP 神经网络模型 基本原理 ( 1) 神经网络的定义简介 神经网络是由多个神经元组成的广泛互连的神经网络, 能够模拟生物神经 系统真实世界及物体之间所做出的交互反应. 人工神经网络处理信息是通过信息样本对神经网络的训练, 使其具有人的大脑的记忆, 辨识能力, 完成名种信息处理功能. 它不需要任何先验公式, 就能从已有数据中自动地归纳规则, 获得这些数据的内在规律, 具有良好的自学习, 自适应, 联想记忆, 并行处理和非线性形转换的能力, 特别适合于因果关系复杂的非确定性推理, 判断, 识别和分类等问题. 对于任意一组随机的, 正态的数据, 都可以利用人工神经网络算法进行统计分析, 做出拟合和预测. 基于误差反向传播(Back propagation)算法的多层前馈网络 (Multiple-layer feedforward network, 简记为BP 网络), 是目前应用最成功和广泛的人工神经网络. ( 2) BP 模型的基本原理[3] 学习过程中由信号的正向传播与误差的逆向传播两个过程组成. 正向传播时, 模式作用于输入层, 经隐层处理后, 传入误差的逆向传播阶段, 将输出误差按某种子形式, 通过隐层向输入层逐层返回, 并“分摊”给各层的所有单元, 从而获得各层单元的参考误差或称误差信号, 以作为修改各单元权值的依据. 权值不断修改的过程, 也就是网络学习过程. 此过程一直进行到网络输出的误差准逐渐减少到可接受的程度或达到设定的学习次数为止. BP 网络模型包括其输入输出模型, 作用函数模型, 误差计算模型和自学习模型. BP 网络由输入层, 输出层以及一个或多个隐层节点互连而成的一种多层网, 这种结构使多层前馈网络可在输入和输出间建立合适的线性或非线性关系, 又不致使网络输出限制在-1和1之间. 见图( 1) . O 1 O 2 O i O m 输入层 输出层 隐含层 …… …… ……

BP神经网络算法原理

BP网络模型处理信息的基本原理是：输入信号X i通过中间节点(隐层点)作用 于输出节点，经过非线形变换，产生输出信号Y k,网络训练的每个样本包括输 入向量X和期望输出量t，网络输出值丫与期望输出值t之间的偏差，通过调整输入节点与隐层节点的联接强度取值W ij和隐层节点与输出节点之间的联接强度T jk 以及阈值，使误差沿梯度方向下降，经过反复学习训练，确定与最小误差相对应的网络参数(权值和阈值)，训练即告停止。此时经过训练的神经网络即能对类似样本的输入信息，自行处理输出误差最小的经过非线形转换的信息。 一BP 神经网络模型 BP 网络模型包括其输入输出模型、作用函数模型、误差计算模型和自学习模型。( 1)节点输出模型 隐节点输出模型：O j=f( D W ij x X i-q j) (1) 输出节点输出模型：Y k=f( E T jk X O j-q k) (2) f-非线形作用函数；q -神经单元阈值。 ( 2)作用函数模型作用函数是反映下层输入对上层节点刺激脉冲强度的函数又称刺激函数，一般取为(0,1)内连续取值Sigmoid 函 数：f(x)=1/(1+e -x) ( 3) ( 3)误差计算模型误差计算模型是反映神经网络期望输出与计算输出之间误差大小的函数： E p=1/2 X^t pi-O pi)2(4) t pi- i 节点的期望输出值；O pi-i 节点计算输出值。

(4)自学习模型 神经网络的学习过程，即连接下层节点和上层节点之间的权重拒阵W ij 的设定和误差修正过程。BP 网络有师学习方式-需要设定期望值和无师学习方式-只需输入模式之分。自学习模型为 ZW ij(n+1)= h x 宙x O j+a x/W ij(n) (5) h -学习因子；①i-输出节点i的计算误差；O j-输出节点j的计算输出；a-动量因子。二BP 网络模型的缺陷分析及优化策略 (1)学习因子h 的优化 采用变步长法根据输出误差大小自动调整学习因子，来减少迭代次数和加快收敛速度。 h =h +a x(E p(n)- E p(n-i))/ E p(n)a 为调整步长，0~1 之间取值 (6) ( 2)隐层节点数的优化 隐节点数的多少对网络性能的影响较大，当隐节点数太多时，会导致网络学习时间过长，甚至不能收敛；而当隐节点数过小时，网络的容错能力差。利用逐步回归分析法并进行参数的显著性检验来动态删除一些线形相关的隐节点，节点删除标准：当由该节点出发指向下一层节点的所有权值和阈值均落于死区 (通常取土0.1 >±0.05等区间)之中，则该节点可删除。最佳隐节点数L可参 考下面公式计算： L=(m+n) 1/2+c (7) m-输入节点数；n-输出节点数；c-介于1?10的常数。 (3)输入和输出神经元的确定