数学模型7-1神经网络

7-1 人工神经网络模型

?生物背景

生物

?神经元MP模型

?感知器模型

?多层感知器模型(MLP)和BP算法?自组织网络

生物神经元(I)

生物神经元(II)

?树突：接受信号，以突触为界面。

树接信触为

?轴突：传递和输出信号，以突触为界面。?突触(Synapse):生物神经元之间的相互连接从而让信息传递的部位。

从而让信息传递的部位

?细胞体：信号处理器

生物神经元(III)

?细胞的状态，激发和抑制。

细胞的状态激发和抑制

细胞的状态与接受到的总信号强度有关?细胞的状态与接受到的总信号强度有关，只有当总信号集聚到一定的程度才引起细胞的激发

胞的激发。

?神经元之间的作用强度可以不同，而且具有可塑性(Hebb律)。

?神经细胞数1011量级。

?每个神经元连接通道104量级。

量级

MP模型(II)

?状态1 或者-1。

?W i为连接(强度)权。

权

?g(x)为反应函数。

?θ: 神经元的阈值，可以看成一个特殊的连接(强度)权值。

MP模型(III)?符号函数

?Sigmoid函数

Sigmoid Sigmoid 函数

感知器(Perceptron)模型?1957年Frank Rosenblatt 在Cornell

y所给神Aeronautical Laboratory所给出的人工神经网络模型

?线性分类器

?如果令X=(x,1)T, W=(w,b), 则线性分类器表示为

?即用n+1维空间上的超平面来区分样本

线性可分

?如果存在n维空间中的超平面y=wx+b, 使得存在维中的超

该平面能够将两类样本完全分开则称样该平面能够将两类样本完全分开。则称样本线性可分(或样本输入函数线性可分)。

感知器(Perceptron)模型?感知器最重要的特征是给出了学习算法感最的特给算法

?误差学习算法:

误差学习算法步骤

(0)。

a)选择一组初始权值w

)选择组初始权值

b)计算某一输入模式对应的实际输出与期望输出

的误差δ

c)如果δ小于给定值，结束，否则继续。

d)更新权值

e)(b)，重复，直到对所有训练样本模式，网

络输出均能满足要求。

感知器收敛定理(I)

?[定理]如果样本输入函数是线性可分的，那么误差学习算法经过有限次迭代后，可收敛到正确的权值或权向量。

定理证明(I)

?假设样本空间F是单位长度样本输入向量的样本单位度样本输向的集合如果线性可分将所有样本移到

集合。如果线性可分，将所有样本移到直线的一边。所以我们的目的是将这个直线方向定出来。

?若存在一个单位权向量w*和一个较小的正数δ＞0，使得w*·x>= δ对所有的样本输入x

使得*

都成立，定理说明该权向量w按感知器学习过程仅需有限步就可收敛。

定理证明(II)

?误差学习算法修正方式

差算法修式

?在进行移到单边的处理后等价的学习方式为

定理证明(III)

?C(k)为学习权向量和理想权向量的夹角余弦，定义为学权向量和想权向量的夹角余弦即

?按照学习算法，

感知器收敛定理(IV)?递推得到

?其次只有当时修改权值，故有

?递推得到

感知器收敛定理(V)?将两个递推结果代入C(k)的定义得将个结代的义得

?而余弦值小于1，所以

感知器收敛定理(VI)

?因此，感知器学习迭代次数是一有限数，过有限次迭代学习算法可收敛到确经过有限次迭代，学习算法可收敛到正确的权向量w*。对于上述证明，要说明的是：

正数δ越小，迭代次数越多：其次，若样本输入函数不是线性可分的，则学习过程将出现振荡，得不到正确的结果。

出现振荡得不到正确的结果

多层感知器网络(MLP)

从到上底层的输出是高层的输

?从下到上，底层的输出是高层的输入。

?多层感知器至少要有三层：输入层、输出层与隐层。

O1L

O2O m输出层

W jk

H1H k

H2隐层

L W ki

I i I2I n输入层

年份 (年) 1(1988) 2(1989) 3(1990) 4(1991) 5(1992) 6(1993) 7(1994) 8(1995) 实际值 (ERI) 年份 (年) 9(1996) 10(1997) 11(1998) 12(1999) 13(2000) 14(2001) 15(2002) 16(2003) 实际值 (ERI) BP 神经网络的训练过程为: 先用1988 年到2002 年的指标历史数据作为网络的输入,用1989 年到2003 年的指标历史数据作为网络的输出,组成训练集对网络进行训练,使之误差达到满意的程度,用这样训练好的网络进行预测. 采用滚动预测方法进行预测:滚动预测方法是通过一组历史数据预测未来某一时刻的值,然后把这一预测数据再视为历史数据继续预测下去,依次循环进行,逐步预测未来一段时期的值. 用1989 年到2003 年数据作为网络的输入,2004 年的预测值作为网络的输出. 接着用1990 年到2004 年的数据作为网络的输入,2005 年的预测值作为网络的输出.依次类推,这样就得到2010 年的预测值。目前在BP 网络的应用中,多采用三层结构. 根据人工神经网络定理可知,只要用三层的BP 网络就可实现任意函数的逼近. 所以训练结果采用三层BP模型进行模拟预测. 模型训练误差为,隐层单元数选取8个,学习速率为,动态参数,Sigmoid参数,最大迭代次数3000.运行3000次后,样本拟合误差等于。 P=[。。。];输入T=[。。。];输出 % 创建一个新的前向神经网络 net_1=newff(minmax(P),[10,1],{'tansig','purelin'},'traingdm') % 当前输入层权值和阈值 inputWeights={1,1} inputbias={1} % 当前网络层权值和阈值 layerWeights={2,1} layerbias={2} % 设置训练参数 = 50; = ; = ; = 10000; = 1e-3;

高等教育学费标准的研究摘要本文从搜集有关普通高等学校学费数据开始，从学生个人支付能力和学校办学利益获得能力两个主要方面出发，分别通过对这两个方面的深入研究从而制定出各自有关高等教育学费的标准，最后再综合考虑这两个主要因素，进一步深入并细化，从而求得最优解。模块Ⅰ中，我们将焦点锁定在从学生个人支付能力角度制定合理的学费标准。我们从选取的数据和相关资料出发，发现1996年《高等学校收费管理暂行办法》规定高等学校学费占生均教育培养的成本比例最高不得超过25%，而由数据得到图形可知，从2002年开始学费占教育经费的比例超过了25%，并且生均学费和人均GDP 的比例要远远超过美国的10%到15%。由此可见，我国的学费的收取过高。紧接着，我们从个人支付能力角度出发，研究GDP 和学费的关系。并因此制定了修正参数，由此来获取生均学费的修正指标。随后，我们分析了高校专业的相关系数，从个人支付能力角度，探讨高校收费与专业的关系，进一步得到了高校收费标准1i i y G R Q = 。在模块Ⅱ中，我们从学校办学利益获得能力出发，利用回归分析对学生应交的学杂费与教育经费总计、国家预算内教育经费、社会团体和公民个人办学经验、社会捐投资和其他费用的关系，发现学杂费与教育经费总计成正相关，与其他几项费用成负相关。对此产生的数据验证分析符合标准。然后，再根据专业相关系数来确定学校收取学费的标准。从而，得到了学校办学利益的收费标准2i i i y y R = 。在模块Ⅲ中，为了获取最优解，我们综合了前面两个模块所制定的收费指标，并分别给予不同权系数，得到最终学费的表达式12i i C ay by =+。然后，我们从学校收费指标的权系数b 考虑，利用神经网络得到的区域划分，根据不同区域而计算出的权系数b 的范围。最终得到的表达式 ]12345**(1)(1.0502 1.1959 1.3108 1.36360.7929)**b i i C R G Q b x x x x x R =-+----;由此便可得到综合学费标准C 的取值范围。然后，我们随机选取了同一区域不同专业，并根据表达式计算这些专业的学费，结果发现对社会收益大，个人收益小的专业如地质学的学费范围为：3469.8~3506.3元之间；对社会收益小，个人收益大的专业如广告设计的学费范围为：7931.0~8014.5元之间。与通常高校实现的一刀切政策有了明显的优点。最后，我们从本论文研究方向考虑，为优化高校费用标准的制定提出参考意见，如建立反馈制度和特殊生补贴制度的建议。【关键字】相关系数回归模型自组织竞争神经网络

假设图G 权的邻接矩阵为0A ， ????? ? ??? ???=nn n n n n a a a a a a a a a A 2 1 22221 112110 来存放各边长度，其中： 0=ii a n i ,,2,1 =； ∞=ij a j i ,之间没有边，在程序中以各边都不可能达到的充分大的数代替； ij ij w a = ij w 是j i ,之间边的长度，n j i ,,2,1, =。对于无向图，0A 是对称矩阵，ji ij a a =。 Floyd 算法的基本思想是：递推产生一个矩阵序列n k A A A A ,,,,,10 ，其中),(j i A k 表示从顶点i v 到顶点j v 的路径上所经过的顶点序号不大于k 的最短路径长度。计算时用迭代公式： )),(),(),,(min(),(111j k A k i A j i A j i A k k k k ---+= k 是迭代次数，n k j i ,,2,1,, =。最后，当n k =时，n A 即是各顶点之间的最短通路值。例10 用Floyd 算法求解例1。矩阵path 用来存放每对顶点之间最短路径上所经过的顶点的序号。Floyd 算法的Matlab 程序如下： clear; clc; M=10000; a(1,:)=[0,50,M,40,25,10]; a(2,:)=[zeros(1,2),15,20,M,25]; a(3,:)=[zeros(1,3),10,20,M]; a(4,:)=[zeros(1,4),10,25]; a(5,:)=[zeros(1,5),55]; a(6,:)=zeros(1,6); b=a+a';path=zeros(length(b)); for k=1:6 for i=1:6 for j=1:6 if b(i,j)>b(i,k)+b(k,j)

1.1 BP 神经网络原理简介 BP 神经网络是一种多层前馈神经网络,由输入、输出、隐藏层组成。该网络的主要特点是信号前向传递,误差反向传播。在前向传递中,输入信号从输入层经隐藏层逐层处理,直至输出层。每一层的神经元状态只影响下一层神经元状态。如果输出层得不到期望输出则转入反向传播,根据预测误差调整网络权值和阈值,从而使BP 神经网络预测输出不断逼近期望输出。结构图如下：隐藏层传输函数选择Sigmoid 函数（也可以选择值域在（-1,1）的双曲正切函数，函数‘tansig ’），其数学表达式如下： x e 11)x ( f α-+=，其中α为常数输出层传输函数选择线性函数：x )x (f = 1.隐藏层节点的选择隐藏层神经元个数对BP 神经网络预测精度有显著的影响，如果隐藏层节点数目太少，则网络从样本中获取信息的能力不足，网络容易陷入局部极小值，有时可能训练不出来；如果隐藏层节点数目太多，则学习样本的非规律性信息会出现“过度吻合”的现象，从而导致学习时间延长，误差也不一定最佳，为此我们参照以下经验公式： 12+=I H ]10,1[ ,∈++=a a O I H I H 2log = 其中H 为隐含层节点数，I 为输入层节点数，O 为输出层节点数，a 为常数。输入层和输出层节点的确定： 2．输入层节点和输出层节点的选择输入层是外界信号与BP 神经网络衔接的纽带。其节点数取决于数据源的维数和输入特征向量的维数。选择特征向量时，要考虑是否能完全描述事物的本质特征，如果特征向量不能有效地表达这些特征，网络经训练后的输出可能与实际有较大的差异。因此在网络训练前，应全面收集被仿真系统的样本特性数据，并在数据处理时进行必要的相关性分析，剔除那些边沿和不可靠的数据，最终确定出数据源特征向量的维度。对于输出层节点的数目，往往需要根据实际应用情况灵活地制定。当BP 神经网络用于模式识别时，模式的自身特性就决定了输出的结果数。当网络作为一个分类器时，输出层节点数等于所需信息类别数。(可有可无) 训练好的BP 神经网络还只能输出归一化后的浓度数据，为了得到真实的数据

数学建模10种常用算法 1、蒙特卡罗算法（该算法又称随机性模拟算法，是通过计算机仿真来解决问题的算法，同时可以通过模拟可以来检验自己模型的正确性，是比赛时必用的方法） 2、数据拟合、参数估计、插值等数据处理算法（比赛中通常会遇到大量的数据需要处理，而处理数据的关键就在于这些算法，通常使用Matlab作为工具） 3、线性规划、整数规划、多元规划、二次规划等规划类问题（建模竞赛大多数问题属于最优化问题，很多时候这些问题可以用数学规划算法来描述，通常使用Lindo、Lingo软件实现） 4、图论算法（这类算法可以分为很多种，包括最短路、网络流、二分图等算法，涉及到图论的问题可以用这些方法解决，需要认真准备） 5、动态规划、回溯搜索、分治算法、分支定界等计算机算法（这些算法是算法设计中比较常用的方法，很多场合可以用到竞赛中） 6、最优化理论的三大非经典算法：模拟退火法、神经网络、遗传算法（这些问题是用来解决一些较困难的最优化问题的算法，对于有些问题非常有帮助，但是算法的实现比较困难，需慎重使用） 7、网格算法和穷举法（网格算法和穷举法都是暴力搜索最优点的算法，在很多竞赛题中有应用，当重点讨论模型本身而轻视算法的时候，可以使用这种暴力方案，最好使用一些高级语言作为编程工具） 8、一些连续离散化方法（很多问题都是实际来的，数据可以是连续的，而计算机只认的是离散的数据，因此将其离散化后进行差分代替微分、求和代替积分等思想是非常重要的） 9、数值分析算法（如果在比赛中采用高级语言进行

编程的话，那一些数值分析中常用的算法比如方程组求解、矩阵运算、函数积分等算法就需要额外编写库函数进行调用） 10、图象处理算法（赛题中有一类问题与图形有关，即使与图形无关，论文中也应该要不乏图片的，这些图形如何展示以及如何处理就是需要解决的问题，通常使用Matlab进行处参数估计 C.F. 20世纪60年代,随着电子计算机的。参数估计有多种方法，有最小二乘法、极大似然法、极大验后法、最小风险法和极小化极大熵法等。在一定条件下，后面三个方法都与极大似然法相同。最基本的方法是最小二乘法和极大似然法. 基本介绍参数估计（parameter 尽可能接近的参数误差平方和　 θ,使已知数据Y 最大,这里P(Y│θ)是数据Y P(Y│θ)。在实践中这是困难的，一般可假设P（Y│θ

数学建模中常见的十大模型

精品文档数学建模常用的十大算法==转 (2011-07-24 16:13:14) 转载▼ 1. 蒙特卡罗算法。该算法又称随机性模拟算法，是通过计算机仿真来解决问题的算法，同时可以通过模拟来检验自己模型的正确性，几乎是比赛时必用的方法。 2. 数据拟合、参数估计、插值等数据处理算法。比赛中通常会遇到大量的数据需要处理，而处理数据的关键就在于这些算法，通常使用MA TLAB 作为工具。 3. 线性规划、整数规划、多元规划、二次规划等规划类算法。建模竞赛大多数问题属于最优化问题，很多时候这些问题可以用数学规划算法来描述，通常使用Lindo、Lingo 软件求解。 4. 图论算法。这类算法可以分为很多种，包括最短路、网络流、二分图等算法，涉及到图论的问题可以用这些方法解决，需要认真准备。 5. 动态规划、回溯搜索、分治算法、分支定界等计算机算法。这些算法是算法设计中比较常用的方法，竞赛中很多场合会用到。 6. 最优化理论的三大非经典算法：模拟退火算法、神经网络算法、遗传算法。这些问题是用来解决一些较困难的最优化问题的，对于有些问题非常有帮助，但是算法的实现比较困难，需慎重使用。 7. 网格算法和穷举法。两者都是暴力搜索最优点的算法，在很多竞赛题中有应用，当重点讨论模型本身而轻视算法的时候，可以使用这种暴力方案，最好使用一些高级语言作为编程工具。 8. 一些连续数据离散化方法。很多问题都是实际来的，数据可以是连续的，而计算机只能处理离散的数据，因此将其离散化后进行差分代替微分、求和代替积分等思想是非常重要的。 9. 数值分析算法。如果在比赛中采用高级语言进行编程的话，那些数值分析中常用的算法比如方程组求解、矩阵运算、函数积分等算法就需要额外编写库函数进行调用。 10. 图象处理算法。赛题中有一类问题与图形有关，即使问题与图形无关，论文中也会需要图片来说明问题，这些图形如何展示以及如何处理就是需要解决的问题，通常使用MATLAB 进行处理。以下将结合历年的竞赛题，对这十类算法进行详细地说明。以下将结合历年的竞赛题，对这十类算法进行详细地说明。 2 十类算法的详细说明 2.1 蒙特卡罗算法大多数建模赛题中都离不开计算机仿真，随机性模拟是非常常见的算法之一。举个例子就是97 年的A 题，每个零件都有自己的标定值，也都有自己的容差等级，而求解最优的组合方案将要面对着的是一个极其复杂的公式和108 种容差选取方案，根本不可能去求解析解，那如何去找到最优的方案呢？随机性模拟搜索最优方案就是其中的一种方法，在每个零件可行的区间中按照正态分布随机的选取一个标定值和选取一个容差值作为一种方案，然后通过蒙特卡罗算法仿真出大量的方案，从中选取一个最佳的。另一个例子就是去年的彩票第二问，要求设计一种更好的方案，首先方案的优劣取决于很多复杂的因素，同样不可能刻画出一个模型进行求解，只能靠随机仿真模拟。 2.2 数据拟合、参数估计、插值等算法数据拟合在很多赛题中有应用，与图形处理有关的问题很多与拟合有关系，一个例子就是98 年美国赛A 题，生物组织切片的三维插值处理，94 年A 题逢山开路，山体海拔高度的收集于网络，如有侵权请联系管理员删除

数学建模方法详解--三种最常用算法一、层次分析法层次分析法[1] (analytic hierarchy process，AHP)是美国著名的运筹学家T．L．Saaty教授于20世纪70年代初首先提出的一种定性与定量分析相结合的多准则决策方法[2，3，4]．该方法是社会、经济系统决策的有效工具，目前在工程计划、资源分配、方案排序、政策制定、冲突问题、性能评价等方面都有广泛的应用． (一) 层次分析法的基本原理层次分析法的核心问题是排序，包括递阶层次结构原理、测度原理和排序原理[5]．下面分别予以介绍． 1．递阶层次结构原理一个复杂的结构问题可以分解为它的组成部分或因素，即目标、准则、方案等．每一个因素称为元素．按照属性的不同把这些元素分组形成互不相交的层次，上一层的元素对相邻的下一层的全部或部分元素起支配作用，形成按层次自上而下的逐层支配关系．具有这种性质的层次称为递阶层次． 2．测度原理决策就是要从一组已知的方案中选择理想方案，而理想方案一般是在一定的准则下通过使效用函数极大化而产生的．然而对于社会、经济系统的决策模型来说，常常难以定量测度．因此，层次分析法的核心是决策模型中各因素的测度化．3．排序原理

层次分析法的排序问题，实质上是一组元素两两比较其重要性，计算元素相对重要性的测度问题．(二) 层次分析法的基本步骤层次分析法的基本思路与人对一个复杂的决策问题的思维、判断过程大体上是一致的[1] ． 1．成对比较矩阵和权向量为了能够尽可能地减少性质不同的诸因素相互比较的困难，提高结果的准确度．T ．L ．Saaty 等人的作法，一是不把所有因素放在一起比较，而是两两相互对比，二是对比时采用相对尺度．假设要比较某一层n 个因素n C C ,,1对上层一个因素O 的影响，每次取两个因素i C 和j C ，用ij a 表示i C 和j C 对O 的影响之比，全部比较结果可用成对比较阵 1 ,0,ij ij ji n n ij A a a a a 表示，A 称为正互反矩阵．一般地，如果一个正互反阵 A 满足： , ij jk ik a a a ,,1,2,,i j k n （1）则A 称为一致性矩阵，简称一致阵．容易证明n 阶一致阵A 有下列性质： ①A 的秩为1，A 的唯一非零特征根为n ；②A 的任一列向量都是对应于特征根 n 的特征向量．如果得到的成对比较阵是一致阵，自然应取对应于特征根n 的、归一化的特征向量（即分量之和为1）表示诸因素n C C ,, 1对上层因素O 的权重，这个向量称为权向量．如果成对比较阵A 不是一致阵，但在不一致的容许范围内，用对应于A 最大特征根(记

神经网络例解：设计BP网，编写文件ch14eg4.m，结构和参数见程序中的说明。clear;close all; x = [0:0.25:10]; y = 0.12*exp(-0.213*x)+0.54*exp(-0.17*x).*sin(1.23*x); % x,y分别为输入和目标向量 net=newff(minmax(x),[20,1],{'tansig','purelin'}); % 创建一个前馈网络 y0 = sim(net,x); % 仿真未经训练的网络net net.trainFcn='trainlm'; % 采用L-M优化算法TRAINLM net.trainParam.epochs = 500; net.trainParam.goal = 1e-6; % 设置训练参数[net,tr]=train(net,x,y); % 调用相应算法训练网络 y1 = sim(net,x); % 对BP网络进行仿真 E = y-y1; MSE=mse(E) % 计算仿真误差

figure; % 下面绘制匹配结果曲线 plot(x,y0,':',x,y1,'r*',x,0.12*exp(-0.213*x)+0.54*exp(-0.17*x).*sin(1.23*x),'b'); 运行如下： >> ch14eg4 MSE =9.6867e-007 例14.6 蠓虫分类问题。两种蠓虫Af和Apf已由生物学家W.L.Grogan和W.W.Wirth(1981)根据他们的触角长度和翅长加以区分。现测得6只Apf蠓虫和9只Af蠓虫的触长、翅长的数据如下： Apf: (1.14,1.78),(1.18,1.96),(1.20,1.86),(1.26,2.),(1.28,2.00),(1.30,1.96). Af: (1.24,1.72),(1.36,1.74),(1.38,1.64),(1.38,1.82),(1.38,1.90),(1.4,1.7), (1.48,1.82),(1.54,1.82),(1.56,2.08) 请用恰当的方法对触长、翅长分别为(1.24,1.80)，(1.28,1.84)，(1.40,2.04)的3个样本进行识别。解：设计一个Lvq神经网络进行分类。编写m文件ch14eg6.m clear; close all; Af=[1.24,1.36,1.38,1.38,1.38,1.4,1.48,1.54,1.56;1.27,1.74,1.64,1.82, 1.9,1.7,1.82,1.82,2.08]; Apf=[1.14 1.18 1.20 1.26 1.28 1.30;1.78 1.96 1.86 2.00 2.00 1.96]; x=[Af Apf];%输入向量 y0=[2*ones(1,9) ones(1,6)];%类2表示Af, 类1表示Apf y=ind2vec(y0);%将下标向量转换为单值向量作为目标向量 net = newlvq(minmax(x),8,[0.6,0.4]);%建立LVQ网络 net.trainParam.show=100; net.trainParam.epochs = 1000;%设置参数 net = train(net,x,y); ytmp=sim(net,x);%对网络进行训练并用原样本仿真 y1=vec2ind(ytmp);%将单值向量还原为下标向量作为输出向量 xt=[1.24,1.28,1.40;1.80,1.84,2.04];%测试输入样本 yttmp=sim(net,xt)%对网络用新样本进行仿真 yt=vec2ind(yttmp)%输出新样本所属类别 figure;%打开一个图形窗口 plot(Af(1,:),Af(2,:),'+',Apf(1,:),Apf(2,:),'o',xt(1,:),xt(2,:),'*');

数学模型的分类按模型的数学方法分：几何模型、图论模型、微分方程模型、概率模型、最优控制模型、规划论模型、马氏链模型等按模型的特征分：静态模型和动态模型，确定性模型和随机模型，离散模型和连续性模型，线性模型和非线性模型等按模型的应用领域分：人口模型、交通模型、经济模型、生态模型、资源模型、环境模型等。按建模的目的分：预测模型、优化模型、决策模型、控制模型等一般研究数学建模论文的时候，是按照建模的目的去分类的，并且是算法往往也和建模的目的对应按对模型结构的了解程度分：有白箱模型、灰箱模型、黑箱模型等比赛尽量避免使用，黑箱模型、灰箱模型，以及一些主观性模型。按比赛命题方向分：国赛一般是离散模型和连续模型各一个，2016美赛六个题目（离散、连续、运筹学/复杂网络、大数据、环境科学、政策）数学建模十大算法 1、蒙特卡罗算法（该算法又称随机性模拟算法，是通过计算机仿真来解决问题的算法，同时可以通过模拟可以来检验自己模型的正确性，比较好用的算法） 2、数据拟合、参数估计、插值等数据处理算法（比赛中通常会遇到大量的数据需要处理，而处理数据的关键就在于这些算法，通常使用Matlab作为工具） 3、线性规划、整数规划、多元规划、二次规划等规划类问题（建模竞赛大多数问题属于最优化问题，很多时候这些问题可以用数学规划算法来描述，通常使用Lindo、Lingo软件实现） 4、图论算法（这类算法可以分为很多种，包括最短路、网络流、二分图等算法，涉及到图论的问题可以用这些方法解决，需要认真准备）

5、动态规划、回溯搜索、分治算法、分支定界等计算机算法（这些算法是算法设计中比较常用的方法，很多场合可以用到竞赛中） 6、最优化理论的三大非经典算法：模拟退火法、神经网络、遗传算法（这些问题是用来解决一些较困难的最优化问题的算法，对于有些问题非常有帮助，但是算法的实现比较困难，需慎重使用） 7、网格算法和穷举法（当重点讨论模型本身而轻视算法的时候，可以使用这种暴力方案，最好使用一些高级语言作为编程工具） 8、一些连续离散化方法（很多问题都是从实际来的，数据可以是连续的，而计算机只认的是离散的数据，因此将其离散化后进行差分代替微分、求和代替积分等思想是非常重要的） 9、数值分析算法（如果在比赛中采用高级语言进行编程的话，那一些数值分析中常用的算法比如方程组求解、矩阵运算、函数积分等算法就需要额外编写库函数进行调用） 10、图象处理算法（赛题中有一类问题与图形有关，即使与图形无关，论文中也应该要不乏图片的这些图形如何展示，以及如何处理就是需要解决的问题，通常使用Matlab进行处理）算法简介 1、灰色预测模型（必掌握）解决预测类型题目。由于属于灰箱模型，一般比赛期间不优先使用。满足两个条件可用： ①数据样本点个数少，6-15个 ②数据呈现指数或曲线的形式 2、微分方程预测（高大上、备用）微分方程预测是方程类模型中最常见的一种算法。近几年比赛都有体现，但其中的要求，不言而喻。学习过程中无法直接找到原始数据之间的关系，但可以找到原始数据变化速度之间的关系，通过公式推导转化为原始数据的关系。 3、回归分析预测（必掌握）求一个因变量与若干自变量之间的关系，若自变量变化后，求因变量如何变化；样本点的个数有要求： ①自变量之间协方差比较小，最好趋近于0，自变量间的相关性小； ②样本点的个数n＞3k+1，k为自变量的个数；

第一讲国赛历年赛题总览一、历年国赛赛题（时间） 1992年，国赛第一年，30+高校（A）作物生长的施肥效果问题（北理工：叶其孝）统计、非线性回归的方法（B）化学试验室的实验数据分解问题（复旦：谭永基）无明确方法，解应用题 1993年，国赛第二年（A）通讯中非线性交互的频率设计问题（北大：谢衷洁）非线性回归（B）足球甲级联赛排名问题（清华：蔡大用）评价与决策。如：评价老师，评价学校，评价食堂，评价篮球教练 1994年，国赛第三年（A）山区修建公路的设计造价问题（西电大：何大可）价格问题，优化问题（B）锁具的制造、销售和装箱问题（复旦：谭永基等）优化问题，同时带一部分统计问题

1995年，国赛第四年（A）飞机的安全飞行调度问题（复旦：谭永基等）优化问题（B）天车与冶炼炉的作业调度问题（浙大：刘祥官等）优化问题 1996年，国赛第五年（A）最优捕鱼策略问题（北师大：刘来福）微分方程的问题（B）节水洗衣机的程序设计问题（重大：付鹂）偏微分方程，也可以用优化 1997年，国赛第六年（A）零件参数优化设计问题（清华：姜启源）优化问题（B）金刚石截断切割问题（复旦：谭永基等）优化问题 1998年，国赛第七年（A）投资的收益和风险问题（浙大：陈述平）多目标优化问题（B）灾情的巡视路线问题（上海海运学院：丁松康）

网络优化问题、图论 1999年，国赛第八年（开始出现专科组）（A）自动化车床控制管理问题（北大：孙山泽）优化问题（B）地质勘探钻井布局问题（郑州大学：林诒勋）优化问题（C）煤矸石堆积问题（太原理工大学：贾晓峰）排列的问题 2000年，国赛第九年（A）DNA序列的分类问题（北京工业大学：孟大志）分类问题（B）钢管的订购和运输问题（武汉大学：费甫生）优化问题（C）飞越北极问题（复旦大学：谭永基）椭球面计算问题，几何问题（D）空洞探测问题（东北电力学院：关信）偏统计问题 2001年，国赛第十年（A）三维血管重建问题（浙江大学：汪国昭）

BP神经网络算法原理：输入信号 x i通过中间节点（隐层点）作用于输出节点，经过非线形变换，产生输出信号 y k，网络训练的每个样本包括输入向量x 和期望输出量d，网络输出值y 与期望输出值 d 之间的偏差，通过调整输入节点与隐层节点的联接强度取值w ij和隐层节点与输出节点之间的联接强度T jk以及阈值，使误差沿梯度方向下降，经过反复学习训练，确定与最小误差相对应的网络参数（权值和阈值），训练即告停止。此时经过训练的神经网络即能对类似样本的输入信息，自行处理输出误差最小的经过非线形转换的信息。变量定义：设输入层有 n 个神经元，隐含层有p 个神经元 , 输出层有 q 个神经元输入向量： x x1 , x2 ,L , x n 隐含层输入向量：hi hi1, hi2 ,L , hi p 隐含层输出向量：ho ho1 , ho2 ,L ,ho p 输出层输入向量：yi yi1, yi2 ,L , yi q 输出层输出向量：yo yo1, yo2 ,L , yo q 期望输出向量 : do d1, d2 ,L , d q 输入层与中间层的连接权值:w ih 隐含层与输出层的连接权值:w ho 隐含层各神经元的阈值: b h 输出层各神经元的阈值:b o 样本数据个数 :k1,2,L m 激活函数 : f 误差函数： e 1 q(d o (k )yo o (k )) 2 2 o1

算法步骤： Step1. 网络初始化。给各连接权值分别赋一个区间（ -1 ， 1）内的随机数，设定误差函数 e ，给定计算精度值和最大学习次数 M 。 Step2. 随机选取第 k 个输入样本 x( k) x 1( k ), x 2 (k),L , x n (k ) 及对应期望输出 d o ( k) d 1 (k ), d 2 ( k),L , d q (k) Step3. 计算隐含层各神经元的输入 n hi h ( k) w ih x i (k ) b h h 1,2,L , p 和输出 i 1 ho h (k) f (hi h (k )) h 1,2, L , p 及输出层各神经元的输入 p yi o (k ) w ho ho h (k) b o o 1,2,L q 和输出 yo o ( k) f ( yi o (k )) o 1,2, L , p h 1 Step4. 利用网络期望输出和实际输出，计算误差函数对输出层的各神经元的偏导数 o (k ) 。 e e yi o w ho yi o w ho p yi o ( k) ( h w ho ho h (k ) b o ) ho h (k ) w ho w ho e ( 1 q (d o ( k) yo o (k))) 2 2 o 1 ( d o (k ) yi o yi o (d o (k) yo o (k ))f ( yi o (k )) @ o (k ) Step5. 利用隐含层到输出层的连接权值、输出层的差函数对隐含层各神经元的偏导数 h (k ) 。 e e yi o o ( k) ho h (k ) w ho yi o w ho e e hi h (k) w ih hi h ( k) w ih n hi h (k ) ( w ih x i (k ) b h ) i 1 x i ( k) w ih w ih yo o (k )) yo o (k ) o ( k) 和隐含层的输出计算误

基于ＢＰ神经网络的国际黄金价格预测模型公文易文秘资源网顾孟钧张志和陈友2009-1-2 13:35:26我要投稿添加到百度搜藏 [摘要] 为了寻找国际黄金价格与道琼斯工业指数、美国消费者指数，国际黄金储备等因素之间的内在关系，本文对1972年～2006年间的各项数据首先进行归一化处理，利用MATLAB神经网络工具箱进行模拟训练，建立了基于BP神经网络的国际黄金价格预测模型 [摘要] 为了寻找国际黄金价格与道琼斯工业指数、美国消费者指数，国际黄金储备等因素之间的内在关系，本文对1972年～2006年间的各项数据首先进行归一化处理，利用MATLAB神经网络工具箱进行模拟训练，建立了基于BP神经网络的国际黄金价格预测模型。 [关键词] MATLAB BP神经网络预测模型数据归一化一、引言自20世纪70年代初以来的30多年里,世界黄金价格出现了令人瞠目的剧烈变动。20 世纪70年代初,每盎司黄金价格仅为30多美元。80年代初,黄金暴涨到每盎司近700美元。本世纪初,黄金价格处于每盎司270美元左右,此后逐年攀升,到2006年5月12日达到了26年高点,每盎司730美元,此后又暴跌,仅一个月时间内就下跌了约160美元,跌幅高达21.9%。最近两年，黄金价格一度冲高到每盎司900多美元。黄金价格起伏如此之大,本文根据国际黄金价格的影响因素，通过BP神经网络预测模型来预测长期黄金价格。二、影响因素刘曙光和胡再勇证实将观察期延长为1972年～2006年时,则影响黄金价格的主要因素扩展至包含道琼斯指数、美国消费者价格指数、美元名义有效汇率、美国联邦基金利率和世界黄金储备5个因素。本文利用此观点，根据1972年～2006年各因素的值来建立神经网络预测模型。三、模型构建

BP 神经网络算法原理：输入信号i x 通过中间节点（隐层点）作用于输出节点，经过非线形变换，产生输出信号k y ，网络训练的每个样本包括输入向量x 和期望输出量d ，网络输出值y 与期望输出值d 之间的偏差，通过调整输入节点与隐层节点的联接强度取值ij w 和隐层节点与输出节点之间的联接强度jk T 以及阈值，使误差沿梯度方向下降，经过反复学习训练，确定与最小误差相对应的网络参数（权值和阈值），训练即告停止。此时经过训练的神经网络即能对类似样本的输入信息，自行处理输出误差最小的经过非线形转换的信息。变量定义：设输入层有n 个神经元，隐含层有p 个神经元,输出层有q 个神经元输入向量：()12,, ,n x x x x = 隐含层输入向量：()12,,,p hi hi hi hi = 隐含层输出向量：()12,,,p ho ho ho ho = 输出层输入向量：()12,,,q yi yi yi yi = 输出层输出向量：()12,,,q yo yo yo yo = 期望输出向量: ()12,, ,q do d d d = 输入层与中间层的连接权值: ih w 隐含层与输出层的连接权值: ho w 隐含层各神经元的阈值:h b 输出层各神经元的阈值: o b 样本数据个数: 1,2,k m = 激活函数: ()f ? 误差函数：2 1 1(()())2q o o o e d k yo k ==-∑

算法步骤： Step1.网络初始化。给各连接权值分别赋一个区间（-1，1）内的随机数，设定误差函数e ，给定计算精度值ε和最大学习次数M 。 Step2.随机选取第k 个输入样本()12()(),(), ,()n x k x k x k x k =及对应期望输出 ()12()(),(),,()q d k d k d k d k =o Step3.计算隐含层各神经元的输入()1 ()()1,2, ,n h ih i h i hi k w x k b h p ==-=∑和输出 () ()(())1,2, ,h h ho k f hi k h p ==及输出层各神经元的输入 ()1 ()()1,2, p o ho h o h yi k w ho k b o q ==-=∑和输出()()(())1,2, ,o o yo k f yi k o p == Step4.利用网络期望输出和实际输出，计算误差函数对输出层的各神经元的偏导数()o k δ。 o ho o ho yi e e w yi w ???=??? (()) () ()p ho h o o h h ho ho w ho k b yi k ho k w w ?-?==??∑ 2 1 1((()()))2(()())()(()())f (()) () q o o o o o o o o o o o o d k yo k e d k yo k yo k yi yi d k yo k yi k k δ=?-?'==--??'=---∑ Step5.利用隐含层到输出层的连接权值、输出层的()o k δ和隐含层的输出计算误差函数对隐含层各神经元的偏导数()h k δ。 ()()o o h ho o ho yi e e k ho k w yi w δ???==-??? 1() ()(()) () () h ih h ih n ih i h h i i ih ih hi k e e w hi k w w x k b hi k x k w w =???= ????-?==??∑

数学建模中常见的十大模型集团标准化工作小组 #Q8QGGQT-GX8G08Q8-GNQGJ8-MHHGN#

数学建模常用的十大算法==转 (2011-07-24 16:13:14) 1. 蒙特卡罗算法。该算法又称随机性模拟算法，是通过计算机仿真来解决问题的算法，同时可以通过模拟来检验自己模型的正确性，几乎是比赛时必用的方法。 2. 数据拟合、参数估计、插值等数据处理算法。比赛中通常会遇到大量的数据需要处理，而处理数据的关键就在于这些算法，通常使用MATLAB 作为工具。 3. 线性规划、整数规划、多元规划、二次规划等规划类算法。建模竞赛大多数问题属于最优化问题，很多时候这些问题可以用数学规划算法来描述，通常使用Lindo、Lingo 软件求解。 4. 图论算法。这类算法可以分为很多种，包括最短路、网络流、二分图等算法，涉及到图论的问题可以用这些方法解决，需要认真准备。 5. 动态规划、回溯搜索、分治算法、分支定界等计算机算法。这些算法是算法设计中比较常用的方法，竞赛中很多场合会用到。 6. 最优化理论的三大非经典算法：模拟退火算法、神经网络算法、遗传算法。这些问题是用来解决一些较困难的最优化问题的，对于有些问题非常有帮助，但是算法的实现比较困难，需慎重使用。 7. 网格算法和穷举法。两者都是暴力搜索最优点的算法，在很多竞赛题中有应用，当重点讨论模型本身而轻视算法的时候，可以使用这种暴力方案，最好使用一些高级语言作为编程工具。

8. 一些连续数据离散化方法。很多问题都是实际来的，数据可以是连续的，而计算机只能处理离散的数据，因此将其离散化后进行差分代替微分、求和代替积分等思想是非常重要的。 9. 数值分析算法。如果在比赛中采用高级语言进行编程的话，那些数值分析中常用的算法比如方程组求解、矩阵运算、函数积分等算法就需要额外编写库函数进行调用。 10. 图象处理算法。赛题中有一类问题与图形有关，即使问题与图形无关，论文中也会需要图片来说明问题，这些图形如何展示以及如何处理就是需要解决的问题，通常使用MATLAB 进行处理。以下将结合历年的竞赛题，对这十类算法进行详细地说明。以下将结合历年的竞赛题，对这十类算法进行详细地说明。 2 十类算法的详细说明蒙特卡罗算法大多数建模赛题中都离不开计算机仿真，随机性模拟是非常常见的算法之一。举个例子就是97 年的A 题，每个零件都有自己的标定值，也都有自己的容差等级，而求解最优的组合方案将要面对着的是一个极其复杂的公式和108 种容差选取方案，根本不可能去求解析解，那如何去找到最优的方案呢随机性模拟搜索最优方案就是其中的一种方法，在每个零件可行的区间中按照正态分布随机的选取一个标定值和选取一个容差值作为一种方案，然后通过蒙特卡罗算法仿真出大量的方案，从中选取一个最佳的。另一个例子就是去年的彩票第二问，要求设计一种更好的方案，首先方案的优劣取决于很多复杂的因素，同样不可能刻画出一个模型进行求解，只能靠随机仿真模拟。

第1章引言 1.1 人工神经网络的介绍人工神经网络（Artificial Neural Networks, ANN），亦称为神经网络（Neural Networks,NN）,是由大量的处理单元（神经元Neurons）广泛互联而成的网络，是对大脑的抽象、简化和模拟，反映人脑的基本特性.人工神经网络的研究是从人脑的生理结构出发来研究人的智能行为，模拟人脑信息处理的功能.它是根植于神经科学、数学、物理学、计算机科学及工程等科学的一种技术. 人工神经网络是由简单的处理单元所组成的大量并行分布的处理机，这种处理机具有储存和应用经念知识的自然特性，它与人脑的相似之处概括两个方面：一是通过学习过程利用神经网络从外部环境中获取知识；二是内部神经元（突触权值）用来存储获取的知识信息. 人工神经网络具有四个基本特征：（1）非线性非线性关系是自然界的普遍特性.大脑的智慧就是一种非线性现象.人工神经元处于激活或抑制二种不同的状态，这种行为在数学上表现为一种非线性关系.具有阈值的神经元构成的网络具有更好的性能，可以提高容错性和存储容量. （2）非局限性一个神经网络通常由多个神经元广泛连接而成.一个系统的整体行为不仅取决于单个神经元的特征，而且可能主要由单元之间的相互作用、相互连接所决定.通过单元之间的大量连接模拟大脑的非局限性.联想记忆是非局限性的典型例子. （3）非常定性人工神经网络具有自适应、自组织、自学习能力.神经网络不但处理的信息可以有各种变化，而且在处理信息的同时，非线性动力系统本身也在不断变化.经常采用迭代过程描写动力系统的演化过程. （4）非凸性一个系统的演化方向，在一定条件下将取决于某个特定的状态函数.例如能量函数，它的极值相应于系统比较稳定的状态.非凸性是指这种函数有多个极值，故系统具有多个较稳定的平衡态，这将导致系统演化的多样性. 人工神经网络是近年来的热点研究领域，涉及到电子科学技术、信息与通讯工程、计算机科学与技术、电器工程、控制科学与技术等诸多学科，其应用领域包括：建模、时间序列分析、模式识别和控制等，并在不断的拓展.本文正是居于数学建模的神经网路应用. 1.2人工神经网络发展历史 20世纪40年代中期期，在科学发展史上出现了模拟电子计算机和数字电子计算机两种新的计算工具和一种描述神经网络工作的数学模型.由于电子技术(特别是大规模、超大规模集成电路)的发展，使数字电子计算机作为高科技计算工具已发展到当今盛世地步，而人工神经网络模拟仿真生物神经网络的探索则经历了半个世纪的曲折发展道路.

数模十大常用算法及说明 1. 蒙特卡罗算法该算法又称随机性模拟算法，是通过计算机仿真来解决问题的算法，同时可以通过模拟来检验自己模型的正确性，几乎是比赛时必用的方法。 2. 数据拟合、参数估计、插值等数据处理算法比赛中通常会遇到大量的数据需要处理，而处理数据的关键就在于这些算法，通常使用MATLAB 作为工具。 3. 线性规划、整数规划、多元规划、二次规划等规划类算法建模竞赛大多数问题属于最优化问题，很多时候这些问题可以用数学规划算法来描述，通常使用Lindo 、Lingo 软件求解。 4. 图论算法这类算法可以分为很多种，包括最短路、网络流、二分图等算法，涉及到图论的问题可以用这些方法解决，需要认真准备。 5. 动态规划、回溯搜索、分治算法、分支定界等计算机算法这些算法是算法设计中比较常用的方法，竞赛中很多场合会用到。 6. 最优化理论的三大非经典算法：模拟退火算法、神经网络算法、遗传算法这些问题是用来解决一些较困难的最优化问题的，对于有些问题非常有帮助，但是算法的实现比较困难，需慎重使用。 7. 网格算法和穷举法两者都是暴力搜索最优点的算法，在很多竞赛题中有应用，当重点讨论模型本身而轻视算法的时候，可以使用这种暴力方案，最好使用一些高级语言作为编程工具。 8. 一些连续数据离散化方法很多问题都是实际来的，数据可以是连续的，而计算机只能处理离散的数据，因此将其离散化后进行差分代替微分、求和代替积分等思想是非常重要的。 9. 数值分析算法如果在比赛中采用高级语言进行编程的话，那些数值分析中常用的算法比如方程组求解、矩阵运算、函数积分等算法就需要额外编写库函数进行调用。10. 图象处理算法赛题中有一类问题与图形有关，即使问题与图形无关，论文中也会需要图片来说明问题，这些图形如何展示以及如何处理就是需要解决的问题，通常使用MATLAB 进行处理。十类算法的详细说明 1．蒙特卡罗算法大多数建模赛题中都离不开计算机仿真，随机性模拟是非常常见的算法之

数学建模B P神经网络论文

激活函数: ()f ? 误差函数：21 1(()())2q o o o e d k yo k ==-∑ 算法步骤： Step1.网络初始化。给各连接权值分别赋一个区间（-1，1）内的随机数，设定误差函数e ，给定计算精度值ε和最大学习次数M 。 Step2.随机选取第k 个输入样本()12()(),(), ,()n x k x k x k x k =及对应期望输出 ()12()(),(),,()q d k d k d k d k =o Step3.计算隐含层各神经元的输入()1 ()()1,2, ,n h ih i h i hi k w x k b h p ==-=∑和输出 ()()(())1,2, ,h h ho k f hi k h p ==及输出层各神经元的输入 ()1 ()()1,2, p o ho h o h yi k w ho k b o q ==-=∑和输出()()(())1,2, ,o o yo k f yi k o p == Step4.利用网络期望输出和实际输出，计算误差函数对输出层的各神经元的偏导数()o k δ。 o ho o ho yi e e w yi w ???=??? (()) () ()p ho h o o h h ho ho w ho k b yi k ho k w w ?-?==??∑ 2 1 1((()()))2(()())()(()())f (()) () q o o o o o o o o o o o o d k yo k e d k yo k yo k yi yi d k yo k yi k k δ=?-?'==--??'=---∑ Step5.利用隐含层到输出层的连接权值、输出层的()o k δ和隐含层的输出计算误差函数对隐含层各神经元的偏导数()h k δ。