结点站间集装箱班列开行方案的优化模型及算法
第29卷,第1期 中国铁道科学Vol 129No 11
2008年1月 C HINA RA IL WA Y SCIENCE
J anuary ,2008
文章编号:100124632(2008)0120097205
结点站间集装箱班列开行方案的优化模型及算法
闫海峰1,彭其渊1,谭云江2
(1.西南交通大学交通运输学院,四川成都 610031,2.西南交通大学图书馆,四川成都 610031)
摘 要:基于一定的边际假定、定义及其定理,将铁路结点站间集装箱班列开行方案(BCTFP )箱小时消耗最少的优化目标描述为线性阶跃函数,得到BCTFP 的优化模型。在模型中,每支非零箱流均对应1个线性等式约束,且每个约束条件之间没有任何交叉。将该模型改造为不含约束条件的0-1二层线性规划模型:上层规划的目标为箱小时节省最大,下层规划的目标为在给定决策变量条件下的沿途改编箱小时消耗最小。按照适应性遗传算法的思想确定遗传策略,采用协同多群体遗传算法,以有效地克服由于问题本身具有强基因关联和超多峰性质而带来的模式欺骗问题,设计相应的遗传算法。通过对算法每个环节计算复杂度的分析,得到该算法的整体复杂度为O (αn 3ln
βn 2),说明该算法是收敛于全局最优的有效算法。 关键词:集装箱班列;列车编组计划;结点站;箱小时;方案优化;优化模型;遗传算法 中图分类号:U292136 文献标识码:A
收稿日期:2005212230;修订日期:2007209203
基金项目:铁道部科技研究开发计划项目(2002X0192B )
作者简介:闫海峰(1974—
),男,山西定襄人,副教授。 铁路货物列车编组计划(Train Formation Plan ,TFP )问题属于非线性离散规划问题,是N P 完全的[1]。用经典的最优化算法求最优解,算
法的时间都呈指数增长,无法避免算法本身所固有
的维数灾难。
结点站间集装箱班列开行方案(Block Con 2tainer Trains Formation Plan ,BC TFP )优化问题是TFP 问题的1个子类,本文研究BC TFP 的相关模型,设计出有效的算法,快速准确地筛选出满意的BCTFP 。
1 边际假定及相关定义
111 边际假定
(1)综合性假设:把结点站视为“黑箱”系
统[2],只考虑几个重要参数。考虑的参数有:a ij 为结点站i 产生的、到结点站j (i ≠j )消失的1昼夜的箱流量;T ij 为结点站i 发往结点站j 的集装箱班列(Blook Container Trains ,BC T )每昼夜消耗的集结箱小时;t i 为任意直达箱流无改编通过结点站i 时平均每箱节省的时间[3]。
(2)确定性假设:某任意a ij 所对应的径路ρij 是唯一确定,所有结点站都处于整个径路集R =
{ρij }上,且ρij 均能适应箱流强度的要求。
(3)统一性假设:任意2个相邻结点站间必然
要开行集装箱班列。
根据假设条件,将非结点站的分界点省略得到节点集V J ;将任意相邻结点站间的径路简化为1对反向平行弧而得到有向弧集E J ,由此路网可被抽象描述为G J ={V J ,E J }。112 相关定义及其定理
定义1 设有集合A ,对于作用在集合A 上的二元关系:。若①A 中元素个数不少于2个;②Πx ∈A ,Πy ∈A ]x ≠y ;③Πx ∈A ,Πy ∈A ,x ≠y ]x :y 或y :x 有且只有1个成立;④A 中元素的个数不少于3个,Πx ,y ,z ∈A 且x :y ,y :z ,x :z 均成立,则称集合A 为简单有序集,简称有序集[4]。
定理1 ρij 可以唯一地表示为1个有序集V ij ,
V ij 中的元素即为ρij 中所包含的作业站(a ij 的始发、终到及可能的中转结点站),其上的序为a ij 经由各个作业站的先后顺序,即径路方向(证明[4]略)。并将V ij 去掉其第1个和最后1个元素的集合,记为V ′ij 。
定义2 对于有序集V ij ,另一有序集A 若满足①A i A ∩ j A ,则称A 为V ij 的大 子集。 定义3 直达变量y j ij 、1站中转改编变量y k ij 和 多站中转改编变量y A ij ij 为3组0-1决策变量。含义分别为 y j ij = 1 (a ij 由i 站无中转改编直达 输送至j 站) 0 (否则) y k ij = 1 (a ij 在且只在沿途k 结点站 中转改编后输送至j 站)0 (否则) y A ij ij =1 (a ij 在且只在集合A ij 中包含的 各站中转改编后输送至j 站) 0 (否则) (i ∈V J ,j ∈V J , k ∈V ′ij ,i ≠j ≠k ,A ij 为V ij 的大子集) 2 BC TFP 问题的阶跃模型建立 (1)以所消耗的箱小时最少为优化目标构造目 标函数。由于集装箱无论是否进行中转改编,在途中运行的时间可以认为是相同的,所以消耗的箱小时可以只用各支箱流在始发站集结时间和沿途中转改编时间消耗之和来表示。 如果a ij 要开行直达班列,它可能与任何同时经由i ,j 两结点站的长途箱流合并,所包含的最大可能的箱流量记为n a ij ,所对应的集结消耗可以表示为T ij n a ij M ,M >n a ij 且M ∈Z 。[?]为一元运 算,其运算法则为[x ] =y (x ∈R ,y ∈Z ,x +1> y ≥x )。a ij 对应的目标函数为 Z ij =T ij n a ij M + a ij ∑k 1 y k 1ij t k 1+ ∑ A ij y A ij ij ∑ k 2 t k 2 (1) (2)对每支箱流a ij 构造唯一性约束 y j ij + ∑k 1 y k 1 ij +∑ A ij y A ij ij =1 (k 1∈V ′ij ,k 2∈A ij ) (2)(3)把所有单支箱流的目标函数和约束条件构造出来,然后将各支箱流合并起来便可以得到整个路网情形下的BCTFP 阶跃函数模型[M1]。 Z =min ∑i ∑ j z ij |y ∈Ω(3) 式中:y 表示所有决策变量组成的向量;Ω为 [M1]的解空间。 模型[M1]的约束条件非常简单,每支箱流均只对应1个等式约束,且每个约束之间没有交叉,但由于目标函数中含阶跃函数,不存在分解形式,目前还没有十分成熟的算法。 3 BC TFP 问题的0-1BL P 模型转换 遗传算法(Genitic Algorit hm ,GA )在最坏情形下的时间复杂度为O (O (f )n ln n )[5,6],O (f )表示依赖于可行域的适应值函数的复杂度。可以看出,对于某类组合优化问题,只要能构造出相应的多项式时间复杂度O (f ),就可以利用GA 得到1个多项式时间算法,且在采用一定的选择策略情况下,完全收敛于最优解。由此,也可以看到GA 解决该类问题的明显优势。 但是,模型[M1]由于变量个数多和目标函数复杂的特点,在采用GA 求解时,会带来染色体位串过长和适应值函数构造困难的不便。为避免这样现象的发生,必须对模型[M1]进行一定的转换和改进,使其更加适合GA 。 Ben 2Ayed 和Blair 通过将背包问题构造为二层线性规划(Bilevel Linear Programming ,BL P ),从而证明了BL P 是一类N PC 问题[7],同时间接地证明了BC TFP 问题也完全可以构造为BL P 。利用直达去向数远远小于箱流改编方案数的特点,将模型[M1]改造为0-1BL P 模型[M2]。其形式如下: BL P : BL P U :max Z = ∑i ∑ j a ij ∑k t k - ∑i ∑j T ij x ij -F x ij ∈{0,1} (i ≠j 且i ,j ∈V J ;k ∈V ′ij ) BL P L :min F = ∑i ∑ j a ij ∑k t k x ij ∈{0,1} (i ≠j 且i ,j ∈V J ;k ∈l (x ij )) (4) 式中:决策变量x ij 表示从结点站i 到j 是否开行直达班列,如果开行则构造有向弧E ij ,并添加到路网G J 中,这样可以得到从i 到j 的物理径路相同而有向弧序列或结点序列不同的多条指定径路;l (x ij )表示与从i 到j 的指定径路所对应的不同结点序列集合。 [M2]的上层规划BL P U 目标为箱小时节省最大;下层规划BL P L 目标为在给定决策变量x ij 条 89中 国 铁 道 科 学 第29卷 件下求沿途改编箱小时消耗最小。该模型不含其他复杂约束,非常适宜采用GA求解。 4 模型的GA设计 411 遗传策略、参数的选择和确定 适应性GA(t he Adaptive GA,A GA)[8]将控制参数与群体进化过程中的某些指标联系起来,使得控制参数可以在进化过程中自动调整,不仅免去了事先确定1组合适的GA参数的困难,而且可以提高整体的搜索效果。A GA比普通GA具有更好的全局搜索能力和鲁棒性。基于此对[M2]设计相应的遗传参数和策略。 (1)构造n阶方阵(x ij)n×n表示个体x i,其位串长度为L,个体空间为2L。个体x i和[M2]的可行解一一对应,同时x i也是一个有向图关联矩阵。 (2)取BL P U的目标函数作为适应值函数,计算的关键是对F求解。F实质上就是指定径路的任意两点间的最短路问题,且严格地满足三角不等式。对于此问题,Fold算法是目前效果最好的算法,该算法的复杂度在最坏情况下为O(n2)[9]。 (3)对于位串较长的染色体,一般群体规模S 取值为kL,k=115～210[10],可取S=200。初始群体往往采用均匀采样、随机生成一定数目的个体(一般为2S个),然后从中挑出较好者构成。为了使初始群体能够含有尽可能多的模式,尽量减少算法早熟的发生,可以利用初始群体飘移的技术来确定较优良的初始群体。 (4)为保证算法的收敛性和充分体现其搜索特性,采用精英选择策略,并取较小的代距G=013;其余个体采用Baltzmann退火选择策略。 (5)构造基于A GA的适应性一致交叉算子和变异算子(具体构造方法可参见文献[4]和文献[10])。 (6)根据问题的实际情况,取ε=200,当满足相应要求时,算法终止。 412 协同多群体遗传操作设计 在遗传操作过程的设计中,不可能不考虑GA 欺骗问题,它会将搜索过程引向局部极值。另外,上位遗传(一种基因的表达受另一种非等位基因的控制,俗称基因关联[11])也在一定程度上反映了GA搜索的困难程度。由于x ij的取值是由多个车流共同决定的,受其他染色体所控制,因此BC T2 FP问题的GA具有强基因关联和超多峰的性质,在遗传操作时必须采用一定的措施。 协同多群体GA可以有效地克服模式欺骗问题。基本思想为:同时独立进化多个子群体,当子群体均收敛到同一最优解,该问题仅存在此唯一最优解;否则,将子群体的最优解放入最优解点集或小生境核集合。通过计算得出的小生境核半径对各子群体中的个体进行适应值缩减后(具体计算方法可参见文献[4]和文献[10]),重复该进化过程,直到新的最优解质量低于原最优解。一般协同多群体GA的子群体规模相同。 413 G A步骤 BCTFP问题的0-1BL P模型[M2]利用上述设计的算法求解,算法步骤如下。 第1步 初始群体生成,若采用初始群体飘移方法,还需要一定的初始群体飘移操作。 第2步 将初始群体随机平均划分为q个子群体。 第3步 每个子群体按所设计的Boltzmann退火GA求解,并产生最优解。 第4步 将每个子群体产生的最优解X3i放入最优解集X3或小生境核集,并按适应值由高到低排序。 第5步 判断生成的最优解是否达到全局最优要求?若达到,则转第8步;否则,进行第6步。 第6步 生成每个小生境核的半径σsh、适应值调整量f′(x j)。 第7步 按照f′(x j)对各个子群体中的个体适应值进行调整,返回第3步。 第8步 输出最优解,算法终止。 其算法流程如图1所示。 5 算法复杂度分析 从算法流程可以看到,该算法主要的计算工作有下面几个部分。 (1)初始群体生成。不论是采用初始群体飘移,还是随机产生初始群体,其复杂度都是O(kn4)[11]。 (2)子群体分割。只需要进行q次分割,复杂度为O(q)。 (3)子群体遗传进化求最优解。共需进行q次遗传算法的计算,每个子群体规模为n/q,其计算复杂度为O(kn4ln kn2/q)。 (4)最优解集比较排序。q个最优解的排序, 99 第1期 结点站间集装箱班列开行方案的优化模型及算法 图1 BCTFP 问题0-1BL P 模型的GA 流程示意图 按较优的排序算法其复杂度只有O (q )[12]。 (5)小生境核半径计算。需要对q 个最优解分别计算,每个最优解有n 2个分量,每个分量最差需进行4次适应值计算和6次比较,其复杂度为 O (4qn 4 )。 (6)适应值调整量计算。每个最优解要进行 2n 2次适应值计算和比较,其复杂度为O (2qn 4)。 (7)个体适应值调整。最坏情况下每个个体 进行q 次比较核赋值,其复杂度为O (2kqn 2)。 (8)终止判断及最优解输出。其复杂度为 O (kn 2 )。 整个算法每个计算环节的时间复杂度见表1。 表1 BCTFP 问题的G A 各计算环节的复杂度 计算环节 复杂度 初始群体生成O (kn 4)子群体分割 O (q ) 子群体遗传进化求最优解O (kn 4ln kn 2/q )最优解集比较排序O (q )小生境核半径σsh 计算O (4qn 4)适应值调整量计算O (2qn 4)个体适应值调整 O (2kqn 2)终止判断及最优解输出 O (kn 2) 可以看出,整个算法中,初始群体生成、子群体遗传进化搜索、小生境核半径计算和个体适应值调整4个环节的时间复杂度比较高。当协同多群体GA 的重开始次数R max =2,该算法的整体时间复 杂度为O (αn 3ln βn 2 ),充分说明该算法是一个收敛于全局最优的有效算法。 6 结束语 采用上述模型和算法,选取我国53个主要集装箱结点站,以其2010年和2015年的预测集装箱 运量、规划路网为基础,通过对径路确定、箱小时消耗进行计算,最终得出在2010年全路87个、2015年106个不同方向的集装箱班列开行方案[13],说明了上述方法的有效性。参 考 文 献 [1] 彼得?哈默,刘彦佩.组合最优化中的布尔方法[J ].数学研究与评价,1990(10):3002313. (Peter Hamer ,L IU Yanpei.Boolean Method in Combinative Optimization [J ].Journal of Mathematical Research and Exposition ,1990(10):3002313.in Chinese ) [2] 施其洲.铁路网络系统运输能力与车流路径模型[J ].铁道学报,1996,18(4):128. (SHI Qizhou.Models for Rail Network System Transportation Capacity and Traffic Pathing [J ].Journal of the China Railway Society ,1996,18(4):128.in Chinese ) [3] 彭其渊,闫海峰,周 勇.集装箱班列编组计划相关因素分析[J ].中国铁道科学,2003,24(5):1202123. (PEN G Qiyuan ,YAN Haifeng ,ZHOU Y ong.Analysis of Factors Relevant to Formation Plan of Container Blocks [J ].China Railway Science ,2003,24(5):1202123.in Chinese ) [4] 闫海峰.结点站间铁路集装箱运输组织的理论与方法研究[D ].成都:西南交通大学,2004. [5] 徐宗本,陈志平,章祥荪.遗传算法基础理论研究的新近发展[J ].数学进展,2000,29(2):972114. 001中 国 铁 道 科 学 第29卷 (XU Z ongben ,CH EN Zhiping ,ZHAN G Xiangsun.Theoretical Development on G enetic Algorithms :A Review [J ].Advances in Mathematics ,2000,29(2):972114.in Chinese ) [6] Ankenbrandt C A.An Extension to the Theory of Convergence and a Proof of the Time Complexity of Genetic Algo 2 rithms [C]//Foundations of G enetic Algorithms.San Mateo :Morgan Kauf mann ,1991:53268. [7] 刘树安,尹 新,郑秉霖,等.二层线性规划问题的遗传算法求解[J ].系统工程学报,1999,14(3):2802 285. (L IU Shuan ,YIN Xin ,ZH EN G Binglin ,et al.Genetic Algorithms Based Approach for Bi 2Level Linear Program 2ming Problem [J ].Journal of Systems Engineering ,1999,14(3):2802285.in Chinese ) [8] Holland J H.Adaptive in Natural and Artificial Systems :An Introductory Analysis with Applications to Biology , Control ,and Artificial Intelligence [M ].2nd edition.Cambridge :MIT Press ,1992. [9] 王树禾.图论及其算法[M ].合肥:中国科学技术大学出版社,1990:2462249. [10] 李敏强,寇纪淞,林 丹,等.遗传算法的基本理论与应用[M ].北京:科学出版社,2002:2332244,3872399. [11] 杨林美,魏忠民,郭 科,等.初始群体飘移遗传算法用于解混和整数非线性规划问题[J ].物探化探计算技术, 2003,25(3):2532258. (YAN G Linmei ,WEI Zhongmin ,GUO Ke ,et al.An Application of Genetic Algorithms with Initial Group Floating for Mixed Integer Nonlinear Programming [J ].Computing Techniques for G eophysical and G eochemical Explora 2tion ,2003,25(3):2532258.in Chinese ) [12] 傅清祥,王晓东.算法与数据结构[M ].北京:电子工业出版社,2001:2522267. [13] 彭其渊,闫海峰,魏德勇.集装箱班列运输组织[M ].成都:四川科学技术出版社,2005:2212271. Optimization Model and Algorithm of B lock Container T rains Form ation Plan bet w een R ail w ay N et w ork Container Freight Stations YAN Haifeng 1,P EN G Qiyuan 1,TAN Yunjiang 2 (1.School of Traffic and Transportation ,Southwest Jiaotong University ,Chengdu Sichaun 610031,China ; 2.Library ,Southwest Jiaotong University ,Chengdu Sichuan 610031,China ) Abstract :Based on stated boundary assumption ,definition and t heorem ,t he t hesis described t he minimum spending of container hour as linear step f unction to get t he optimization model of Block Container Trains Formation Plan (BCTFP ).In t he model ,each non 2zero container flow corresponded to a linear equation rest ricton wit hout any intercro ssing between each ot her.After t hat ,t he model was t ransformed to a 021Bilevel Linear Programming (BL P )o ne.The objective of BL P upper was t he maximum saving of container hour ,yet wit h t he presented decision 2making variables t hat of BL P lower was t he minimum container hours spent on t he way adaptation.The adaptive GA was adopted to establish t he hereditary st rategy and cooperative multi 2colony GA was applied to overcome t he scheme deceiving resulting from t he st rong gene 2related and many 2ext remumed character possessed by t he p roblem it self.Then ,we designed corresponding GA and presented t he p rocess.Finally ,t hrough t he analysis of calculation complexity of each step of t he algorit hm ,t he whole complexity of t he algorit hm was obtained as O (αn 3 ln βn 2),which showed t hat t he al 2gorit hm is an effective algorit hm t hat converges to t he global optimization solution. K ey w ords :Railway block container t rain ;Train formation plan ;Railway network container f reight sta 2tion ;Container 2hour ;Scheme optimization ;Optimized model ;Genetic algorit hm (责任编辑 刘卫华) 1 01第1期 结点站间集装箱班列开行方案的优化模型及算法 第八章 约束优化最优性条件 §8.1 约束优化问题 一、 问题基本形式 min ()f x 1()0 1,,.. ()0 ,,i e i e c x i m s t c x i m m +==?? ≥=?L L （8.1） 特别地，当()f x 为二次函数，而约束是线性约束时，称为二次规划。 记 {} 1()0 (1,,);()0 ,,i e i e X x c x i m c x i m m +===≥=L L ，称之为可行域（约束域）。 {}1,,e E m =L ，{}1,,e I m m +=L ，{}()()0 i I x i c x i I ==∈ 称()E I x U 是在x X ∈处的积极约束的指标集。积极约束也称有效约束，起作用约束或紧约束（active constraints or binding constraints ）。 应该指出的是，如果x * 是（1）的局部最优解，且有某个0i I ∈，使得 0()0i c x *> 则将此约束去掉，x * 仍是余下问题的局部最优解。 事实上，若x *不是去掉此约束后所得问题的局部极小点，则意味着0δ?>，存在x δ，使得 x x δδ*-<，且()()f x f x δ*<，这里x δ满足新问题的全部约束。注意到当δ充分小时，由0() i c x 的连续性，必有0()0i c x δ≥，由此知x δ是原问题的可行解，但()()f x f x δ*<，这与x * 是局部极小 点矛盾。 因此如果有某种方式，可以知道在最优解x * 处的积极约束指标集()()A x E I x * *=U ，则问题 可转化为等式的约束问题： min ()f x .. ()0i s t c x = ()i A x *∈ （8.2） 一般地，这个问题较原问题（8.1）要简单，但遗憾的是，我们无法预先知道()A x * 。 配套的处理方式；果蔬采后商品化处理量几乎达到了100％，形成了完整的果蔬冷链体系。而我国的产地基础设施不完善，未能解决分选、分级、预冷、冷藏运输和保鲜等采后果蔬的处理问题。我国果蔬冷链存在许多问题：产地预冷环节薄弱；冷藏运输工具落后；冷库发展水平低；缺乏有影响力的第三方冷链物流。我国果蔬冷链发展水平要赶上发达国家还有较长的路要走。 要完善我国的果蔬冷链业，除了大力研发性价比合理、符合国情的相关冷链设备、设施以外；还需要全面的对整个果蔬冷链过程中存在的影响果蔬产品质量的风险因素进行分析和评价，从而一一破解；更需要系统地梳理整个果蔬冷链链条，是指实现协同化，构建果蔬冷链质量质量保障体系。这样才能真正确保果蔬产品的质量安全，确保千万消费者食用上安全放心的果蔬产品。 流线优化模型与算法研究及应用 张锦*（交通与物流学院） 1 研究背景 目前我国物流产业正处于高速发展期，理论体系与应用研究正在不断完善。物流活动的目的就是使物流服务来满足物流需求，即通过仓储、加工、运输、配送、包装、装卸搬运等活动来满足社会经济活动中供应商、制造商、零售商、消费者等需求方的对物的移动、储存与服务的需求。在宏观层面的区域及城市经济和微观层面的制造、贸易、消费等典型社会经济活动中的物流活动可抽象为具有特定需求的空间结构，称作物流需求网络。 在物流系统中，由若干特定的点、线和特定的权构成的，反映物流服务与需求关系的供需网络称之为流线网络，它具有以下典型特征。 1．反映了仓储、加工、运输、配送、包装、装卸搬运等物流服务与需求方在物品数量、到达时间、物流费用等方面的物流需求间的供需关系。 2．具有嵌套、多层、多级、多维、多准则、拥塞等典型的超网络结构特征，并且具有连接供需两个物流网络的超网络结构。 3．当实际需求为特定值时，物流服务追求的目标为用恰当的费用，在恰当的时间把恰当数量的恰当物品，经恰当的路线送到恰当的地点。 物流供应网络与物流需求网络之间的关系可由超网络结构进行刻画，用匹配度刻画物流服务与物流需求之间的适应程度。 2 国内外研究现状 目前，国内外学者对流线的组织与优化问题研究较少，与此问题相关的内容包括物流网络、物流网络分配、动线优化、超网络理论与应用、变分不等式算法及其在供应链网络中的应用等内容。 2.1 物流网络研究现状 国外的学者大都倾向从微观的企业角度去研究物流网络的资源配置和协调问题,如物流基础设施、市场竞争机制以及配送运输等问题。这类研究大多利用数学规划法、系统仿真法、启发式 *作者简介：张锦，男，教授。 基于数学模型的网络优化方法研究 赵鹏 通信一团技术室 摘 要 为了提高网络链路的利用率，解决网络传输中的最大流问题，该文利用建立数学模 型的方法来求解网络的传输路径，研究了基于路径的网络优化方法。该方法能够极大地提高网络的链路利用率，从而降低网络的拥塞，使得网络的性能得到较大改善。 关键词 网络优化 最大流 数学模型 1 引言 随着网络技术的进步和人们对多媒体综合业务需求，传统的数据网络逐渐转向多媒体网络，在这过程中，除了相关服务以外，我们还面临许多极具战性的网络设计和优化问题。网络优化的目标是提高或保持网络质量，而网络质量是各种因素相互作用的结果，随着网络优化工作的深入开展和优化技术的提高，优化的范围也在不断扩大。 在计算机网络优化设计中，各条链路的容量分配和各节点间的路由选择是两个重要问题。在给定网络拓扑结构和各节点间传输流量的条件下，如何确定各条链路的容量大小和选择各节点间的最佳路由，使整个网络成本费用最低并能满足规定的性能指标呢？ 许多网络优化的文献，研究针对CDMA 网络、GPRS 网络、GSM 网络、PHS 网络等具体网络在投入运行后，对网络进行参数采集、数据分析，找出影响网络质量的原因，通过技术手段或参数调整使网络达到最佳运行状态，涉及到交换网络技术、无线参数、小区参数配置、信令和设备技术等方面。 本文针对目前许多网络传输链路和网络设备没有得到充分利用，从而影响网络性能的问题，利用网络优化方法从理论上进行分析，研究了用于提高网络链路利用率的基于路径的网络优化方法，该方法能够充分地利用网络链路进行流量传输，从而改善网络的整体性能。 2 网络优化理论 很多情况下可以将网络优化问题转化成数学问题进行研究和分析。从根本上讲，优化问题包含三个基本要素： 决策变量集合或向量：n R x ∈（本文，x 代表在一条或多条路径上的流量） 目标函数R R x f n →:)( 一组约束条件g(x)和h(x)，用来定义x 的范围。 解决优化问题实际上就是找出一个点x*，使得f(x)最大化或最小化。 典型的网络优化问题包含找出一组路由和该路由上的流量值以便达到最大或最小化目标函数的目的。目标函数可以代表最大链路利用率、平均延迟或其他指标。 基于路径的问题首先要计算出网络流可能流经的路径，要最大限度的利用网络链路，同时路径上的流量不能超过链路容量。 对于基于路径的网络优化问题可以简单表示成： max f(x) s.t. ∑∈=P p p b x 遗传算法优化的BP神经网络建模 十一月匆匆过去，每天依然在忙碌着与文档相关的东西，在寒假前一个多月里，努力做好手头上的事的前提下多学习专业知识，依然是坚持学习与素质提高并重，依然是坚持锻炼身体，为明年找工作打下基础。 遗传算法优化的BP神经网络建模借鉴别人的程序做出的仿真，最近才有时间整理。 目标： 对y=x1^2+x2^2非线性系统进行建模，用1500组数据对网络进行构建网络，500组数据测试网络。由于BP神经网络初始神经元之间的权值和阈值一般随机选择，因此容易陷入局部最小值。本方法使用遗传算法优化初始神经元之间的权值和阈值，并对比使用遗传算法前后的效果。 步骤： 未经遗传算法优化的BP神经网络建模 1、随机生成2000组两维随机数(x1,x2)，并计算对应的输出y=x1^2+x2^2，前1500组数据作为训练数据input_train，后500组数据作为测试数据input_test。并将数据存储在data中待遗传算法中使用相同的数据。 2、数据预处理：归一化处理。 3、构建BP神经网络的隐层数，次数，步长，目标。 4、使用训练数据input_train训练BP神经网络net。 5、用测试数据input_test测试神经网络，并将预测的数据反归一化处理。 6、分析预测数据与期望数据之间的误差。 遗传算法优化的BP神经网络建模 1、读取前面步骤中保存的数据data； 2、对数据进行归一化处理； 3、设置隐层数目； 4、初始化进化次数，种群规模，交叉概率，变异概率 5、对种群进行实数编码，并将预测数据与期望数据之间的误差作为适应度函数； 6、循环进行选择、交叉、变异、计算适应度操作，直到达到进化次数，得到最优的初始权值和阈值； 7、将得到最佳初始权值和阈值来构建BP神经网络； 8、使用训练数据input_train训练BP神经网络net; 9、用测试数据input_test测试神经网络，并将预测的数据反归一化处理； 10、分析预测数据与期望数据之间的误差。 算法流程图如下： function [a,b,n,x]=fibonacci(fname,a,b,d,L) % fname函数句柄，d辨别常数，L最终区间长度a(1)=a; b(1)=b; F=zeros(1,10); %选择fibonacci数列k值为10，可任意更改 F(1)=1; F(2)=2; for k=2:10 %k取到10，生成fibonacci数列 F(k+1)=F(k)+F(k-1); F(k); end Fn=(b(1)-a(1))/L; Fk=[F Fn]; N=sort(Fk); n=find(Fn==N); %查找计算函数值的次数n t(1)=a(1)+F(n-2)*(b(1)-a(1))/F(n); %计算试探点t(1),u(1) u(1)=a(1)+F(n-1)*(b(1)-a(1))/F(n); for k=1:n-2 ft=feval(fname,t(k)); fu=feval(fname,u(k)); if ft>fu a(k+1)=t(k); b(k+1)=b(k); t(k+1)=u(k); u(k+1)=a(k+1)+F(n-k-1)*(b(k+1)-a(k+1))/F(n-k); while k==n-2 t(n)=t(n-1); u(n)=t(n-1)+d; ft=feval(fname,t(n)); fu=feval(fname,u(n)); if ft>fu a(n)=t(n); b(n)=b(n-1); else a(n)=a(n-1); b(n)=t(n); end end else a(k+1)=a(k); b(k+1)=u(k); u(k+1)=t(k); if k~=n-2 t(k+1)=a(k+1)+F(n-k-2)*(b(k+1)-a(k+1))/F(n-k); ft=feval(fname,t(k)); 图论与网络优化课程设计 四种基本网络（NCN、ER、WS、BA） 的构造及其性质比较 摘要：网络科学中被广泛研究的基本网络主要有四种，即：规则网络之最近邻耦合网络（Nearest-neighbor coupled network）,本文中简称NCN；ER随机网络G(N,p)；WS小世界网络；BA无标度网络。本文着重研究这几种网络的构造算法程序。通过运用Matlab软件和NodeXL网络分析软件，计算各种规模下（例如不同节点数、不同重连概率或者连边概率）各自的网络属性(包括边数、度分布、平均路径长度、聚类系数)，给出图、表和图示，并进行比较和分析。 关键字：最近邻耦合网络；ER随机网络；WS小世界网络；BA无标度网络；Matlab；NodeXL。 四种基本网络（NCN、ER、WS、BA） 的构造及其性质比较 1.概述 1.网络科学的概述 网络科学（Network Science）是专门研究复杂网络系统的定性和定量规律的一门崭新的交叉科学，研究涉及到复杂网络的各种拓扑结构及其性质，与动力学特性（或功能）之间相互关系，包括时空斑图的涌现、动力学同步及其产生机制，网络上各种动力学行为和信息的传播、预测（搜索）与控制，以及工程实际所需的网络设计原理及其应用研究，其交叉研究内容十分广泛而丰富。网络科学中被广泛研究的基本网络主要有四种，即：规则网络之最近邻耦合网络（Nearest-neighbor coupled network）,本文中简称NCN；ER随机网络G(N,p)；WS小世界网络；BA无标度网络。本文着重研究这几种网络的构造算法程序。计算各种规模下（例如不同节点数、不同重连概率或者连边概率）各自的网络属性(包括边数、度分布、平均路径长度、聚类系数)，给出图、表和图示，并进行比较和分析。 2.最近邻耦合网络的概述 如果在一个网络中，每一个节点只和它周围的邻居节点相连，那么就称该网络为最近邻耦合网络。这是一个得到大量研究的稀疏的规则网络模型。 常见的一种具有周期边界条件的最近邻耦合网络包含围成一个环的N个节点，其中每K个邻居节点相连，这里K是一个偶数。这类网络的一个重要特征个节点都与它左右各/2 就是网络的拓扑结构是由节点之间的相对位置决定的，随着节点位置的变化网络拓扑结构也可能发生切换。 NCN的Matlab实现： %function b = ncn(N,K) %此函数生成一个有N个节点，每个节点与它左右各K/2个节点都相连的最近邻耦合网络 %返回结果b为该最近邻耦合网络对应的邻接矩阵 function b = ncn(N,K) b=zeros(N); for i = 1:N for j = (i+1):(i+K/2) if j<=N b(i,j)=1; b(j,i)=1; else b(i,j-N)=1; 基于遗传算法的参数优化估算模型 【摘要】支持向量机中参数的设置是模型是否精确和稳定的关键。固定的参数设置往往不能满足优化模型的要求，同时使得学习算法过于死板，不能体现出来算法的智能化优点，因此利用遗传算法（Genetic Algorithm，简称GA）对估算模型的参数进行优化，使得估算模型灵活、智能，更加符合实际工程建模的需求。 【关键词】遗传算法；参数优化；估算模型 1.引言 随着支持向量机估算模型在工程应用的不断深入。研究发现，支持向量机算法(包括LS-SVM算法)存在着一些本身不可避免的缺陷，最为突出的是参数的选取和优化问题，以往在参数选取方面，一般依靠专家系统或者设定初始值盲目搜寻等等，在实际应用必然会影响模型的精准度，造成一定影响。如何选取合理的参数成为支持向量机算法应用过程中应用中关注的问题，同时也是目前应用研究的重点。而常用的交叉验证试算的方法，不仅耗时，且搜索目的不清，使得资源浪费，耗时耗力。不能有效的对参数进行优化。 针对参选取的问题，本文使用GA算法对模型中的参数设置进行优化。 2.遗传算法 2.1 遗传算法的实施过程 遗传算法的实施过程中包括了编码、产生群体、计算适应度、复制、交换、变异等操作。图1详细的描述了遗传算法的流程。 其中，变量GEN是当前进化代数；N是群体规模；M是算法执行的最大次数。 遗传算法在参数寻优过程中，基于生物遗传学的基本原理，模拟自然界生物种群的“物竞天则，适者生存”的自然规律。把自变量看作生物体，把它转化成由基因构成的染色体（个体），把寻优的目标函数定义为适应度，未知函数视为生存环境，通过基因操作（如复制、交换和变异等），最终求出全局最优解。 2.2 GA算法的基本步骤 遗传算法操作的实施过程就是对群体的个体按照自然进化原则（适应度评估）施加一定的操作，从而实现模型中数据的优胜劣汰，使得进化过程趋于完美。从优化搜索角度出发，遗传算法可使问题的解，一代一代地进行优化，并逼近最优解。 通常采用的遗传算法的工作流程和结果形式有Goldberg提出的，常用的GA 算法基本步骤如下： ①选择编码策略，把参数集合X和域转换为位串结构空间S。常用的编码方法有二进制编码和浮点数编码。 ②定义合适的适应度函数，保证适应度函数非负。 ③确定遗传策略，包括选择群体大小，选择、交叉、变异方法，以及确定交叉概率、变异概率等其它参数。 ④随机初始化生成群体N，常用的群体规模：N＝20～200。 ⑤计算群体中个体位串解码后的适应值。 ⑥按照遗传策略，运用选择、交叉和变异算子作用于群体，形成下一代群体。 ⑦判断群体性能是否满足某一个指标，或者以完成预订迭代次数，若满足则 最优化理论与算法笔记 在老师的指导下，我学习了最优化理论与算法这门课程。最优化理论与算法是一个重要的数学分支，它所研究的问题是讨论在众多方案中什么样的方案最优以及怎样找出最优方案。 由于生产和科学研究突飞猛进的发展，特别是计算机的广泛应用，使最优化问题的研究不仅成为了一种迫切的需要，而且有了求解的有力工具，因此迅速发展起来形成一个新的学科。至今已出现了线性规划、整数规划、非线性规划、几何规划、动态规划、随机规划、网络流等许多分支。 整个学习安排如下，首先介绍线性与非线性规划问题，凸集和凸函数等基本知识及线性规划的基本性质；然后再这个基础上学习各种算法，包括单纯形法、两阶段法、大M 法、最速下降法、牛顿法、共轭梯度法等，以及各种算法相关的定理和结论；最后了解各种算法的实际应用。 主要学习的基础知识： 1、一般线性规划问题的标准形式 1min n j j j c x =∑ 1 .., 1,...,, 0, 1,...,. n ij j i j j s t a x b i m x j n ===≥=∑ 学会引入松弛变量将一般问题化为标准问题；同时掌握基本可行解的存在问题，通过学习容易发现线性规划问题的求解，可归结为求最优基本可行解的问题。 2、熟练掌握单纯形法、两阶段法和大M 法的概念及其计算步骤。 单纯形法是一种是用方便、行之有效的重要算法，它已成为线性规划的中心内容。其计算步骤如下： 1）解,B Bx b =求得1B x B b b -==，令0,N x =计算目标函数值B B f c x =； 2)求单纯形乘子ω，解B B c ω= ，得到1B c B ω-=； 3)解k k By p =，若0k y ≤，即k y 的每个分量均非正数，则停止计算，问 题不存在有限最优解，否则，进行步骤（4）； 4)确定下标r ，使min{0}r r rk rk rk b b y y y =>，得到新的基矩阵B ，返回第一 步。 两阶段法：第一阶段是用单纯形法消去人工变量，即把人工变量都变换成非基变量，求出原来问题的一个基本可行解；第二阶段是从得到的基本可行解出发，用单纯形法求线性规划的最优解。 大M 法：在约束中增加人工变量a x ，同时修改目标函数，加上罚项T a Me x ，其中M 是很大的正数，这样，在极小化目标函数的过程中，由于M 的存在，将迫使人工变量离基。 3、掌握最速下降法的概念及其算法，并且能够讨论最速下降算法的收敛性。掌握牛顿法，能够熟练运用牛顿迭代公式：(1) ()2()()()()k k k k x x f x x x +=-?- ，掌 握共轭梯度法及其相关结论，以及其收敛性的讨论，掌握最小二乘法及其基本步骤。 最速下降法：迭代公式为(1) ()()k k k k x x d λ+=-。 计算步骤：1）给定点(1)n x R ∈，允许误差0,ε>臵1k =； 2）计算搜索方向() ()()k k d f x =-?； 3）若() k d ε≤，则停止计算，否则，从()k x 出发，沿()k d 进行一维搜索，求k λ，使()()()() ()min ()k k k k k f x d f x d λλλ≥+=+； 4）令(1) ()()k k k k x x d λ+=-，臵:1k k =+，转步骤（2）。 按模型的数学方法分： 几何模型、图论模型、微分方程模型、概率模型、最优控制模型、规划论模型、马氏链模型等 按模型的特征分： 静态模型和动态模型，确定性模型和随机模型，离散模型和连续性模型，线性模型和非线性模型等 按模型的应用领域分： 人口模型、交通模型、经济模型、生态模型、资源模型、环境模型等。 按建模的目的分： 预测模型、优化模型、决策模型、控制模型等 一般研究数学建模论文的时候，是按照建模的目的去分类的，并且是算法往往也和建模的目的对应 按对模型结构的了解程度分： 有白箱模型、灰箱模型、黑箱模型等 比赛尽量避免使用，黑箱模型、灰箱模型，以及一些主观性模型。 按比赛命题方向分： 国赛一般是离散模型和连续模型各一个，2016美赛六个题目（离散、连续、运筹学/复杂网络、大数据、环境科学、政策） 数学建模十大算法 1、蒙特卡罗算法 （该算法又称随机性模拟算法，是通过计算机仿真来解决问题的算法，同时可以通过模拟可以来检验自己模型的正确性，比较好用的算法） 2、数据拟合、参数估计、插值等数据处理算法 （比赛中通常会遇到大量的数据需要处理，而处理数据的关键就在于这些算法，通常使用Matlab作为工具） 3、线性规划、整数规划、多元规划、二次规划等规划类问题 （建模竞赛大多数问题属于最优化问题，很多时候这些问题可以用数学规划算法来描述，通常使用Lindo、Lingo软件实现） 4、图论算法 （这类算法可以分为很多种，包括最短路、网络流、二分图等算法，涉及到图论的问题可以用这些方法解决，需要认真准备） 5、动态规划、回溯搜索、分治算法、分支定界等计算机算法 （这些算法是算法设计中比较常用的方法，很多场合可以用到竞赛中） 6、最优化理论的三大非经典算法：模拟退火法、神经网络、遗传算法 （这些问题是用来解决一些较困难的最优化问题的算法，对于有些问题非常有帮助，但是算法的实现比较困难，需慎重使用） 7、网格算法和穷举法 （当重点讨论模型本身而轻视算法的时候，可以使用这种暴力方案，最好使用一些高级语言作为编程工具） 8、一些连续离散化方法 （很多问题都是从实际来的，数据可以是连续的，而计算机只认的是离散的数据，因此将其离散化后进行差分代替微分、求和代替积分等思想是非常重要的） 9、数值分析算法 （如果在比赛中采用高级语言进行编程的话，那一些数值分析中常用的算法比如方程组求解、矩阵运算、函数积分等算法就需要额外编写库函数进行调用）10、图象处理算法 （赛题中有一类问题与图形有关，即使与图形无关，论文中也应该要不乏图片的这些图形如何展示，以及如何处理就是需要解决的问题，通常使用Matlab进行处理） 算法简介 1、灰色预测模型（必掌握） 最优化理论与算法（数学专业研究生） 第一章 引论 § 引言 一、历史与现状 最优化理论最早可追溯到古老的极值问题，但成为一门独立的学科则是在20世纪四十年代末至五十年代初。其奠基性工作包括Fritz John 最优性条件（1948），Kuhn-Tucker 最优性条件（1951），和Karush 最优性条件(1939)。近几十年来最优化理论与算法发展十分迅速，应用也越来越广泛。现在已形成一个相当庞大的研究领域。关于最优化理论与方法，狭义的主要指非线性规划的相关内容，而广义的则涵盖：线性规划、非线性规划、动态规划、整数规划、几何规划、多目标规划、随机规划甚至还包括变分、最优控制等动态优化内容。本课程所涉及的内容属于前者。 二、最优化问题的一般形式 1、无约束最优化问题 min ()n x R f x ∈ （） 2、约束最优化问题 min () ()0, ..()0, i i f x c x i E s t c x i I =∈?? ≥∈? （） 这里E 和I 均为指标集。 §数学基础 一、 范数 1. 向量范数 max i x x ∞= （l ∞范数） （） 11n i i x x ==∑ （1l 范数） （） 122 21 ()n i i x x ==∑ （2l 范数） （） 11 ()n p p i p i x x ==∑ （p l 范数） （） 12 ()T A x x Ax = （A 正定） （椭球范数） （） 事实上1－范数、2－范数与∞-范数分别是 p －范数当 p ＝1、2和p →∞时情形。 2．矩阵范数 定义 方阵A 的范数是指与A 相关联并记做A 的一个非负数，它具有下列性质： ① 对于0A ≠都有0A >，而0A =时0A =； ② 对于任意k R ∈，都有kA k A =； ③ A B A B +≤+； ④ AB A B ≤； 若还进一步满足： ⑤ p p Ax A x ≤ 则称之为与向量范数p g 相协调（相容）的方阵范数。若令 max x Ax A x ≠= （这里x 是某一向量范数） （） 可证这样定义的范数是与向量范数g 相协调的，通常称之为由向量范数g 诱导的方阵范数。特别地，对方阵()ij n n A a ?=，有： 11max n ij j i A a ==∑（列和的最大者） （） 1 max n ij i j A a ∞ ==∑（行和的最大者） （） 1 22()T A A A λ=（T A A λ表示T A A 的特征值的最大者） 称为谱范数（注：方阵A 的特征值的模的最大者称为A 的谱半径，记为()A ρ）。 对于由向量诱导的方阵范数，总有： 第九章 二次规划 §9.1 二次规划问题 称形如 1m in ()2 T T Q x x H x g x = + 1,,. 1,,T i i e T i i e a x b i m s t a x b i m m ?==??≥=+?? （9.1） 的非线性规划问题为二次规划问题。对二次规划问题，有如下的最优性条件。 定理9.1 设x *是（9.1）的局部极小点，则必存在乘子(1,,)i i m λ*= ，使得 1 0 1,, 0 1,,m i i i T i i i e i e g H x a a x b i m m i m m λλλ**=*** ?+=? ?? ??-==+????≥=+??? ∑ （9.2） 且对于一切满足于： 0, ()T i d a i E I x * =∈ 的n d R ∈，都有0T d Hd ≥。 注：1）上述定理的前后两部分分别对应于一、二阶的必要条件； 2）满足上述条件的d ，都有(,)d S x λ* * ∈； 3）当约束条件均为线性函数时，容易证明： (,)(,) (,F D x X S F D x X L F D x X * * *= =及(,)(,)S x G x λλ**** = 上面给出的是二次规划的必要性条件，下面给出充分性条件。 定理9.2 设x * 是K-T 点，λ* 是相应的Lagrange 乘子，如果对满足 0 0 () 0 () 0 T i T i T i i d a i E d a i I x d a i I x λ* **?=∈?≥∈??=∈>? 且 （9.3） 的一切非零向量n d R ∈，都有0T d Hd >，则x * 是（9.1）的局部严格极小点。 数学模型的分类 按模型的数学方法分： 几何模型、图论模型、微分方程模型、概率模型、最优控制模型、规划论模型、马氏链模型等 按模型的特征分： 静态模型和动态模型，确定性模型和随机模型，离散模型和连续性模型，线性模型和非线性模型等 按模型的应用领域分： 人口模型、交通模型、经济模型、生态模型、资源模型、环境模型等。 按建模的目的分： 预测模型、优化模型、决策模型、控制模型等 一般研究数学建模论文的时候，是按照建模的目的去分类的，并且是算法往往也和建模的目的对应 按对模型结构的了解程度分： 有白箱模型、灰箱模型、黑箱模型等 比赛尽量避免使用，黑箱模型、灰箱模型，以及一些主观性模型。 按比赛命题方向分： 国赛一般是离散模型和连续模型各一个，2016美赛六个题目（离散、连续、运筹学/复杂网络、大数据、环境科学、政策） 数学建模十大算法 1、蒙特卡罗算法 （该算法又称随机性模拟算法，是通过计算机仿真来解决问题的算法，同时可以通过模拟可以来检验自己模型的正确性，比较好用的算法） 2、数据拟合、参数估计、插值等数据处理算法 （比赛中通常会遇到大量的数据需要处理，而处理数据的关键就在于这些算法，通常使用Matlab作为工具） 3、线性规划、整数规划、多元规划、二次规划等规划类问题 （建模竞赛大多数问题属于最优化问题，很多时候这些问题可以用数学规划算法来描述，通常使用Lindo、Lingo软件实现） 4、图论算法 （这类算法可以分为很多种，包括最短路、网络流、二分图等算法，涉及到图论的问题可以用这些方法解决，需要认真准备） 5、动态规划、回溯搜索、分治算法、分支定界等计算机算法 （这些算法是算法设计中比较常用的方法，很多场合可以用到竞赛中） 6、最优化理论的三大非经典算法：模拟退火法、神经网络、遗传算法 （这些问题是用来解决一些较困难的最优化问题的算法，对于有些问题非常有帮助，但是算法的实现比较困难，需慎重使用） 7、网格算法和穷举法 （当重点讨论模型本身而轻视算法的时候，可以使用这种暴力方案，最好使用一些高级语言作为编程工具） 8、一些连续离散化方法 （很多问题都是从实际来的，数据可以是连续的，而计算机只认的是离散的数据，因此将其离散化后进行差分代替微分、求和代替积分等思想是非常重要的） 9、数值分析算法 （如果在比赛中采用高级语言进行编程的话，那一些数值分析中常用的算法比如方程组求解、矩阵运算、函数积分等算法就需要额外编写库函数进行调用） 10、图象处理算法 （赛题中有一类问题与图形有关，即使与图形无关，论文中也应该要不乏图片的这些图形如何展示，以及如何处理就是需要解决的问题，通常使用Matlab进行处理） 算法简介 1、灰色预测模型（必掌握） 解决预测类型题目。由于属于灰箱模型，一般比赛期间不优先使用。 满足两个条件可用： ①数据样本点个数少，6-15个 ②数据呈现指数或曲线的形式 2、微分方程预测（高大上、备用） 微分方程预测是方程类模型中最常见的一种算法。近几年比赛都有体现，但其中的要求，不言而喻。学习过程中 无法直接找到原始数据之间的关系，但可以找到原始数据变化速度之间的关系，通过公式推导转化为原始数据的关系。 3、回归分析预测（必掌握） 求一个因变量与若干自变量之间的关系，若自变量变化后，求因变量如何变化； 样本点的个数有要求： ①自变量之间协方差比较小，最好趋近于0，自变量间的相关性小； ②样本点的个数n＞3k+1，k为自变量的个数； 一. 管理科学的定义 管理科学是对与定量因素有关的管理问题通过应用科学的方法进行辅助管理决策制定的一门学科. (1) 定量因素(2) 科学的方法(3) 辅助决策制定 二.用管理科学的方法解决问题的基本步骤. （1） 提出问题，并根据需要收录有关数据信息。管理科学工作者向管理者咨询、鉴别所 要考虑的问题以确定合理的目标，然后根据要求收集一些关键数据，并对数据作相应的分析。 （2） 建立模型，引入决策变量，确定目标函数（约束条件）。建模过程是一项创造性的 工作，在处理实际问题时，一般没有一个唯一正确的模型，而是有多种不同的方案。建模是一个演进过程，从一个初始模型往往需要不断的完善渐渐演化成一个完整的数学模型。 （3） 从模型中形成一个对问题求解的算法。要在计算机上运行数学程序对模型进行求 解，一般情况下能找到对模型求解的标准软件。例如，对线性规划问题已有Excel 、Cplex 、Lingo 等标准软件求解。有时要自己编写程序。 （4） 测试模型并在必要时修正。在模型求解后，需要对模型进行检验，以保证该模型能 准确反映实际问题，需要检验模型提供的解是否合理，所有主要相关因素是否已考虑，当有些条件变化时，解如何变化等。 （5） 应用模型分析问题以及提出管理建议。对模型求解并分析后，将相应的最优方案提 交给管理者，由管理者做出决策。管理科学工作者并不作管理决策，其研究只是对涉及的问题进行分析并向管理者提出建议。管理者还要考虑管理科学以外的众多因素才能做出决策。 （6） 帮助实施管理决策。建议被管理者采纳以后，一旦做出管理决策一般要求帮助监督 决策方案的实施。 新问题, 新模型, 新算法, 新应用. 三.优化问题的数学模型 1212max(min)(,,,) (,,)0..1,2,n j n Z f x x x g x x x s t j m =≤?? =? 由于,j f g 是非线性函数时，此问题是非线性优化问题, 求解较复杂。我们主要讨论线性优化问题，常见的形式：混合整数规划 （1） max 0 0 Z CX hY AX GY b X Y =++≤≥≥取整数 其中111,,,,m n m p m n p A G b C h ?????，不失一般性，我们假定,,,,C h A G b 都是整数矩阵。 当0p =时，（1）为纯整数规划，当0n =时，（1）为线性规划。 第五章 拟牛顿法 §5.1 拟牛顿法 牛顿法具有收敛速度快的优点，但需要计算Hesse 矩阵的逆，计算量大。本章介绍的拟牛顿法将用较简单的方式得到Hesse 矩阵或其逆的近似，一方面计算量不大，另一方面具有较快的收敛速度，这类算法是无约束最优化问题最重要的求解方法。 一、拟牛顿条件 设()f x 在n R 上二次可微，为了获得Hesse 矩阵2 ()()G x f x =?在1k x +处的近似，先研究如下 问题。考虑()f x 在1k x +附近的二次近似： 1111111 )()()()2 ()(T T k k k k k k g x x G x f x f x x x x +++++++-+ --≈. 两边求导，有 111()()k k k g x g G x x +++≈+- 令k x x =，有 111()k k k k k g g G x x +++≈+- 再令 1k k k s x x +≈-，1k k k y g g +≈- 则有 1k k k y G s +≈ 或 1 1k k k G y s -+≈. 因此，我们要求构造出的Hesse 矩阵的近似1k B +或Hesse 矩阵逆的近似1k H +应分别满足： 1k k k B s y += 或 1k k k H y s += （5.1） 它们均称之为拟牛顿条件。 二、一般拟牛顿算法 1） 给出初始点0x R ∈，0H I =，0ε>，:0k =. 2） 若k g ε≤，停止；否则，计算k k k d H g =-（拟牛顿方向）. 3） 沿方向k d 进行线性搜索，0k α>（可以是精确，也可非精确）.令1k k k k x x d α+=+. 4） 校正k H 产生1k H +，使拟牛顿条件满足. 5） :1k k =+， 转2） title: 机器?学习算法系列列（20）：项?目模型优化四要素 date: 2017-06-16 23:14:45 categories: 机器?学习 tags: - 业务 - 特征 - 数据 - 模型 本?文转载?自美团点评技术团队博客，该?文以业界视?角介绍了了机器?学习如何发挥其实际价值。作者胡淏，?目前是美团算法?工程师，毕业于哥伦?比亚?大学。先后在携程、?支付宝、美团从事算法开发?工作。了了解?风控、基因、旅游、即时物流相关问题的?行行业领先算法?方案与流程。图1 机器?学习?工程师的知识图谱 上图列列出了了我认为?一个成功的机器?学习?工程师需要关注和积累的点。机器?学习实践中，我们平时 机器?学习算法系列列（20）：项?目模型优化四要素 mathjax2: true ?一、机器?学习?工程师的知识图谱 都在积累?自?己的“弹药库”：分类、回归、?无监督模型、Kaggle 上特征变换的?黑魔法、样本失衡的处理理办法、缺失值填充......这些?大概可以归类成模型和特征两个点。我们需要参考成熟的做法、论?文，并?自?己实现，此外还需要多反思?自?己?方法上是否还可以改进。如果模型和特征这俩个点都已经做的很好了了，你就拥有了了?一张绿卡，能跨过在数据相关?行行业发挥模型技术价值的准?入?门槛。在这个时候，?比较关键的?一步，就是搞笑的技术变现能?力力。 所谓?高效，就是解决业务核?心问题的专业能?力力。本?文将描述这些专业能?力力，也就是模型优化的四个要素：模型、数据、特征、业务，还有更更重要的，就是他们在模型项?目中的优先级。项?目推进过程中，四个要素相互之间的优先级?大致是：业务>特征>数据>模型。 图2 四要素解决问题细分+优先级 ?一个模型项?目有好的技术选型、完备的特征体系、?高质量量的数据?一定是很加分的，不不过真正决定项?目好与坏还有?一个?大前提，就是在这个项?目的技术?目标是否在解决当下核?心业务问题。 业务问题包含两个?方?面：业务KPI 和Deadline 。举个例例?子，业务问题在两周之内降低?目前?手机丢失带来的?支付宝销赃?风险。这时如果你的?方案是研发?手机丢失的核?心特征，?比如改密是否合理理，基本上就死的很惨，因为两周根本完不不成，改密合理理性也未必是模型优化好的切?入点；反之，如果你的?方案是和运营同学看bad case ，梳理理现阶段的作案通?用?手段，并通过分析上线?一个简单模型或者业务规则的补丁，就明智很多。如果上线之后，案件量量真掉下来了了，就算你的?方案准确率很糟糕、?方法很low ，但你解决了了业务问题，这才是最重要的。 虽然业务?目标很关键，不不过?一般讲，业务运营同学真的不不太懂得如何和技术有效的沟通业务?目 ?二、模型项?目推进的四要素 2.1 业务 第八章 约束优化最优性条件 §8.1 约束优化问题 一、 问题基本形式 min ()f x 1()0 1,,.. ()0 ,,i e i e c x i m s t c x i m m +==?? ≥=? （8.1） 特别地，当()f x 为二次函数，而约束是线性约束时，称为二次规划。 记 { }1()0 (1, ,);()0 , ,i e i e X x c x i m c x i m m +===≥=，称之为可行域（约束域） 。 {}1, ,e E m =，{}1, ,e I m m +=，{}()()0 i I x i c x i I ==∈ 称()E I x 是在x X ∈处的积极约束的指标集。 积极约束也称有效约束，起作用约束或紧约束（active constraints or binding constraints ）。 应该指出的是，如果x * 是（1）的局部最优解，且有某个0i I ∈，使得 0()0i c x *> 则将此约束去掉，x * 仍是余下问题的局部最优解。 事实上，若x *不是去掉此约束后所得问题的局部极小点，则意味着0δ?>，存在x δ，使得 x x δδ*-<，且()()f x f x δ*<，这里x δ满足新问题的全部约束。注意到当δ充分小时，由0() i c x 的连续性，必有0()0i c x δ≥，由此知x δ是原问题的可行解，但()()f x f x δ*<，这与x * 是局部极小 点矛盾。 因此如果有某种方式，可以知道在最优解x * 处的积极约束指标集()()A x E I x **=，则问题 可转化为等式的约束问题： min ()f x .. ()0i s t c x = ()i A x *∈ （8.2） 一般地，这个问题较原问题（8.1）要简单，但遗憾的是，我们无法预先知道()A x * 。 第四章 共轭梯度法 §4.1 共轭方向法 共轭方向法是无约束最优化问题的一类重要算法。它一方面克服了最速下降法中，迭代点列呈锯齿形前进，收敛慢的缺点，同时又不像牛顿法中计算牛顿方向耗费大量的工作量，尤其是共轭方向法具有所谓二次收敛性质，即当将其用于二次函数时，具有有限终止性质。 一、共轭方向 定义4.1 设G 是n n ?对称正定矩阵，1d ，2d 是n 维非零向量，若 120T d Gd = （4.1） 则称1d ，2d 是G －共轭的。类似地，设1,,m d d L 是n R 中一组非零向量。若 0T i j d Gd =()i j ≠ （4.2） 则称向量组1,,m d d L 是G －共轭的。 注：(1) 当G I =时，共轭性就变为正交性，故共轭是正交概念的推广。 (2) 若1,,m d d L G －共轭，则它们必线性无关。 二、共轭方向法 共轭方向法就是按照一组彼此共轭方向依次搜索。 模式算法： 1）给出初始点0x ，计算00()g g x =，计算0d ，使000T d g <，:0k = （初始共轭方向）； 2）计算k α和1k x +，使得0 ()min ()k k k k k f x d f x d ααα≥+=+，令1k k k k x x d α+=+； 3）计算1k d +，使10T k j d Gd +=，0,1,,j k =L ，令:1k k =+，转2）。 三、共轭方向法的基本定理 共轭方向法最重要的性质就是：当算法用于正定二次函数时，可以在有限多次迭代后终止，得到最优解（当然要执行精确一维搜索）。 定理4.2 对于正定二次函数，共轭方向法至多经过n 步精确搜索终止；且对每个1i x +，都是()f x 在 线性流形00,i j j j j x x x d αα=???? =+??????? ∑中的极小点。 证明：首先证明对所有的1i n ≤-，都有 10T i j g d +=，0,1,,j i =L （即每个迭代点处的梯度与以前的搜索方向均正交） 事实上，由于目标函数是二次函数，因而有 ()11k k k k k k g g G x x Gd α++-=-= 1）当j i <时， () 1 1 11i T T T i j j j k k j k j g d g d g g d +++=+=+ -∑ 1 1 0i T T j j k k j k j g d d Gd α+=+=+ =∑ 2）当j i =时，由精确搜索性质知： 10T i j g d += 综上所述，有 10T i j g d += (0,1,,)j i =L 。 再证算法的有限终止结论。若有某个10i g +=（1i n <-），则结论已知。若不然，那么由上面已证则必有： 0T n j g d = (0,,1)j n =-L 。 而由于01,,n d d -L 是n R 的一组基，由此可得0n g =。故至多经过n 次精确一维搜索即可获得最优解。 下面证明定理的后半部分。由于 1()2 T T f x x Gx b x c = ++ 是正定二次函数，那么可以证明 数学建模常用算法模型文件编码（GHTU-UITID-GGBKT-POIU-WUUI-8968） 数学模型的分类 按模型的数学方法分： 几何模型、图论模型、微分方程模型、概率模型、最优控制模型、规划论模型、马氏链模型等 按模型的特征分： 静态模型和动态模型，确定性模型和随机模型，离散模型和连续性模型，线性模型和非线性模型等 按模型的应用领域分： 人口模型、交通模型、经济模型、生态模型、资源模型、环境模型等。 按建模的目的分： 预测模型、优化模型、决策模型、控制模型等 一般研究数学建模论文的时候，是按照建模的目的去分类的，并且是算法往往也和建模的目的对应 按对模型结构的了解程度分： 有白箱模型、灰箱模型、黑箱模型等 比赛尽量避免使用，黑箱模型、灰箱模型，以及一些主观性模型。 按比赛命题方向分： 国赛一般是离散模型和连续模型各一个，2016美赛六个题目（离散、连续、运筹学/复杂网络、大数据、环境科学、政策） 数学建模十大算法 1、蒙特卡罗算法 （该算法又称随机性模拟算法，是通过计算机仿真来解决问题的算法，同时可以通过模拟可以来检验自己模型的正确性，比较好用的算法） 2、数据拟合、参数估计、插值等数据处理算法 （比赛中通常会遇到大量的数据需要处理，而处理数据的关键就在于这些算法，通常使用Matlab作为工具） 3、线性规划、整数规划、多元规划、二次规划等规划类问题 （建模竞赛大多数问题属于最优化问题，很多时候这些问题可以用数学规划算法来描述，通常使用Lindo、Lingo软件实现） 4、图论算法 （这类算法可以分为很多种，包括最短路、网络流、二分图等算法，涉及到图论的问题可以用这些方法解决，需要认真准备） 5、动态规划、回溯搜索、分治算法、分支定界等计算机算法 （这些算法是算法设计中比较常用的方法，很多场合可以用到竞赛中） 6、最优化理论的三大非经典算法：模拟退火法、神经网络、遗传算法 （这些问题是用来解决一些较困难的最优化问题的算法，对于有些问题非常有帮助，但是算法的实现比较困难，需慎重使用） 7、网格算法和穷举法 （当重点讨论模型本身而轻视算法的时候，可以使用这种暴力方案，最好使用一些高级语言作为编程工具） 8、一些连续离散化方法 （很多问题都是从实际来的，数据可以是连续的，而计算机只认的是离散的数据，因此将其离散化后进行差分代替微分、求和代替积分等思想是非常重要的） 9、数值分析算法最优化理论与算法(第八章)
流线优化模型与算法研究及应用
基于数学模型的网络优化方法研究
遗传算法优化的BP神经网络建模[精选.]
最优化理论与算法 fibonacci法
图论与网络优化课程设计_Matlab实现
基于遗传算法的参数优化估算模型
最优化理论与算法
数学建模常用算法模型
最优化理论与算法
最优化理论与算法(第九章)
最新数学建模常用算法模型资料
优化问题的数学模型
最优化理论与算法(第五章)
机器学习算法系列(20)：项目模型优化四要素
最优化理论与算法第八章
最优化理论与算法(第四章的)
数学建模常用算法模型