基于混沌搜索的混和粒子群优化算法_张劲松

收稿日期:2005-12-29

基金项目:山东省自然科学基金资助项目(Y2003G01);山东省优秀中青年科学家奖励基金项目(2004BS01004)作者简介:张劲松(1976-),男,山东济南人,博士研究生,主要研究方向为生产调度、智能建模与智能算法.

E -mail :pinestudio @s ohu .com

　文章编号:1672-3961(2007)01-0047-04

基于混沌搜索的混和粒子群优化算法

张劲松1

,李歧强1

,王朝霞

2

(1.山东大学　控制科学与工程学院,　山东　济南　250061;2.山东轻工业学院　电子信息与控制工程学院,　山东　济南　250353)

摘要:所提出的算法将粒子群优化算法和混沌算法相结合,既摆脱了算法搜索后期易陷入局部极值点的缺点,同时又保持了前期搜索的快速性.最后通过4个测试函数将该算法与基本粒子群算法进行仿真对比,比较结果表明基于混沌搜索的混和粒子群优化算法在收敛性和稳定性等方面明显优于基本粒子群优化算法.关键词:粒子群优化算法;混沌搜索;混和算法;遍历性;局部极值中图分类号:TP301.6 文献标识码:A

Hybrid particle swarm optimization algorithm based on the chaos search

ZHANG Jin -song 1

,　LI Qi -qiang 1

,　W ANG Zhao -xia

2

(1.School of Contr ol Science and Engineering ,　Shandong University ,　Jinan 250061,　China ;

2.College of Electr onic Infor mation and Control Engineering ,　Shandong Institute of

Light Industry ,　Jinan 250353,　China )

A bstract :A hybrid particle swar m optimization algorithm based on the chaos search is pr oposed .It can not only overcome the disadvantage of easily getting into the local extre mum in the later evolution period ,but also keep the rapidity of the previous period .Finally ,the basic particle swar m optimization algorithm is compared with the hybrid algorithm .The experiment results demonstrate that the ne w algorithm proposed is better than the basic particle s war m optimization algorithm in the aspects of conver gence and stability .

Key words :particle swarm optimization algorithm ;chaos search ;hybrid algorithm ;ergodicity ;local extre -mum

0　引言

传统的粒子群优化算法(particle swarm optimiza -tion ,PSO )收敛速度快,运算简单,易于实现【1】

,可用于解决大量非线性、不可微和多峰值的复杂问题优化,并已广泛应用于科学和工程领域,如函数优化【2】、神经网络训练【3】、模式分类【4】

、模糊系统控制【5】

等.但PSO 在进化后期易陷于局部极小点,算法所能达到的精度较差.而混沌搜索具有遍历性、随

机性、“规律性”等特点【6】

,能在一定范围内按其自身

的“规律”不重复地遍历所有状态,在搜索过程中可

以避免陷入局部极小点【7】

,但当搜索空间大时其效

果却不能令人满意【8】

.笔者在传统粒子群优化算法的基础上结合混沌搜索的方法,提出一种新的组合优化方法.该算法充分利用粒子群算法运算简单、早期收敛速度快和混沌算法遍历性的特点,在运用粒子群算法进行全局搜索得到局部最优解的基础上,再以该解为中心利用混沌搜索算法进行二次寻优.这样可有效克服传统粒子群算法易陷入局部极小值

　第37卷　第1期Vol .37　No .1 山　东　大　学　学　报　(工　学　版)JOUR N AL OF SHAND ONG U NIVER SITY (ENGINEER IN G SCIE NCE )

2007年2月　

Feb .2007　

和混沌算法搜索空间大、收敛缓慢的缺点.

1　算法介绍

1.1　粒子群算法【9】

假设在一个D维的目标搜索空间中,有m个粒子组成一个群落,其中第i个粒子表示为一个D 维的向量x i=(x i1,x i2,…,x iD),i=1,2,…,m,即第i个粒子在D维的搜索空间中的位置是x i.换言之,每个粒子的位置就是一个潜在的解.将x i带入一个目标函数就可以计算出其适应值,根据适应值的大小衡量x i的优劣.第i个粒子的“飞翔”速度也是一个D维的向量,记为v i=(v i1,v i2,…,v iD).记第i 个粒子迄今为止搜索到的最优位置为p i=(p i1,p i2,…,p iD),整个粒子群迄今为止搜索到的最优位置为p g=(p g1,p g2,…,p g D).

每个粒子的速度和位置按如下公式进行变化(“飞行”):

　v id=ωv id+c1r1(p id-x id)+c2r2(p g d-x id),(1)

x id=x id+v id.(2)其中,i=1,2,…,m;d=1,2,…,D;ω是非负数,称为惯性因子;学习因子c1和c2是非负常数;r1和r2是介于[0,1]之间的随机数.v id∈[-v max,v max],v max 是常数,由用户设定.实验中PSO算法均采用文献【10】所推荐的参数,加速因子c1=c2=1.49,学习因子ω=0.729.迭代中止条件根据具体问题一般选为最大迭代次数或粒子群迄今为止搜索到的最优位置满足预定最小适应度阈值.

PSO算法需要用户确定的参数并不多,而且操作简单,故使用比较方便.而且PSO算法的收敛速度快(特别是在进化初期),运算简单、易于实现,没有遗传算法的编解码和杂交、变异等复杂运算,但是它的缺点是易陷入局部极小点,搜索精度不高. 1.2　混沌搜索算法

首先选择用于载波的混沌变量.选用式(3)所示的Logistic映射.

t k+1=μt k(1-t k),k=0,1,2,…;t0∈[0,1].(3)其中μ是控制参量,取μ=4.设0≤x0≤1,n=0,1, 2,….不难证明μ=4时系统(3)完全处于混沌状态.利用混沌对初值敏感的特点,赋给式(3)i个微小差异的初值即可得到i个混沌变量.

设一类连续对象的优化问题为

min f(x),

a i≤x i≤

b i,i=1,…,n,x=(x1,x2,…,x n).混沌优化方法的基本步骤如下:

(1)算法初始化:设置最大迭代次数M,置k= 1,对式(3)中的t k,分别赋于n个具有微小差异的初值,则可得到n个轨迹不同的混沌变量t i(k);

(2)用混沌变量进行搜索:

x i(k)=x＊i+δi t i(k)+d i,(4)δi,d i可根据实际情况而定,x＊i为当前最优解的第i个分量.计算性能指标f(k)=f(x(k)),x(k)= (x1(k),x2(k),…,x n(k));

(3)如果f(k)

(4)当k>M时,f＊保持不变,结束;否则令k= k+1,转步骤(2).

将混沌算法用于粒子群算法时,为了防止出现单侧搜索的现象,修改式(4)为

x i(k)=x＊i+2δi[

1

2

-t i(k)]+d i,

因为2[

1

2

-t i(k)]∈[-1,1],所以这样可以在局部

最优点附近产生正负两个方向的扰动,有利于扩大搜索范围,摆脱局部极值点.

1.3　基于混沌搜索的粒子群算法

不难发现,如果粒子群的历史最优粒子位置p g 在较长时间内未发生变化,则粒子群很接近p g,其速度更新将主要由ωv id来决定,ω<1时速度将越来越小,因此粒子群表现出强烈的“趋同性”,当粒子数较少时,表现在优化性能上就是收敛速度快,但易陷入局部极值点.

本文中提出的基于混沌搜索的粒子群优化算法是以基本粒子群优化算法的运算流程作为主体流程,把混沌搜索机制引入其中,以此来增强全局搜索能力,摆脱局部极值点的吸引,同时又不降低收敛速度和搜索精度.其基本的执行过程是先随机产生初始群体,然后开始随机搜索,通过基本的粒子群优化算法(式(1),(2))来产生一组新的个体.当整个粒子群历史最优粒子位置p g连续不变化或变化极小时,在p g为中心的一定范围内进行混沌搜索,将混沌搜索得到的最优解x′作为新的p g继续原粒子群算法的求解.

其具体的算法流程如下:

(1)初始化参数:学习因子c1和c2,惯性因子ω,最大迭代次数M,控制参量μ,混沌搜索起始迭代次数T;

(2)初始化一群微粒(群体规模为m),包括随机位置和速度;

(3)评价每个微粒的目标适应度,确定第i个

　48　山　东　大　学　学　报　(工　学　版)第37卷　

粒子迄今为止搜索到的最优位置p i=(p i1,p i2,…, p iD),和整个粒子群迄今为止搜索到的最优位置p g=(p g1,p g2,…,p g D);

(4)采用式(1),(2)对种群中的粒子进行一次迭代操作,若当前最优个体满足收敛条件或达到最大迭代次数,转步骤(6);

(5)如果整个粒子群历史最优粒子位置p g在进行了T次粒子群迭代运算之后不变化或变化极小,则令x＊i=p gi,采用节1.2的混沌搜索算法进行寻优得到最优值x′i,p gi=x′i,转步骤(3)继续下一次粒子群算法,否则直接转步骤(3);

(6)进化过程结束,返回全局最优解.

2　仿真比较

采用下面4个典型测试函数来评价所提出的基于混沌搜索的混和粒子群算法的性能,这些函数具有连续不连续、凸非凸、单峰多峰等特点,经常被国内外学者用于对优化问题的测试.

(1)F1=∑2

i=1

x2i,-5.12≤x i≤5.12,在[-5.12, 5.12]区间内有一个全局最小值点(0,0),全局最小值为0.

(2)F2=x2-0.4c os(3πx)+2y2-0.6cos(4πy)+ 1,-10≤x,y≤10,在[-10,10]区间内有一个全局最小值点(0,0),全局最小值为0.

(3)F3=1

4000

(x2+y2)-cos(x)cos(y2)+1, -600≤x,y≤600,在[-600,600]区间内有一个全局最小值点(0,0),全局最小值为0.

(4)F4=sin

2x2+y2-0.5

(1+0.001(x2+y2))2

+0.5,-100<

x,y<100,在[-100,100]区间内有一个全局最小值点(0,0),全局最小值为0.

算法的初始化参数如下:粒子群规模M=20,学习因子C1=C2=1.49,惯性因子ω=0.79,最大迭代次数M=1200,混沌搜索起始迭代次数T= 300.用VC++6.0分别编写了基本粒子群算法和基于混沌搜索的混和粒子群算法仿真程序,各连续运行500次,将所得函数全局最小值点、全局最小值的平均值以及全局最小值的标准差作为算法的衡量指标,列于表1进行比较.其中最优解的平均值反映了解的优劣,最优解的标准差反映了算法的稳定性.

表1　基本粒子群优化算法和基于混沌搜索的混和粒子群算法仿真结果对比

Table1　The comparison of the simulation of the basic PSO algorithm and the h ybrid PSO algorithm based on the chaos search

函数

基本粒子群算法

全局最小值点

全局最小值

的平均值

全局最小值

的标准差

基于混沌搜索的粒子群算法

全局最小值点

全局最小值

的平均值

全局最小值

的标准差

F

1

(0.012602,0.002270)0.0000620.000092(-0.000326,0.002293)0.0000570.000077

F2(0.001207,-0.007798)0.0133970.028226(-0.003009,-0.001897)0.0030680.002943

F

3

(0.028423,0.058369)0.0112740.007175(-0.008730,-0.000662)0.0066550.005848

F

4

(-0.057046,0.0285851)0.0090190.003079(-0.004760,0.005788)0.0001750.000143 图1～4是函数F1～F4的寻优曲线.

图1　函数F1的寻优曲线Fig.1　The search locus of function F1

图2　函数F2的寻优曲线Fig.2　The search locus of function F2

　第1期张劲松,等:基于混沌搜索的混和粒子群优化算法49

图3　函数F3的寻优曲线

Fig.3　The search locus of function F 3

图4　函数F

4

的寻优曲线

Fig.4　The search locus of function F

4

图中横轴表示进化次数,纵轴表示适应度值的对数(即每次搜索所得全局最小值的对数).实线对应于基本粒子群优化算法,虚线对应于基于混沌搜索的混和粒子群算法.从图中可以看出,基本粒子群算法在进化后期陷入了局部极值,而基于混沌搜索的粒子群算法却摆脱了局部极值而搜索到了更优的解.对其它一些函数所做的计算机仿真结果亦说明了这一点,限于篇幅,这里就不再给出结果了.

通过表1中的数据比较可以看出,用该混和优化算法求得的全局最小值的平均值均小于用基本粒子群算法求得的结果,因而在算法的收敛性上明显优于基本粒子群算法.而用该混和算法求得的全局最小值的标准差也均小于用基本粒子群算法求得的结果,因而在算法的稳定性方面也明显优于基本粒子群优化算法.

在仿真的过程中发现,混沌搜索过程中参数的选择非常重要.由于整个算法是以粒子群算法为主导,希望混沌搜索只是在粒子群算法陷入局部极小值点的时候才发挥作用,因此,混沌搜索的开始时间不宜太早,否则在粒子群算法还具有较好的收敛性的情况下就借助混沌搜索会过早的破坏群中粒子间的关系,反而达不到较好的寻优结果.混沌寻优的起始迭代次数T(即当基本粒子群算法迭代T次后,最优值基本保持不变,此时开始混沌搜索),要根据具体的情况而定.本文中的仿真一般将T取为最大迭代次数的14～13,此时粒子群算法基本陷入局部极小点,借助混沌搜索遍历以局部极小点为中心的一定范围内的各点,有助于跳出局部极值.

3　结论

实践证明,所提出的基于混沌搜索的混和粒子群算法是一种有效的优化方法,它能够解决大量非线性、不可微和多峰值的复杂问题优化,并能获得较高的求解精度.由于该算法首先判断粒子群历史最优粒子位置p g是否长时间连续不变化或变化极小,因此迭代运算过程中混沌搜索运算出现次数很少,对运算量的增加很少.相反,由于能及时判断问题的解是否已收敛于局部最优点,并迅速摆脱它的束缚,新算法在提高搜索成功率的同时,搜索速度并没有受到太大的影响.

在本文中的混沌搜索的搜索半径δ的选择较为困难,δ过大搜索效率低,δ过小又很难跳出局部极值,目前主要根据具体的数学模型,依靠经验选择.寻找一种自适应的方法,依据搜索结果对δ进行自动调整是今后值得研究的一个问题.

参考文献:

[1]KENNEDY J,EBERTHART R C.Particle s warm optimization

[A].Proceedings of IEEE International Conference on Neural

Networks[C].Piscataway(USA):IEEE Press,1995.1942-1948.

[2]ZHI X H,XING X L,WANG Q X,et al.A d iscrete PSO

method for generalized TSP problem[J].Machine Learning and Cybernetics,2004,(4):2378-2383.

[3]GRIMALDI E A,GRIMACCIA F,MUSSETTA M,et al.PSO

as an effective learnin g algorithm for neural net work applications [J].Computational Electromagnetics and Its Applications, 2004,(3):557-560.

[4]SUGISAKA M,FAN X J.An effective search method for NN-

based face detection using PSO[J].Proceedin gs of SICE, 2004,(3):2742-2745.

[5]VENAYAGAMOORTHY G K,DOCTOR S.Navigation of mo-

bile sensors using PSO and embedded PSO in a fuzzy logic con-troller[J].Proceedings of IEEE IAS on Industry Applications, 2004,(2):1200-1206.(下转第114页)

参考文献:

[1]G RISEL D.An integrated low-power thin fil m CO gas sensor on

silicon[J].Sensors and Actuators,1998,B52:301-313. [2]WANG X.An integrated array of multiple thin-fil m metal oxide

sensors for quantification of individual components in organic vapor mixtures[J].Sensors and Actuators,1993,B13:488-490.

[3]LI Jian-min g,LIU Wen-li,LU Hong-lang,et al.Powder sput-

tering plane thin-film SnO

2CeO

2

alcohol sensor[J].Acta

Electronica Sinica,1996,24(5):114-116.[4]SIMON I,BAUEL N.Micromachined metal oxide gas sensors:

opportunities to improve sensor performance[J].Sensors and Actuators,2001,B(73):1-26.

[5]邢建平,蔡成森,李娟,等.采用粉末溅射的Sn O2CeO2薄

膜气敏材料和元件[J].功能材料与器件学报,2004,10

(4):475-478.

XING Jian-ping,C AI Cheng-sen,LI Juan,et al.SnO

2

CeO

2 thin film gas sensitive material and sensor prepared by powder sputtering[J].Journal of Functional M aterials and Devices,

2004,10(4):475-478.

(编辑:许力琴)

(上接第50页)

[6]李兵,蒋慰孙.混沌优化方法及其应用[J].控制理论与

应用,1997,14(4):613-615.

LI Bing,JIANG Wei-sun.Chaos optimization method and its application[J].Control Theory and Applications,1997, 14(4):613-615.

[7]LIU Sheng-song,HOU Zhi-jian,WANG Min.A hybrid algo-

rithm for optimal power flow usin g the chaos optimization and the linear interior point algorithm[J].Power System Technolo-gy,2002,(2):793-797.

[8]张彤,王宏伟,王子才.变尺度混沌优化方法及其应用

[J].控制与决策,1999,14(3):285-287.

ZHANG Tong,WANG Hon g-wei,WANG Zi-cai.Mutative scale chaos optimization algorith m and its application[J].Con-trol and Decision,1999,14(3):285-287.

[9]SHI Y,EBERHART R.A modified particle s warm optimizer

[J].IEEE World Congress on Computational Intelligence, 1998,(1):69-73.

[10]CLERC M,KE NNEDY J.The particle s warm-explosion,sta-

bility,and convergence in a multidimensional complex space

[J].IEEE Transactions on Evolutionary Computer,2002,

6(1):58-76.

(编辑:许力琴)

(上接第55页)

[2]LASALLE J P,LEFSCHETZ S.Stability by Lyapunov's direct

method[M].New York:Academic Press,1961.

[3]DESOER C A,M VIDYASAGAR.Feedback systems:input-

outp ut properties[M].New York:Academic Press,1975. [4]R OUC HE N,HABETS P,M LALOY.Stability theory of Lya-

punov direct method[M].New York:Springer,1977.

[5]ARTSTEIN Z.Stabilizations with relaxed controls[J].Nonlin-

ear Analysis,1983,7:1163-1173.

[6]SLOTINE J J E,LI W P.Applied nonlinear control[M].NJ:

Prentice Hall,1991.

[7]KRSTIM,KANELLAKOPOULOS I,KOKOTOVIP V.Nonlin-

ear and adaptive control design[M].New York:John Wiley

and Sons,1995.[8]KHALIL H K.Nonlinear systems[M].NJ:Prentice Hall,

2002.

[9]TAO G.A simple alternative to the Barbalat lemma[J].IEEE

Transactions on Automatic Control,1997,42(5):698. [10]TEEL A R.Asymptotic convergence fromstability[J].IEEE

Transactions on Automatic Control,1999,44(11):2169-

2170.

[11]ISIDORI A.Nonlinear control systems[M].London:Spring-

er-Verlag,1995.

[12]PAN E Z,KOKOTOVIP V.Locally optimal backstepping de-

sign[J].IEEE Transactions on Automatic Control,2000,

45(2):260-271.

(编辑:许力琴)