一种基于经验模式分解与支持向量机的转子故障诊断方法

(完整版)支持向量机(SVM)原理及应用概述

支持向量机（SVM ）原理及应用 一、SVM 的产生与发展 自1995年Vapnik (瓦普尼克)在统计学习理论的基础上提出SVM 作为模式识别的新方法之后，SVM 一直倍受关注。同年，Vapnik 和Cortes 提出软间隔(soft margin)SVM ，通过引进松弛变量i ξ度量数据i x 的误分类(分类出现错误时i ξ大于0)，同时在目标函数中增加一个分量用来惩罚非零松弛变量(即代价函数)，SVM 的寻优过程即是大的分隔间距和小的误差补偿之间的平衡过程；1996年，Vapnik 等人又提出支持向量回归 (Support Vector Regression ，SVR)的方法用于解决拟合问题。SVR 同SVM 的出发点都是寻找最优超平面(注：一维空间为点；二维空间为线；三维空间为面；高维空间为超平面。)，但SVR 的目的不是找到两种数据的分割平面，而是找到能准确预测数据分布的平面，两者最终都转换为最优化问题的求解；1998年，Weston 等人根据SVM 原理提出了用于解决多类分类的SVM 方法(Multi-Class Support Vector Machines ，Multi-SVM)，通过将多类分类转化成二类分类，将SVM 应用于多分类问题的判断：此外，在SVM 算法的基本框架下，研究者针对不同的方面提出了很多相关的改进算法。例如，Suykens 提出的最小二乘支持向量机 (Least Square Support Vector Machine ，LS —SVM)算法，Joachims 等人提出的SVM-1ight ，张学工提出的中心支持向量机 (Central Support Vector Machine ，CSVM)，Scholkoph 和Smola 基于二次规划提出的v-SVM 等。此后，台湾大学林智仁(Lin Chih-Jen)教授等对SVM 的典型应用进行总结，并设计开发出较为完善的SVM 工具包，也就是LIBSVM(A Library for Support Vector Machines)。LIBSVM 是一个通用的SVM 软件包，可以解决分类、回归以及分布估计等问题。 二、支持向量机原理 SVM 方法是20世纪90年代初Vapnik 等人根据统计学习理论提出的一种新的机器学习方法，它以结构风险最小化原则为理论基础，通过适当地选择函数子集及该子集中的判别函数，使学习机器的实际风险达到最小，保证了通过有限训练样本得到的小误差分类器，对独立测试集的测试误差仍然较小。 支持向量机的基本思想：首先，在线性可分情况下，在原空间寻找两类样本的最优分类超平面。在线性不可分的情况下，加入了松弛变量进行分析，通过使用非线性映射将低维输

EMD经验模式分解信息汇总资料

EMD Empirical Mode Decomposition 经验模态分解 美国工程院院士黄锷1998年提出 一种自适应数据处理或挖掘方法，适用于非线性、非平稳时间序列的处理。 1.什么是平稳和非平稳 时间序列的平稳，一般是宽平稳，即时间序列的方差和均值是和时间无关的常数，协方差与与时间间隔有关、与时间无关。未来样本时间序列，其均值、方差、协方差必定与已经获得的样本相同，理解为平稳的时间序列是有规律且可预测的，样本拟合曲线的形态具有“惯性”。 而非平稳信号样本的本质特征只存在于信号所发生的当下，不会延续到未来，不可预测。 严格来说实际上不存在理想平稳序列，实际情况下都是非平稳。 2.什么是EMD经验模态分解方法？ EMD理论上可以应用于任何类型时间序列信号的分解，在实际工况中大量非平稳信号数据的处理上具有明显优势。这种优势是相对于建立在先验性假设的谐波基函数上的傅里叶分解和小波基函数上的小波分解而言的。EMD分解信号不需要事先预定或强制给定基函数，而是依赖信号本身特征自适应地进行分解。 相对于小波分解：EMD克服了基函数无自适应性的问题，小波分析需要选定一个已经定义好的小波基，小波基的选择至关重要，一旦选定，在整个分析过程中无法更换。这就导致全局最优的小波基在局部的表现可能并不好，缺乏适应性。而EMD不需要做预先的分析与研究，可以直接开始分解，不需要人为的设置和干预。 相对于傅里叶变换：EMD克服了传统傅里叶变换中用无意义的谐波分量来表示非线性、非平稳信号的缺点，并且可以得到极高的时频分辨率。 EMD方法的关键是将复杂信号分解为有限个本征模函数IMF，Intrinsic Mode Function。分解出来的IMF分量包含了原信号的不同时间尺度上的局部特征信号。 这句话中：不同时间尺度=局部平稳化，通过数据的特征时间尺度来获得本征波动模式，然后分解or筛选数据。 本质上，EMD将一个频率不规则的波化为多个单一频率的波+残波的形式。 原波形=ΣIMFs+余波 信号()t f 筛选出的本征模函数IMF包括余波，对应有实际的物理成因。 现实中的信号分量IMF不会保持完全稳定的频率和振幅，也常常无法从各个分量中直接看出信号规律。EMD分解经常被用作信号特征提取的一个预先处理手段，将各IMF分量作为后续分析方法的输入，以完成更加复杂的工作。 3.IMF的筛选过程 第一步： Get原数据曲线f(t)所有极大值点，三次样条插值函数拟合成原数据的上包络线； Get原数据曲线f(t)所有极小值点，三次样条插值函数拟合成原数据的下包络线。

支持向量机算法

支持向量机算法 [摘要] 本文介绍统计学习理论中最年轻的分支——支持向量机的算法，主要有：以SVM－light为代表的块算法、分解算法和在线训练法，比较了各自的优缺点，并介绍了其它几种算法及多类分类算法。 [关键词] 块算法分解算法在线训练法 Colin Campbell对SVM的训练算法作了一个综述，主要介绍了以SVM为代表的分解算法、Platt的SMO和Kerrthi的近邻算法，但没有详细介绍各算法的特点，并且没有包括算法的最新进展。以下对各种算法的特点进行详细介绍，并介绍几种新的SVM算法，如张学工的CSVM，Scholkopf的v-SVM分类器，J. A. K. Suykens 提出的最小二乘法支持向量机LSSVM，Mint-H suan Yang提出的训练支持向量机的几何方法，SOR以及多类时的SVM算法。 块算法最早是由Boser等人提出来的，它的出发点是：删除矩阵中对应于Lagrange乘数为零的行和列不会对最终结果产生影响。对于给定的训练样本集，如果其中的支持向量是已知的，寻优算法就可以排除非支持向量，只需对支持向量计算权值（即Lagrange乘数）即可。但是，在训练过程结束以前支持向量是未知的，因此，块算法的目标就是通过某种迭代逐步排除非支持向时。具体的做法是，在算法的每一步中块算法解决一个包含下列样本的二次规划子问题：即上一步中剩下的具有非零Lagrange乘数的样本，以及M个不满足Kohn-Tucker条件的最差的样本；如果在某一步中，不满足Kohn-Tucker条件的样本数不足M 个，则这些样本全部加入到新的二次规划问题中。每个二次规划子问题都采用上一个二次规划子问题的结果作为初始值。在最后一步时，所有非零Lagrange乘数都被找到，因此，最后一步解决了初始的大型二次规划问题。块算法将矩阵的规模从训练样本数的平方减少到具有非零Lagrange乘数的样本数的平方，大减少了训练过程对存储的要求，对于一般的问题这种算法可以满足对训练速度的要求。对于训练样本数很大或支持向量数很大的问题，块算法仍然无法将矩阵放入内存中。 Osuna针对SVM训练速度慢及时间空间复杂度大的问题，提出了分解算法，并将之应用于人脸检测中，主要思想是将训练样本分为工作集B的非工作集N，B中的样本数为q个，q远小于总样本个数，每次只针对工作集B中的q个样本训练，而固定N中的训练样本，算法的要点有三：1）应用有约束条件下二次规划极值点存大的最优条件KTT条件，推出本问题的约束条件，这也是终止条件。2）工作集中训练样本的选择算法，应能保证分解算法能快速收敛，且计算费用最少。3）分解算法收敛的理论证明，Osuna等证明了一个定理：如果存在不满足Kohn-Tucker条件的样本，那么在把它加入到上一个子问题的集合中后，重新优化这个子问题，则可行点（Feasible Point）依然满足约束条件，且性能严格地改进。因此，如果每一步至少加入一个不满足Kohn-Tucker条件的样本，一系列铁二次子问题可保证最后单调收敛。Chang，C.-C.证明Osuna的证明不严密，并详尽地分析了分解算法的收敛过程及速度，该算法的关键在于选择一种最优的工

支持向量机分类器

支持向量机分类器 1 支持向量机的提出与发展 支持向量机( SVM, support vector machine )是数据挖掘中的一项新技术，是借助于最优化方法来解决机器学习问题的新工具，最初由V.Vapnik 等人在1995年首先提出，近几年来在其理论研究和算法实现等方面都取得了很大的进展，开始成为克服“维数灾难”和过学习等困难的强有力的手段，它的理论基础和实现途径的基本框架都已形成。 根据Vapnik & Chervonenkis的统计学习理论 ,如果数据服从某个(固定但未知的)分布,要使机器的实际输出与理想输出之间的偏差尽可能小,则机器应当遵循结构风险最小化 ( SRM,structural risk minimization)原则,而不是经验风险最小化原则,通俗地说就是应当使错误概率的上界最小化。SVM正是这一理论的具体实现。与传统的人工神经网络相比, 它不仅结构简单,而且泛化( generalization)能力明显提高。 2 问题描述 2.1问题引入 假设有分布在Rd空间中的数据，我们希望能够在该空间上找出一个超平面(Hyper-pan),将这一数据分成两类。属于这一类的数据均在超平面的同侧，而属于另一类的数据均在超平面的另一侧。如下图。 比较上图，我们可以发现左图所找出的超平面（虚线），其两平行且与两类数据相切的超平面（实线）之间的距离较近，而右图则具有较大的间隔。而由于我们希望可以找出将两类数据分得较开的超平面，因此右图所找出的是比较好的超平面。 可以将问题简述如下： 设训练的样本输入为xi，i=1，…，l，对应的期望输出为yi∈{+1，-1}，其中+1和-1分别代表两类的类别标识，假定分类面方程为ω﹒x+b=0。为使分类面对所有样本正确分类并且具备分类间隔，就要求它满足以下约束条件： 它追求的不仅仅是得到一个能将两类样本分开的分类面，而是要得到一个最优的分类面。 2.2 问题的数学抽象 将上述问题抽象为： 根据给定的训练集

笼型异步电动机转子断条故障诊断技术

2006年第21卷第3期 电 力 学 报 Vol.21No.32006 (总第76期) JOURNAL OF ELECT RIC POWER (Sum.76) 文章编号: 1005-6548(2006)03-0310-04 笼型异步电动机转子断条故障诊断技术 安永红, 夏昌浩 (三峡大学,宜昌湖北 443002) Techniques of Broken Rotor Bar Fault Diagnosis For Squirrel Cage Induction Motor AN Yong hong, XIA Chang hao (Three Gorge University,Yichang 443002,China) 摘 要: 对笼型异步电动机转子断条故障诊断进行了研究,归纳和总结出几种方法。这些方法均由研究人员进行了仿真或实验验证,对检测笼型异步电动机的转子故障是有效的。并对各种方法进行了分析比较,指出了各自的优缺点。 关键词: 异步电动机;转子断条;故障检测 中图分类号: TM343+.3 文献标识码: A Abstract: This paper focuses on the study of bro ken rotor bar fault diagnosis for squirrel cage induc tion motor,and concludes several effective methods. All of the methods have been tested by reseachers to simulate or identify their validity in motor rotor fault analysis.This paper compares these methods and points out their advantages and disadvantages. Key Words: induction motor;broken rotor bar; fault detection 鼠笼式异步电动机的转子绕组比较坚固,但如果转子温度过高或作用在端环的离心负荷过大,可能会导致转子故障。另外,在制造过程中的某些缺陷(如铸导条或焊端环时的质量不良)也会导致电阻过高,从而引起过热。而在高温条件下,鼠笼的强度降低,鼠笼条可能出现裂纹,导致笼条伸出转子槽外而得不到转子铁芯的支撑。导条与转子槽的相对位移,连续的高温运行可引起端环和导条变形,并最终导致端环与鼠笼条的断裂[1]。 笼型异步电动机转子断条故障将导致电机出力下降,运行性能恶化,一旦发生,不仅会损坏电动机本身,而且会影响整个生产系统,甚至会危及人身安全,造成巨大的经济损失和恶劣的社会影响[2]。因此必须对其进行检测,特别是进行早期检测,早期检测系统可以在故障发生初期及时告警,有助于现场组织,安排维修,避免事故停机,具有显著经济效益。 1 转子断条故障诊断方法 笼型异步电动机转子故障的检测与诊断方法有许多种,如:磁通检测法,定子电流检测法,机械信号检测法,傅立叶变换法等。但这些方法有时很难提取转子故障特征,因此,必须寻求其它的检测与诊断方法。 1 1 基于小波变换的方法 笼型异步电动机正常运行时,定子绕组中只含 收稿日期: 2006-04-27 修回日期: 2006-09-10 作者简介: 安永红(1967-),男,湖北钟祥人,硕士研究生,小波理论及应用; 夏昌浩(1965-),男,湖北江陵人,副教授,硕士生导师,检测与自控,智能信号处理。

支持向量机算法学习总结

题目：支持向量机的算法学习 姓名： 学号： 专业： 指导教师：、 日期：2012年6 月20日

支持向量机的算法学习 1. 理论背景 基于数据的机器学习是现代智能技术中的重要方面，研究从观测数据 (样本) 出发寻找规律，利用这些规律对未来数据或无法观测的数据进行预测。迄今为止，关于机器学习还没有一种被共同接受的理论框架，关于其实现方法大致可以分为三种： 第一种是经典的(参数)统计估计方法。包括模式识别、神经网络等在内，现有机器学习方法共同的重要理论基础之一是统计学。参数方法正是基于传统统计学的，在这种方法中，参数的相关形式是已知的，训练样本用来估计参数的值。这种方法有很大的局限性，首先，它需要已知样本分布形式，这需要花费很大代价，还有，传统统计学研究的是样本数目趋于无穷大时的渐近理论，现有学习方法也多是基于此假设。但在实际问题中，样本数往往是有限的，因此一些理论上很优秀的学习方法实际中表现却可能不尽人意。 第二种方法是经验非线性方法，如人工神经网络(ANN。这种方法利用已知样本建立非线性模型，克服了传统参数估计方法的困难。但是，这种方法缺乏一种统一的数学理论。 与传统统计学相比，统计学习理论( Statistical Learning Theory 或SLT) 是一种专门研究小样本情况下机器学习规律的理论。该理论针对小样本统计问题建立了一套新的理论体系，在这种体系下的统计推理规则不仅考虑了对渐近性能的要求，而且追求在现有有限信息的条件下得到最优结果。V. Vapnik 等人从六、七十年代开始致力于此方面研究[1] ，到九十年代中期，随着其理论的不断发展和成熟，也由于神经网络等学习方法在理论上缺乏实质性进展，统计学习理论开始受到越来越广泛的重视。 统计学习理论的一个核心概念就是VC维(VC Dimension)概念，它是描述函数集或学习机器的复杂性或者说是学习能力(Capacity of the machine) 的一个重要指标，在此概念基础上发展出了一系列关于统计学习的一致性(Consistency) 、收敛速度、推广性能(GeneralizationPerformance) 等的重要结论。 支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性(即对特定训练样本的学习精度，Accuracy) 和学习能力(即无错误地识别任意样本的能力)之间寻求最佳折衷，以

二维经验模态分解的关键问题

Key Problems of Bidimensional Empirical Mode Decomposition Guangtao Ge School of Information and Electronic Engineering Zhejiang Gongshang University Hangzhou, China ggtggtggt@https://www.360docs.net/doc/d78260691.html, Guangtao Ge Department of Information Science & Electronic Engineering Zhejiang University Hangzhou, China ggtggtggt@https://www.360docs.net/doc/d78260691.html, Abstract—In recent years , an emerging theory of Empirical Mode Decomposition (EMD) is an important breakthrough in the field of signal processing. This paper reviews three key problems in the development of the Bidimensional Empirical Mode Decomposition (BEMD) theory and introduces the latest developments of surface-fitting algorithms, boundary corruption solution methods and the BEMD criterion for stopping the sifting process. Then this paper also comments several open problems in BEMD theory and discusses the existing difficult problems . Keywords-component; Bidimensional Empirical Mode Decomposition; surface-fitting; boundary corruption; BEMD criterion 二维经验模态分解的关键问题 葛光涛1， 2 1.浙江工商大学信息与电子工程学院，杭州，中国，310018 2. 浙江大学信息与电子工程学系，杭州，中国，310027 ggtggtggt@https://www.360docs.net/doc/d78260691.html, 【摘要】近年国际上出现的经验模态分解理论(Empirical Mode Decomposition , EMD)是信号处理领域的一个重大突破。本文综述了二维经验模态分解(Bidimensional Empirical Mode Decomposition , BEMD)理论发展过程中涉及的三个关键问题,并着重介绍了曲面拟合、边界污染处理和停止准则制定这三个方面的最新进展,评述了其中的公开问题,对研究中现存的难点问题进行了探讨。 【关键词】二维经验模态分解；曲面拟合；边界污染；停止准则 1 引言 1998 年美国国家宇航局（NASA）的Norden E.huang等人首次提出对一列时间序列数据先进行经验模态分解(以Empirical Mode Decomposition表示 , 简写作EMD)，然后对各个分量作希尔伯特变换。这种变换被称为希尔伯特黄变换（Hilbert-Huang transform, HHT）[1,3]。这种信号处理方法被认为是近年来对以傅立叶变换为基础的线性和稳态谱分析的一个重大突破。该方法从本质上讲是对一个复杂的信号进行平稳化处理[2]，其结果是将信号中不同尺度的波动或趋势逐级分解开来，由于这种分解是基于局部特征尺度，作为一种完全的数据驱动方法，它具有良好的局部适应性，因此，该方法既能对平稳信号进行分析，又能对非平稳信号进行分析。 以往很多的一维信号处理方法被成功地推广到空间二维信号处理领域，被应用于二维图像数据的处理时同样可以得到良好的效果[4]。例如，傅立叶变换、离散余弦变换以及小波变换等信号处理的技术已经广泛应用于数字图像处理领域，具体应用包括图像滤波、图像复原、图像增强、图像拼接、图像压缩以及数字水印等方面。经验模态分解方法在一维信号处理方面已经获得巨大的成功，所以如果能将一维经验模式分解方法推广到二维，将会给图像处理等领域提供一种新的有效的数据处理手段。 二维经验模态分解理论的发展过程中主要涉及以下几个重要问题[5]：曲面的精确拟合，边界污染的克服，合理停止准则的制定等。 2010 International Conference on Remote Sensing (ICRS) 978-1-4244-8729-5/10/$26.00 ?2010 IEEE ICRS2010

电动机断条故障理论分析

利用连续细化的傅里叶变换方法，通过对异步电动机稳态运行时定子电流进行分析，提出了用傅里叶变换的结果作为参考信号以抵消基波1f 分量的方法，解决了傅里叶变换时1f 分量的泄漏淹没()121f s -分量这以问题。该方法可用于电动机转子故障的在线检测，并可成功应用于嵌入式在线监测仪的研制。 三相异步电动机由于结构简单、价格低廉、运行可靠，在电力、冶金、石油、化工、机械等领域得到广泛应用。由于工作环境恶劣或者电动机频繁启动等原因，转子导条或者端环经常会发生开焊和断裂等故障。这种故障通常先有1~2根，而后发展成多根，以至出力下降，最后带不动负荷而停机。对电动机进行在线检测，提前发现电动机的故障隐患及早采取相应措施，以减少或者避免恶性故障的发生。 目前常用的转子断条在线检测方法是对稳态的定子电流信号直接进行频谱分析，根据频谱中是否存在()121f s -的附加分量来判断转子有无断条。但由于()121f s -分量的绝对幅值很小，并且异步电动机运行时转差率s 很小，频率()121f s -与1f 非常接近，用快速傅里叶变换直接作频谱分析时，基波1f 频率分量的泄漏会淹没()121f s -频率分量，因而使检测()121f s -频率分量是否存在变得非常困难。 本文采用快速傅里叶变换的方法，通过快速傅里叶变换得到电动机断条时信号的频谱，为了抵消基频50Hz 频谱图由于频谱泄漏对故障信号频谱的淹没，将电动机断条故障时的信号经自适应陷波器处理，以滤除工频50Hz 对特征分量的影响。

第一章绪论 1 引言 2 电动机转子断条故障的现状与课题意义 3 本文的主要研究方法法与研究内容 第二章电动机的结构与工作原理 2.1 电动机结构及原理分析 2.1.1 组成结构 2.1.2 转子的结构、定子的结构 2.1.3 电动机工作原理分析 2.2 电动机断条故障的原理 2.2.1转子断条原因 2.2.2转子断条常见现象 2.2.3断条原因分析 第三章快速傅里叶变换与MATLAB实现 3.1 MATLAB简介 3.2 快速傅里叶变换的数字实验 3.3 本章小结 第四章自适应陷波器原理 4.1 原理分析 4.2 基于LMS算法的MATLAB实现 4.3 用MATLAB程序实现LMS算法 4.4 本章小结 第五章电动机断条故障理论分析 5.1 电动机断条故障理论分析 5.1.1异步电动机转子断条故障时定子电流的特点 5.1.2电动机断条故障理论分析程序流程图 5.1.3理论仿真波形及其分析 5.2 理论仿真波形与分析 5.3 本章小结 参考文献 附录 致谢

支持向量机原理及应用(DOC)

支持向量机简介 摘要：支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度）和学习能力（即无错误地识别任意样本的能力）之间寻求最佳折衷，以求获得最好的推广能力 。我们通常希望分类的过程是一个机器学习的过程。这些数据点是n 维实空间中的点。我们希望能够把这些点通过一个n-1维的超平面分开。通常这个被称为线性分类器。有很多分类器都符合这个要求。但是我们还希望找到分类最佳的平面，即使得属于两个不同类的数据点间隔最大的那个面，该面亦称为最大间隔超平面。如果我们能够找到这个面，那么这个分类器就称为最大间隔分类器。 关键字：VC 理论 结构风险最小原则 学习能力 1、SVM 的产生与发展 自1995年Vapnik 在统计学习理论的基础上提出SVM 作为模式识别的新方法之后，SVM 一直倍受关注。同年，Vapnik 和Cortes 提出软间隔(soft margin)SVM ，通过引进松弛变量i ξ度量数据i x 的误分类(分类出现错误时i ξ大于0)，同时在目标函数中增加一个分量用来惩罚非零松弛变量(即代价函数)，SVM 的寻优过程即是大的分隔间距和小的误差补偿之间的平衡过程；1996年，Vapnik 等人又提出支持向量回归 (Support Vector Regression ，SVR)的方法用于解决拟合问题。SVR 同SVM 的出发点都是寻找最优超平面，但SVR 的目的不是找到两种数据的分割平面，而是找到能准确预测数据分布的平面，两者最终都转换为最优化问题的求解；1998年，Weston 等人根据SVM 原理提出了用于解

支持向量机训练算法综述_姬水旺

收稿日期:2003-06-13 作者简介:姬水旺(1977)),男,陕西府谷人,硕士,研究方向为机器学习、模式识别、数据挖掘。 支持向量机训练算法综述 姬水旺,姬旺田 (陕西移动通信有限责任公司,陕西西安710082) 摘 要:训练SVM 的本质是解决二次规划问题,在实际应用中,如果用于训练的样本数很大,标准的二次型优化技术就很难应用。针对这个问题,研究人员提出了各种解决方案,这些方案的核心思想是先将整个优化问题分解为多个同样性质的子问题,通过循环解决子问题来求得初始问题的解。由于这些方法都需要不断地循环迭代来解决每个子问题,所以需要的训练时间很长,这也是阻碍SVM 广泛应用的一个重要原因。文章系统回顾了SVM 训练的三种主流算法:块算法、分解算法和顺序最小优化算法,并且指出了未来发展方向。关键词:统计学习理论;支持向量机;训练算法 中图分类号:T P30116 文献标识码:A 文章编号:1005-3751(2004)01-0018-03 A Tutorial Survey of Support Vector Machine Training Algorithms JI Shu-i wang,JI Wang -tian (Shaanx i M obile Communicatio n Co.,Ltd,Xi .an 710082,China) Abstract:Trai n i ng SVM can be formulated into a quadratic programm i ng problem.For large learning tasks w ith many training exam ples,off-the-shelf opti m i zation techniques quickly become i ntractable i n their m emory and time requirem ents.T hus,many efficient tech -niques have been developed.These techniques divide the origi nal problem into several s maller sub-problems.By solving these s ub-prob -lems iteratively,the ori ginal larger problem is solved.All proposed methods suffer from the bottlen eck of long training ti me.This severely limited the w idespread application of SVM.T his paper systematically surveyed three mains tream SVM training algorithms:chunking,de -composition ,and sequenti al minimal optimization algorithms.It concludes with an illustrati on of future directions.Key words:statistical learning theory;support vector machine;trai ning algorithms 0 引 言 支持向量机(Support Vector M achine)是贝尔实验室研究人员V.Vapnik [1~3]等人在对统计学习理论三十多年的研究基础之上发展起来的一种全新的机器学习算法,也使统计学习理论第一次对实际应用产生重大影响。SVM 是基于统计学习理论的结构风险最小化原则的,它将最大分界面分类器思想和基于核的方法结合在一起,表现出了很好的泛化能力。由于SVM 方法有统计学习理论作为其坚实的数学基础,并且可以很好地克服维数灾难和过拟合等传统算法所不可规避的问题,所以受到了越来越多的研究人员的关注。近年来,关于SVM 方法的研究,包括算法本身的改进和算法的实际应用,都陆续提了出来。尽管SVM 算法的性能在许多实际问题的应用中得到了验证,但是该算法在计算上存在着一些问题,包括训练算法速度慢、算法复杂而难以实现以及检测阶段运算量大等等。 训练SVM 的本质是解决一个二次规划问题[4]: 在约束条件 0F A i F C,i =1,, ,l (1)E l i =1 A i y i =0 (2) 下,求 W(A )= E l i =1A i -1 2 E i,J A i A j y i y j {7(x i )#7(x j )} = E l i =1A i -1 2E i,J A i A j y i y j K (x i ,x j )(3)的最大值,其中K (x i ,x j )=7(x i )#7(x j )是满足Merce r 定理[4]条件的核函数。 如果令+=(A 1,A 2,,,A l )T ,D ij =y i y j K (x i ,x j )以上问题就可以写为:在约束条件 +T y =0(4)0F +F C (5) 下,求 W(+)=+T l -12 +T D +(6) 的最大值。 由于矩阵D 是非负定的,这个二次规划问题是一个凸函数的优化问题,因此Kohn -Tucker 条件[5]是最优点 第14卷 第1期2004年1月 微 机 发 展M icr ocomputer Dev elopment V ol.14 N o.1Jan.2004

经验模态分解EMD

经验模态分解EMD 经验模态分解是一种基于信号局部特征的信号分解方法。是一种自适应的信号分解方法 任何复杂的信号都是由简单的固有模态函数(intrinsic mode function，IMF)组成，且每一个IMF 都是相互独立的。该方法可以将风速数据时间序列中真实存在的不同尺度或趋势分量逐级分解出来，产生一系列具有相同特征尺度的数据序列，分解后的序列与风速原始数据序列相比具有更强的规律性。 ＥＭＤ的基本思想认为任何复杂的信号都是由一些相互不同的、简单非正弦函数的分量信号组成。 EMD将非平稳序列分解为数目不多的IMF 分量c和一个趋势项r（残余函数），r是原序列经过逐级分离出IMF 分量后，最终剩下来的“分量”，是单调的和光滑的。 信号的EMD 分解本质上是通过求包络线对信号不断进行移动平均的迭代过程，包络线的不准确将导致信号分解的不完全。传统算法在求包络线时在信号端点处易产生飞翼现象, 即在端点处会产生过大或过小振幅, 若不先对信号进行端点延拓, EMD 分解将无法继续。 确定信号决定了交通流变化的总体趋势，不确定性干扰信号使实际交通流变化在趋势线附近呈现大小不一的波动。 信号从高到低不同频段的成分，具有不等带宽的特点，并且EMD 方法是根据信号本身固有特征的自适应分解。

EMD分解的目的是根据信号的局部时间特征尺度，按频率由高到低把复杂的非线性、非平稳信号分解为有限经验模态函数（IMF）之和 r(t)为残余函数，一般为信号的平均趋势。是非平稳函数的单调趋势项。 风速时间序列的EMD 分解步骤如下： 1）识别出信号中所有极大值点并拟合其包络线eup(t)。 2 ）提取信号中的极小值点和拟合包络线elow(t)，计算上下包络线的平均值m1(t)。 up low 1 ( ) ( ) ( ) 2 e t e t m t + = (1) 3）将x(t)减去m1(t)得到h1(t)，将h1(t)视为新的信号x(t)，重复第1）步，经过k 次筛选，直到h1(t)=x(t)?m1(t)满足IMF 条件，记c1(t)=h1(t)，则c1(t)为风速序列的第1 个IMF 分量，它包含原始序列中最短的周期分量。从原始信号中分离出IMF 分量c1(t)，得

支持向量机数据分类预测

支持向量机数据分类预测 一、题目——意大利葡萄酒种类识别 Wine数据来源为UCI数据库，记录同一区域三种品种葡萄酒的化学成分，数据有178个样本，每个样本含有13个特征分量。50%做为训练集，50%做为测试集。 二、模型建立 模型的建立首先需要从原始数据里把训练集和测试集提取出来，然后进行一定的预处理，必要时进行特征提取，之后用训练集对SVM进行训练，再用得到的模型来预测试集的分类。 三、Matlab实现 3.1 选定训练集和测试集 在178个样本集中，将每个类分成两组，重新组合数据，一部分作为训练集，一部分作为测试集。 % 载入测试数据wine,其中包含的数据为classnumber = 3,wine:178*13的矩阵,wine_labes:178*1的列向量 load chapter12_wine.mat; % 选定训练集和测试集 % 将第一类的1-30,第二类的60-95,第三类的131-153做为训练集 train_wine = [wine(1:30,:);wine(60:95,:);wine(131:153,:)]; % 相应的训练集的标签也要分离出来 train_wine_labels = [wine_labels(1:30);wine_labels(60:95);wine_labels(131:153)]; % 将第一类的31-59,第二类的96-130,第三类的154-178做为测试集 test_wine = [wine(31:59,:);wine(96:130,:);wine(154:178,:)]; % 相应的测试集的标签也要分离出来 test_wine_labels = [wine_labels(31:59);wine_labels(96:130);wine_labels(154:178)]; 3.2数据预处理 对数据进行归一化： %% 数据预处理 % 数据预处理,将训练集和测试集归一化到[0,1]区间 [mtrain,ntrain] = size(train_wine); [mtest,ntest] = size(test_wine); dataset = [train_wine;test_wine]; % mapminmax为MATLAB自带的归一化函数 [dataset_scale,ps] = mapminmax(dataset',0,1); dataset_scale = dataset_scale';

支持向量机(SVM)算法推导及其分类的算法实现

支持向量机算法推导及其分类的算法实现 摘要：本文从线性分类问题开始逐步的叙述支持向量机思想的形成，并提供相应的推导过程。简述核函数的概念，以及kernel在SVM算法中的核心地位。介绍松弛变量引入的SVM算法原因，提出软间隔线性分类法。概括SVM分别在一对一和一对多分类问题中应用。基于SVM在一对多问题中的不足，提出SVM 的改进版本DAG SVM。 Abstract：This article begins with a linear classification problem, Gradually discuss formation of SVM, and their derivation. Description the concept of kernel function, and the core position in SVM algorithm. Describes the reasons for the introduction of slack variables, and propose soft-margin linear classification. Summary the application of SVM in one-to-one and one-to-many linear classification. Based on SVM shortage in one-to-many problems, an improved version which called DAG SVM was put forward. 关键字：SVM、线性分类、核函数、松弛变量、DAG SVM 1. SVM的简介 支持向量机(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。支持向量机方法是建立在统计学习理论的VC 维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性（即对特定训练样本的学习精度，Accuracy）和学习能力（即无错误地识别任意样本的能力）之间寻求最佳折衷，以期获得最好的推广能力。 对于SVM的基本特点，小样本，并不是样本的绝对数量少，而是与问题的复杂度比起来，SVM算法要求的样本数是相对比较少的。非线性，是指SVM擅长处理样本数据线性不可分的情况，主要通过松弛变量和核函数实现，是SVM 的精髓。高维模式识别是指样本维数很高，通过SVM建立的分类器却很简洁，只包含落在边界上的支持向量。

用于分类的支持向量机

文章编号:100228743(2004)0320075204 用于分类的支持向量机 黄发良,钟　智Ξ (1.广西师范大学计算机系,广西桂林541000; 　2.广西师范学院数学与计算机科学系,广西南宁530001) 摘　要:支持向量机是20世纪90年代中期发展起来的机器学习技术,建立在结构风险最小化原理之上的支持向量机以其独有的优点吸引着广大研究者,该文着重于用于分类的支持向量机,对其基本原理与主要的训练算法进行介绍,并对其用途作了一定的探索. 关键词:支持向量机;机器学习;分类 中图分类号:TP181　文献标识码:A 支持向量机S VM (Support Vector Machine )是AT&T Bell 实验室的V.Vapnik 提出的针对分类和回归问题的统计学习理论.由于S VM 方法具有许多引人注目的优点和有前途的实验性能,越来越受重视,该技术已成为机器学习研究领域中的热点,并取得很理想的效果,如人脸识别、手写体数字识别和网页分类等. S VM 的主要思想可以概括为两点:(1)它是针对线性可分情况进行分析,对于线性不可分的情况,通过使用非线性映射算法将低维输入空间线性不可分的样本转化为高维特征空间使其线性可分,从而使得高维特征空间采用线性算法对样本的非线性特征进行线性分析成为可能;(2)它基于结构风险最小化理论之上在特征空间中建构最优分割超平面,使得学习器得到全局最优化,并且在整个样本空间的期望风险以某个概率满足一定上界. 1　基本原理 支持向量机理论最初来源于数据分类问题的处理,S VM 就是要寻找一个满足要求的分割平面,使训练集中的点距离该平面尽可能地远,即寻求一个分割平面使其两侧的margin 尽可能最大. 设输入模式集合{x i }∈R n 由两类点组成,如果x i 属于第1类,则y i =1,如果x i 属于第2类,则y i =-1,那么有训练样本集合{x i ,y i },i =1,2,3,…,n ,支持向量机的目标就是要根据结构风险最小化原理,构造一个目标函数将两类模式尽可能地区分开来,通常分为两类情况来讨论,(1)线性可分,(2)线性不可分. 1.1　线性可分情况 在线性可分的情况下,就会存在一个超平面使得训练样本完全分开,该超平面可描述为: w ?x +b =0(1) 其中,“?”是点积,w 是n 维向量,b 为偏移量. 最优超平面是使得每一类数据与超平面距离最近的向量与超平面之间的距离最大的这样的平面.最优超平面可以通过解下面的二次优化问题来获得: min <(w )= 12‖w ‖2(2) Ξ收稿日期:2004202206作者简介:黄发良(1975-),男,湖南永州人,硕士研究生;研究方向:数据挖掘、web 信息检索. 2004年9月 广西师范学院学报(自然科学版)Sep.2004 第21卷第3期 Journal of G u angxi T eachers Education U niversity(N atural Science Edition) V ol.21N o.3

笼型异步电动机转子断条故障检测方法

笼型异步电动机转子断条故障检测方法 笼型异步电动机在运行过程中，转子导条受到径向电磁力、旋转电磁力、离心力、热弯曲挠度力等交变应力的作用，加之转子制造缺陷，导致断条故障，其发生概率约为15%[1~3]。 转子断条是典型的渐进性故障，初期通常1、2根导条断裂，而后逐渐发展以至电机出力下降甚至停机。因此，必须实施转子断条故障在线检测，特别是初发性转子断条故障在线检测，这具有重要意义。 笼型异步电动机发生转子断条故障之后，在其定子电流中将出现1)21(f s ±频率的附加电流分量（s 为转差率，1f 为供电频率）[4，5]，该电流分量称为边频分量。以此作为故障特征，对定子电流信号做傅立叶频谱分析即可进行转子断条故障检测。 在转子断条故障发展初期，其特征——定子电流1)21(f s ±频率分量是细小、微弱的。因此，进行转子断条故障检测，特别是早期检测必须保证高灵敏度。 另一方面，由于本身所固有的非对称、气隙偏心、转子不对中及其它因素，异步电动机即使处于正常运行状态，其定子电流中亦可能包含1)21(f s ±及其它频率分量。并且对于不同的异步电动机，情况复杂。这极易与转子断条故障初期特征相混淆，导致误判，影响故障检测可靠性。 为了解决这一问题，姜建国、汪庆生 等采用自适应滤波方法抵消定子电流1f 频率分量，以凸现转子断条故障特征——定子电流1)21(f s -频率分量，从而显著提高故障检测灵敏度 [6]。K. Abbaszadeh, J. Milimonfared, et al 应用小波分析技术处理定子电流信号，提取小波分解系数反映转子断条故障特征，据此改善故障检测灵敏度[7]。 华北电力大学业已提出卓有成效的初发性转子断条故障检测方法[8,9]：采用定子电流1)21(f s ±频率分量作为故障特征，将连续细化傅里叶变换、自适应滤波、转子齿槽谐波转差率估计、检测阈值自整定技术有机结合，高灵敏度/高可靠性地在线检测异步电动机转子断条故障。 文献[8，9]表明：应用连续细化傅里叶变换与自适应滤波技术可以保证高灵敏度地提取电机定子电流边频分量；应用转子齿槽谐波转差率估计技术可以正确判断该分量是否真正由转子断条故障所导致；应用基于样本学习的检测阈值自整定策略则可以适当设臵检测阈值，避免故障漏检与误判。 异步电动机低转差率运行（如轻载甚至空载）时，频率1)21(f s -与频率1f 非常接近，而定子电流1)21(f s -频率分量幅值远远小于1f 频率分量，因此断条特征----1)21(f s -频率分量可能被1f 频率分量的泄漏所淹没。在这种情况下，检测结果可信度欠佳。